AI napędza cyberprzestępczość, ale w medycynie wciąż brak dowodów na skuteczność

Publikacja zwraca uwagę na dwa paradoksy współczesnej AI: z jednej strony coraz bardziej zaawansowane narzędzia pomagają cyberprzestępcom w prowadzeniu ataków, z drugiej - mimo obiecujących rezultatów testów, nie mamy pewności czy AI w medycynie rzeczywiście poprawia stan zdrowia pacjentów.

Kluczowe wnioski

• Cyberprzestępcy masowo adoptują AI - od wydania ChatGPT w końcu 2022 roku przestępcy wykorzystują LLM do tworzenia złośliwych e-maili, deepfake'ów i automatycznych skanów podatności • Wzrost liczby cyberataków - AI sprawia, że ataki są szybsze, tańsze i łatwiejsze do przeprowadzenia, co stanowi rosnący problem dla organizacji • AI w medycynie bez dowodów skuteczności - choć narzędzia AI w ochronie zdrowia dają dokładne wyniki w testach, brakuje dowodów na rzeczywistą poprawę zdrowia pacjentów • Lekarze używają AI do notatek i diagnostyki - sztuczna inteligencja pomaga w robieniu notatek, analizie dokumentacji pacjentów i interpretacji wyników badań • Luka w badaniach medycznych - między dokładnością AI w testach a rzeczywistym wpływem na zdrowie pacjentów istnieje znacząca przepaść badawcza

Era cyberprzestępczości napędzanej AI

Według MIT Technology Review, od momentu wydania ChatGPT na końcu 2022 roku cyberprzestępcy szybko zaadoptowali możliwości generatywnej AI. Wykorzystują duże modele językowe nie tylko do komponowania złośliwych e-maili, ale także do tworzenia hiperrealistycznych deepfake'ów i przeprowadzania zautomatyzowanych skanów podatności systemów.

Problem ten został umieszczony na liście "10 rzeczy, które mają znaczenie w AI" - przewodniku MIT Technology Review po najważniejszych trendach w tej dziedzinie. Organizacje borykają się z ogromną liczbą cyberataków, które dzięki AI stają się coraz bardziej wyrafinowane i trudne do wykrycia.

Niepewna przyszłość AI w ochronie zdrowia

W obszarze medycyny sytuacja przedstawia się równie złożenie. Jak pisze Jessica Hamzelou w ramach newslettera "The Checkup", lekarze coraz częściej sięgają po narzędzia AI do różnorodnych zadań - od robienia notatek po interpretację zdjęć rentgenowskich i wyników badań.

Rosnąca liczba badań potwierdza, że te narzędzia potrafią dostarczać dokładne rezultaty. Problemem jest jednak brak odpowiedzi na fundamentalne pytanie: czy używanie AI rzeczywiście przekłada się na lepsze efekty leczenia pacjentów? Według MIT Technology Review, wciąż nie mamy na to zadowalającej odpowiedzi.

Newsletter porusza także inne istotne tematy, w tym premierę nowego modelu DeepSeek-V4 od chińskiej firmy, rosnące ograniczenia dostępu dzieci do mediów społecznościowych oraz amerykańskie oskarżenia wobec Chin o kradzież technologii AI.