Pentagon chce 30 mln dolarów na wykrywacz kłamstw z AI

Pentagon chce wydać 30 mln dolarów na wykrywacz kłamstw wspierany przez AI, według analizy MIT Technology Review opartej na dokumencie budżetowym Departamentu Obrony USA. Program nosi nazwę „Polygraph+” lub „Polygraph Next” i ma trwać pięć lat. Jego celem jest modernizacja federalnych technologii poligraficznych i oceny wiarygodności poprzez algorytmy uczenia maszynowego oraz technikę „standoff sensing” – czyli pomiar reakcji fizjologicznych badanego bez podłączania do niego jakichkolwiek urządzeń.

Informację jako pierwszy ujawnił portal Inside Defense. Zgodnie z dokumentem budżetowym, który nie został jeszcze zatwierdzony przez Kongres, projekt ma zwiększyć dokładność i wiarygodność testów wykorzystywanych do sprawdzania kandydatów do pracy oraz wykrywania „zagrożeń wewnętrznych”.

Kluczowe wnioski

• Departament Obrony chce przeznaczyć 30,3 mln dolarów na pięcioletni program „Polygraph+”, wykorzystujący AI i uczenie maszynowe do oceny wiarygodności.
• Projektem będzie zarządzać Defense Counterintelligence and Security Agency (DCSA), odpowiedzialna za weryfikację pracowników rządu federalnego.
• Klasyczny poligraf, wynaleziony w latach 20. XX wieku, jest wielokrotnie obalany naukowo – jego wyniki rzadko są dopuszczalne w sądzie.
• Departament Obrony zatrudnia 2,8 mln pracowników – nawet niewielki błąd systemu przy takiej skali mógłby fałszywo obciążyć dziesiątki tysięcy osób.
• Eksperci są sceptyczni: badaczka Sophie van der Zee z Erasmus University podsumowuje, że „wciąż nie istnieje nos Pinokia”.

Napięcia w Pentagonie i poszukiwanie przecieków

Program pojawia się w okresie wysokiego napięcia wewnątrz Departamentu Obrony. Za kadencji sekretarza obrony Pete’a Hegsetha Pentagon coraz częściej sięga po testy poligraficzne, próbując zidentyfikować źródła domniemanych przecieków do prasy. Jak podał we wrześniu New York Times, około 50 oficerów Sztabu Połączonego przeszło testy poligraficzne po tym, jak media informowały o wyczerpaniu amerykańskich zapasów uzbrojenia w związku z wojną z Iranem.

Nowa technologia ma być stosowana przez DCSA przy weryfikacji przyszłych pracowników oraz do „wykrywania zagrożeń wewnętrznych”. Nie wiadomo jeszcze, jakie konkretne technologie zostaną wykorzystane – agencja nie odpowiedziała na prośbę o dodatkowe informacje. Wskazówek może dostarczać wcześniejsza inicjatywa Pentagonu: w 2023 roku Defense Innovation Unit (DIU) przeprowadził otwarty nabór firm oferujących produkty do wykrywania oszustw i wybrał dwie z nich do budowy prototypów.

Pierwszą jest Presage Technologies, która twierdzi, że umie mierzyć tętno i częstość oddychania za pomocą standardowych kamer. Drugą – Altec Research, firma produkująca sensory medyczne, rozwijająca obecnie technologie bezdotykowego pomiaru. Ujawniony przez DIU zrzut ekranu prototypu Altec pokazuje, że system śledzi ruchy głowy, temperaturę skóry twarzy oraz aktywność porów. Obie firmy, a także DIU, odmówiły komentarza w tej sprawie.

Dlaczego naukowcy są sceptyczni wobec poligrafu

Klasyczna technologia poligraficzna niemal się nie zmieniła od czasu jej wynalezienia w latach 20. XX wieku. Egzaminatorzy opierają się na pomiarach ciśnienia krwi, pulsu, oddychania i pocenia się, by ocenić, czy badany mówi prawdę – porównując reakcje na pytania kontrolne (np. „Czy niebo jest niebieskie?”) z reakcjami na pytania kluczowe (np. „Czy popełniłeś kiedyś przestępstwo?”).

Rząd federalny przeprowadza dziesiątki tysięcy takich testów rocznie podczas weryfikacji pracowników, ale metoda była wielokrotnie obalana naukowo, a jej wyniki rzadko są dopuszczalne w sądzie. Już w 1983 roku Office of Technology Assessment przy Kongresie doszedł do wniosku, że dowody na przydatność poligrafu w weryfikacji pracowników są bardzo ograniczone. W 2003 roku amerykańska National Research Council (NRC) oceniła, że dowody na jego skuteczność są „słabe w najlepszym przypadku”.

Badania wskazują, że ludzie potrafią rozpoznać kłamstwo tylko w niewiele ponad połowie przypadków bez żadnej pomocy technicznej. American Polygraph Association twierdzi, że poligraf jest dokładny w 80–94 proc. przypadków, jednak raport NRC z 2003 roku zauważył, że test o takiej dokładności, stosowany na dużą skalę, mógłby prowadzić do licznych błędów. Departament Obrony zatrudnia 2,8 mln pracowników – niedoskonały system zastosowany w takiej skali mógłby skończyć się fałszywym obciążeniem dziesiątek tysięcy osób.

Interpretacje wyników poligrafu są często subiektywne – różni egzaminatorzy dochodzą do wyraźnie odmiennych wniosków, a osoby z grup mniejszościowych są częściej oceniane jako nieuczciwe. Co więcej, przy odpowiednim treningu badani mogą stosować techniki oszukiwania testu – najczęściej sztucznie zwiększając reakcję fizjologiczną na pytania kontrolne, na przykład stąpając na ukrytą w bucie szpilkę.

„Jeśli wiesz, jak to działa, możesz to pokonać” – mówi Sophie van der Zee, profesor nadzwyczajny badająca oszustwa na Erasmus University w Rotterdamie. Jej zdaniem największym efektem poligrafu jest odstraszanie – często badani przyznają się do winy jeszcze przed rozpoczęciem testu. „Ale to działa tylko, jeśli ludzie wierzą, że poligraf działa”.

Kyri Kotsoglou, profesor z Northumbria Law School w Wielkiej Brytanii, badający wykorzystanie poligrafów w systemie wymiaru sprawiedliwości, jest jeszcze bardziej krytyczny: „To błędna próba sprowadzenia skomplikowanego problemu do czegoś wymiernego” – mówi o całym projekcie Polygraph+.

Czy AI może zmienić coś, czego nie udało się zmienić przez dekady

Na przestrzeni dekad podejmowano wiele prób zbudowania nowych typów wykrywaczy kłamstw – od kamer termowizyjnych, przez trackery ruchu oczu, po skany mózgu. Żadna z tych metod nie dała wiarygodnych wyników poza warunkami laboratoryjnymi. Problem ma charakter strukturalny: nie istnieje jeden, uniwersalny sygnał kłamstwa, który byłby prawdziwy dla każdego człowieka w każdej sytuacji. „Wciąż nie ma nosa Pinokia” – podsumowuje van der Zee.

Sztuczna inteligencja mogłaby teoretycznie usprawnić poligraf, jeśli byłaby w stanie znaleźć w danych wzorce niewidoczne dla ludzkich egzaminatorów. Algorytmy AI mają być stosowane w podejściu „wielomodalnym”, które łączy wiele różnych pomiarów w jeden ogólny wynik „oszustwa”, trudniejszy do oszukania niż jednowymiarowy test. Van der Zee wskazuje na trzy zjawiska, które wykrywanie kłamstw próbuje wychwycić: stres fizjologiczny, obciążenie kognitywne oraz świadomy wysiłek osoby, by zataić fakt, że kłamie. Obecna technologia poligraficzna dotyka wyłącznie pierwszego z tych aspektów.

Im więcej metod można połączyć, patrząc na problem z tych trzech różnych perspektyw, tym potencjalnie skuteczniejszy może być system – choć, jak podkreślają eksperci cytowani w materiale, historia dotychczasowych prób pokazuje, że łatwych sukcesów w tej dziedzinie nie należy się spodziewać.

Pentagon liczy na to, że sztuczna inteligencja pomoże tam, gdzie technologia z lat 20. XX wieku od dekad zawodzi. Naukowcy zajmujący się badaniem oszustw pozostają jednak sceptyczni – dotychczasowa historia prób „unowocześnienia” wykrywania kłamstw pokazuje, że problem leży głębiej niż w samych czujnikach.