System AI Maven pozwolił amerykańskiemu wojsku przejść od stu do pięciu tysięcy ataków dziennie, fundamentalnie zmieniając tempo współczesnych wojen.
Źródło zdjęcia: The Verge
Sztuczna inteligencja w amerykańskim wojsku przeszła drogę od eksperymentalnego projektu analizy nagrań z dronów do systemu umożliwiającego przeprowadzenie ataków na ponad tysiąc celów w ciągu pierwszej doby konfliktu z Iranem. Nowa książka dziennikarki Katriny Manson szczegółowo opisuje rozwój Project Maven — kontrowersyjnego systemu AI, który fundamentalnie zmienił sposób prowadzenia wojen.
Maven Smart System, jak obecnie nazywa się technologia, łączy wizję komputerową z systemem zarządzania przepływem pracy, który identyfikuje cele, dopasowuje je do broni i pozwala użytkownikom szybko przejść przez kolejne etapy cyklu targetowania. Proces, który kiedyś zajmował godziny, teraz można ukończyć w ciągu sekund.
• Przyspieszenie wojny: Dzięki systemom AI amerykańskie wojsko przeszło od atakowania mniej niż stu celów dziennie do tysiąca, a z dodatkiem modeli językowych — nawet do pięciu tysięcy celów dziennie
• Kontrowersyjne początki: Projekt rozpoczął się w 2017 roku jako eksperyment Google z analizą materiału z dronów, ale protesty pracowników zmusiły firmę do wycofania się z kontraktu
• Obecny zasięg: Maven jest obecnie używany w całych amerykańskich siłach zbrojnych i został niedawno zakupiony przez NATO, łącząc dane satelitarne, radarowe, z mediów społecznościowych i dziesiątki innych źródeł
• Przyszłość autonomiczna: Wojsko rozwija w pełni autonomiczne systemy uzbrojenia, w tym drony-skutery wodne z ładunkami wybuchowymi, zdolne do samodzielnego targetowania i niszczenia celów
• Tragiczne konsekwencje: Jeden z tysięcy celów zaatakowanych pierwszego dnia wojny z Iranem to szkoła dla dziewcząt, w której zginęło ponad 150 osób, głównie dzieci
Historia Project Maven rozpoczęła się w 2017 roku jako eksperyment zastosowania wizji komputerowej do analizy nagrań z dronów. Pierwotnie miał być używany przeciwko zdjęciom satelitarnym, ale został przekierowany na materiał wideo z dronów, ponieważ amerykańskie wojsko analizowało zaledwie 4 procent zbieranych danych.
Projekt wywołał głośne protesty pracowników Google w 2018 roku, co zmusiło firmę do wycofania się z kontraktu. Rzecznik Google twierdził wówczas, że technologia "nie będzie używana do zabijania ludzi" i służy wyłącznie celom nieofensywnym. Jednak jak wynika z reportażu Manson, targetowanie było zawsze głównym celem. "To nie tak, że robimy to dla zabawy. Celem wywiadu jest wyeliminowanie wartościowych celów" — mówi jeden z oficjeli cytowanych w książce.
Po odejściu Google system został zbudowany przez Palantir i wykorzystuje technologie opracowane przez Microsoft, Amazon, Anthropic i inne firmy. Maven syntetyzuje zdjęcia satelitarne, radar, media społecznościowe i dziesiątki innych źródeł danych, aby identyfikować i targetować jednostki na polu bitwy.
Kluczową postacią rozwoju Maven był pułkownik piechoty morskiej Drew Cukor, oficer wywiadu, którego historia stanowi trzon książki Manson. Jego motywacja wynikała z frustracji słabymi narzędziami wywiadowczymi, jakimi dysponowali amerykańscy operatorzy w Afganistanie. Cukor miał wizję "białych kropek" — punktów pokazywanych na mapie wypełnionych informacjami wywiadowczymi, takimi jak współrzędne, zawartość lokacji czy wysokość nad poziomem morza.
Jedną z tragicznych konsekwencji przyspieszenia wojen był atak na szkołę dla dziewcząt pierwszego dnia konfliktu z Iranem. Choć budynek wcześniej był częścią irańskiej bazy morskiej, w internecie figurował jako szkoła, a na zdjęciach satelitarnych widoczne były place zabaw. Historian technologii Kevin Baker napisał w The Guardian, że to Maven i umożliwione przez nią przyspieszenie są bardziej istotne niż możliwe "halucynacje" sztucznej inteligencji: "Chatbot nie zabił tych dzieci. Ludzie nie zaktualizowali bazy danych, a inni ludzie zbudowali system na tyle szybki, by ten błąd uczynić śmiertelnym".
Project Maven przedstawia sobą przykład tego, jak AI fundamentalnie zmienia charakter współczesnych konfliktów, przyspieszając tempo wojny do granic ludzkich możliwości reakcji i wprowadzając nowe rodzaje ryzyka w procesie podejmowania decyzji militarnych.
