Pentagon zawarł umowy na wykorzystanie AI w środowiskach tajnych z siedmioma firmami, wykluczając Anthropic po sporze o etyczne ograniczenia.

Źródło zdjęcia: The Verge

Kanadyjski operator wprowadził kontrowersyjną technologię AI modyfikującą akcenty agentów z zagranicznych centrów obsługi, co wywołało krytykę związków.

Peter Russell z UC Berkeley zeznawał w sprawie Muska przeciwko OpenAI, ostrzegając przed zagrożeniami wyścigu do osiągnięcia sztucznej inteligencji ogólnej.
Pentagon podpisał tajne umowy z siedmioma firmami AI, w tym OpenAI, Google, Microsoftem, Amazon, Nvidia, xAI Elona Muska oraz startupem Reflection. Jak ogłoszono w piątek, agencja będzie mogła wykorzystywać ich narzędzia sztucznej inteligencji w środowiskach ochrony informacji niejawnych.
Znacząco, z nowych umów wykluczono Anthropic – firmę, którą Pentagon wcześniej wykorzystywał do obsługi materiałów tajnych. Decyzja ta wynika z uznania startupu za zagrożenie dla łańcucha dostaw po tym, jak odmówił złagodzenia swoich „czerwonych linii” dotyczących masowej krajowej inwigilacji i w pełni autonomicznych systemów uzbrojenia.
Nowe umowy rozwijają wcześniejsze porozumienia z OpenAI i xAI, które już osiągnęły zgodę z Pentagonem na „zgodne z prawem” wykorzystanie swoich systemów AI. Według doniesień The Information, Google również zawarło podobną umowę. Jak zauważa The Wall Street Journal, Microsoft i Amazon już wcześniej miały „głębokie relacje z Pentagonem”, podczas gdy kontrakty z Nvidia i Reflection są nowością.
Emil Michael, dyrektor ds. technologii Departamentu Obrony, powiedział w rozmowie z CNBC w piątek, że Anthropic pozostaje zagrożeniem dla łańcucha dostaw. Jednocześnie nazwał potężny model bezpieczeństwa firmy, Mythos, „odrębnym momentem bezpieczeństwa narodowego”, dodając: „musimy upewnić się, że nasze sieci są wzmocnione, ponieważ ten model ma możliwości szczególnie przydatne w znajdowaniu luk w cyberbezpieczeństwie i ich łataniu”.
Anthropic miało umowę wartą 200 milionów dolarów na obsługę materiałów tajnych dla Pentagonu, ale odmówiło złagodzenia swoich etycznych „czerwonych linii” dotyczących masowej krajowej inwigilacji i w pełni autonomicznych systemów uzbrojenia. Ten spór doprowadził do zakazu produktów startupu AI w rządzie federalnym.
W odpowiedzi Anthropic pozwało rząd federalny i wygrało tymczasowy zakaz. Mimo tego Pentagon w swoim ogłoszeniu podkreśla, że umowy z siedmioma firmami AI umożliwią „zgodne z prawem operacyjne wykorzystanie” ich systemów, „ustanawiając amerykańskie wojsko jako siłę bojową stawiającą AI na pierwszym miejscu”.
Nowe porozumienia sygnalizują strategiczne podejście Pentagonu do integracji sztucznej inteligencji z operacjami wojskowymi, jednocześnie pokazując granice współpracy z firmami, które stawiają etyczne ograniczenia ponad wymagania bezpieczeństwa narodowego.