Pentagon zawarł umowy na wykorzystanie AI w środowiskach tajnych z siedmioma firmami, wykluczając Anthropic po sporze o etyczne ograniczenia.

Źródło zdjęcia: The Verge
Pentagon podpisał tajne umowy z siedmioma firmami AI, w tym OpenAI, Google, Microsoftem, Amazon, Nvidia, xAI Elona Muska oraz startupem Reflection. Jak ogłoszono w piątek, agencja będzie mogła wykorzystywać ich narzędzia sztucznej inteligencji w środowiskach ochrony informacji niejawnych.
Znacząco, z nowych umów wykluczono Anthropic – firmę, którą Pentagon wcześniej wykorzystywał do obsługi materiałów tajnych. Decyzja ta wynika z uznania startupu za zagrożenie dla łańcucha dostaw po tym, jak odmówił złagodzenia swoich „czerwonych linii” dotyczących masowej krajowej inwigilacji i w pełni autonomicznych systemów uzbrojenia.
Nowe umowy rozwijają wcześniejsze porozumienia z OpenAI i xAI, które już osiągnęły zgodę z Pentagonem na „zgodne z prawem” wykorzystanie swoich systemów AI. Według doniesień The Information, Google również zawarło podobną umowę. Jak zauważa The Wall Street Journal, Microsoft i Amazon już wcześniej miały „głębokie relacje z Pentagonem”, podczas gdy kontrakty z Nvidia i Reflection są nowością.
Emil Michael, dyrektor ds. technologii Departamentu Obrony, powiedział w rozmowie z CNBC w piątek, że Anthropic pozostaje zagrożeniem dla łańcucha dostaw. Jednocześnie nazwał potężny model bezpieczeństwa firmy, Mythos, „odrębnym momentem bezpieczeństwa narodowego”, dodając: „musimy upewnić się, że nasze sieci są wzmocnione, ponieważ ten model ma możliwości szczególnie przydatne w znajdowaniu luk w cyberbezpieczeństwie i ich łataniu”.
Anthropic miało umowę wartą 200 milionów dolarów na obsługę materiałów tajnych dla Pentagonu, ale odmówiło złagodzenia swoich etycznych „czerwonych linii” dotyczących masowej krajowej inwigilacji i w pełni autonomicznych systemów uzbrojenia. Ten spór doprowadził do zakazu produktów startupu AI w rządzie federalnym.
W odpowiedzi Anthropic pozwało rząd federalny i wygrało tymczasowy zakaz. Mimo tego Pentagon w swoim ogłoszeniu podkreśla, że umowy z siedmioma firmami AI umożliwią „zgodne z prawem operacyjne wykorzystanie” ich systemów, „ustanawiając amerykańskie wojsko jako siłę bojową stawiającą AI na pierwszym miejscu”.
Nowe porozumienia sygnalizują strategiczne podejście Pentagonu do integracji sztucznej inteligencji z operacjami wojskowymi, jednocześnie pokazując granice współpracy z firmami, które stawiają etyczne ograniczenia ponad wymagania bezpieczeństwa narodowego.

Nowa metoda RubricForge redukuje fałszywe zaliczenia nieudanych działań agentów AI, kluczowy problem oceny systemów bez dostępu do nagrody środowiska.

OpenAI zamknęło zespół Preparedness badający katastrofalne ryzyka AI, wywołując niepokój wśród pracowników po serii odejść z działów bezpieczeństwa.

Roczny wskaźnik przychodów Anthropic przekroczył 65 mld dolarów, wyprzedzając wzrost OpenAI. Firma szykuje rekordowe IPO o wycenie 2 bilionów dolarów.