Armia amerykańska przekroczyła budżet 100 mln tokenów AI w zaledwie kilka tygodni, co zmusiło dowództwo do przywrócenia limitów użytkowania.

Źródło zdjęcia: WIRED
Armia amerykańska wyczerpała roczny limit tokenów AI w zaledwie kilka tygodni, co zmusiło dowództwo do przywrócenia ograniczeń użytkowania. Sytuacja pokazuje, jak szybko organizacje mogą przekroczyć planowane budżety na sztuczną inteligencję, informuje magazyn Wired.
Nieco ponad miesiąc po tym, jak Departament Obrony pochwalił się, że prawie połowa z 3,5 miliona pracowników korzysta z AI w pracy, członkowie Army's Combat Capabilities Development Command otrzymali e-mail informujący o wyczerpaniu tokenów i konieczności ograniczenia użytkowania.
Armia korzysta z platformy Ask Sage, wielomodalnego systemu generatywnej AI, który umożliwia używanie różnych dużych modeli językowych, w tym Gemini od Alphabet, Llama od Meta i ChatGPT od OpenAI. System jest akredytowany do obsługi informacji niejawnych kontrolowanych i wykorzystywany przez Chief Digital and AI Office (CDAO) Departamentu Obrony do procesów zakupowych.
Zgodnie z informacjami na stronie internetowej armii, Ask Sage był używany do wykonywania zadań takich jak „reklasyfikacja opisów stanowisk, co obejmuje definiowanie i dostosowywanie obowiązków służbowych, doświadczenia i kwalifikacji”. Dla platformy Ask Sage jeden token odpowiada około 3,7 znaku tekstu.
Armia nie jest pierwszą organizacją, która musi przemyśleć swoją niemal nieograniczoną politykę korzystania z generatywnej AI. Meta, po zachęcaniu pracowników do „maksymalizacji tokenów”, cicho usunęła tablicę wyników śledzącą ich użycie i obecnie próbuje ograniczyć zużycie. W zeszłym tygodniu Adam Mosseri, szef Instagrama w Meta, zasugerował wprowadzenie limitów tokenów na inżyniera w firmie.
Według doniesień Fortune, Uber również doświadczył sytuacji, w której inżynierowie wyczerpali roczną pulę tokenów generatywnej AI w zaledwie cztery miesiące. Pokazuje to szerszy trend w branży technologicznej, gdzie entuzjazm dla AI szybko napotyka na ograniczenia budżetowe i praktyczne.
Pracownik armii, który rozmawiał z WIRED anonimowo, ocenia, że generatywne narzędzia AI nie są szczególnie przydatne w jego pracy i okazują się zawodne. Jeden z modeli nawet twierdził, że wykonał zadanie, którego w rzeczywistości nie zrealizował. „Myślę, że na pewno istnieje kilka aspektów biurokracji rządu federalnego USA, w których te narzędzia mogłyby być pomocne. Ale bezmyślne zastosowanie i użytkowanie nie doprowadzi do skutecznego, wydajnego i godnego zaufania wdrożenia” — komentuje.
Sytuacja w armii amerykańskiej ilustruje wyzwania związane z masowym wdrażaniem technologii AI w dużych organizacjach, gdzie entuzjazm dla nowych możliwości szybko napotyka na praktyczne ograniczenia kosztowe i operacyjne.

Ben Touati odkrył artykuły podpisane jego nazwiskiem już po zakończeniu pracy. Firma używała AI i cudzej tożsamości do publikacji treści.

Google przekaże 40 mln dolarów w tokenach AI dla naukowców Genesis Mission. Narzędzia jak AlphaEvolve i Gemini już przyspieszają badania w laboratoriach DOE.

Content Seal ma ograniczenia w porównaniu do SynthID — działa tylko przez narzędzie webowe i nie obsługuje starszych modeli AI Mety.