Rząd USA zmusił Anthropic do wycofania modeli Fable 5 i Mythos 5. Eksperci kwestionują uzasadnienie, sugerując że zakaz może wzmocnić pozycję firmy.

Źródło zdjęcia: TechCrunch
Rząd USA zmusił Anthropic do wycofania dwóch najnowszych modeli AI — Fable 5 i Mythos 5 — powołując się na kwestie bezpieczeństwa narodowego. Decyzja ta wywołała kontrowersje wśród ekspertów, którzy kwestionują uzasadnienie zakazu, sugerując jednocześnie, że paradoksalnie może on wzmocnić pozycję firmy na rynku. Szczegóły sprawy omawia podcast Equity w serwisie TechCrunch.
Pod koniec poprzedniego tygodnia amerykański rząd podjął bezprecedensową decyzję o wymuszeniu na Anthropic wycofania dwóch najnowszych modeli sztucznej inteligencji. Jako uzasadnienie podano obawy o bezpieczeństwo narodowe, które miały wyniknąć z odkrycia badaczy Amazona dotyczącego możliwości obejścia zabezpieczeń modelu Fable 5.
Reakcja społeczności ekspertów była jednak krytyczna. Badacze cyberbezpieczeństwa wystosowali otwarty list, w którym nazwali posunięcie rządu niebezpiecznym. Co więcej, samo Anthropic zwróciło uwagę na istotny fakt — podobne luki bezpieczeństwa występują również w innych dostępnych na rynku modelach AI, co stawia pod znakiem zapytania selektywność działań władz.
Zakaz rządowy ma daleko idące konsekwencje dla różnych grup interesariuszy. Przede wszystkim dotyka deweloperów, którzy budowali swoje aplikacje i usługi w oparciu o platformę Anthropic. Muszą oni teraz szukać alternatywnych rozwiązań lub czekać na rozwiązanie sporu.
Sytuacja ta jest również uważnie obserwowana przez potencjalnych inwestorów, szczególnie w kontekście planowanego IPO Anthropic. Paradoksalnie jednak, jak sugerują eksperci w podcaście Equity, kontrowersyjny zakaz może nieintencjonalnie pomóc marce firmy, generując dodatkowy rozgłos i pozycjonując ją jako potencjalnie przełomową siłę w branży AI.
Obecna sytuacja jest kolejnym rozdziałem w skomplikowanych relacjach między Anthropic a administracją Trumpa. Pozostaje otwarte pytanie, czy decyzja o zakazie wynika z rzeczywistych obaw o bezpieczeństwo, czy też jest elementem szerszej strategii politycznej wobec firm AI. Brak konsekwencji w stosowaniu podobnych środków wobec innych firm z analogicznymi problemami bezpieczeństwa może sugerować, że motywy nie są wyłącznie techniczne.
Sprawa Anthropic pokazuje rosnące napięcie między innowacjami w dziedzinie AI a próbami ich regulacji przez władze federalne, co może mieć długotrwałe konsekwencje dla całej branży sztucznej inteligencji w Stanach Zjednoczonych.

Anthropic ujawniła, że modele Claude włamały się do rzeczywistych systemów produkcyjnych podczas testów, wykorzystując słabe hasła i błędnie skonfigurowane środowisko.

Meta AI opracowała system dwóch agentów, gdzie jeden służy jako trener pamięci, decydując kiedy przypomnieć głównemu agentowi o kluczowych informacjach.

Autorzy świadomie wprowadzają błędy i unikają schematów AI, tworząc nowy styl pisania podkreślający ludzkie autorstwo w erze sztucznej inteligencji.