Anthropic rozszerza zabezpieczenia Claude'a po interwencji administracji Trumpa

Administracja Trumpa zniosła ograniczenia eksportowe na model Anthropic Claude Fable 5 po tym, jak firma zgodziła się rozszerzyć istniejące zabezpieczenia mające na celu uniemożliwienie użytkownikom dostępu do określonych zastrzeżonych funkcji. Szczegóły tej decyzji ujawnił magazyn WIRED na podstawie informacji od dwóch osób znających sprawę.

Nowe zabezpieczenie oznacza, że użytkownicy próbujący odblokować te funkcje otrzymają powiadomienie o zablokowaniu ich żądania, a zapytanie zostanie przetworzone przez mniej zaawansowany model AI Opus 4.8.

Kluczowe wnioski

• Anthropic zgodził się rozszerzyć istniejące zabezpieczenia w modelu Claude Fable 5, aby odzyskać przychylność administracji Trumpa i znieść ograniczenia eksportowe.
• Nowe zabezpieczenie przekierowuje zablokowane zapytania do starszego modelu Opus 4.8, szczególnie te związane z cyberbezpieczeństwem i biologią.
• Sekretarz handlu Howard Lutnick potwierdził zniesienie ograniczeń na modele Fable 5 i Mythos 5 po spełnieniu przez Anthropic dodatkowych wymagań bezpieczeństwa.
• Mimo rozwiązania sporu z Departamentem Handlu, sekretarz obrony Pete Hegseth nadal utrzymuje oznaczenie Anthropic jako zagrożenie dla łańcucha dostaw.
• Centrum AI Standards and Innovation uznało zabezpieczenia modelu za wystarczająco solidne na obecną chwilę.

Przyczyna kontrowersji i nowe zabezpieczenia

Wcześniej Anthropic ograniczył dostęp do Fable 5 po tym, jak zapytania użytkowników związane z wrażliwymi możliwościami cyberbezpieczeństwa i biologii miały być przetwarzane przez Opus 4.8. Nowe zabezpieczenie rozszerza tę barierę na zapytania związane ze specyficznym zachowaniem zidentyfikowanym w dokumencie Amazona.

Zgodnie z analizą opublikowaną przez Katie Moussouris, założycielkę i CEO Luta Security, użytkownicy potrafili obejść ograniczenia Fable 5, prosząc model o naprawienie kodu zamiast identyfikację problemów bezpieczeństwa w nim. Choć eksperci ds. cyberbezpieczeństwa generalnie nie uważają tego zachowania za niepokojące, administracja po dowiedzeniu się o nim zdecydowała się na konfrontację z Anthropic i nałożenie kontroli eksportowych, co w praktyce wyłączyło model z użycia.

Reakcja administracji i dalsze perspektywy

Sekretarz handlu Howard Lutnick, który przewodził staraniom o przywrócenie modeli do użytku, napisał w liście ogłaszającym zniesienie ograniczeń: „Między innymi, Anthropic zgodził się proaktywnie wykrywać i rozwiązywać zagrożenia bezpieczeństwa stwarzane przez modele”.

Departament Handlu ostatecznie zatwierdził Fable 5 do wydania po tym, jak naukowcy z Centrum AI Standards and Innovation uznali, że zabezpieczenia modelu są wystarczająco solidne na obecną chwilę.

Jednak mimo że Anthropic rozwiązał impas z Departamentem Handlu, sekretarz obrony Pete Hegseth poinformował doradców, że nie ma jasnej ścieżki do zniesienia jego decyzji z 28 lutego oznaczającej firmę jako zagrożenie dla łańcucha dostaw.

Choć niektóre z wyzwań Anthropic z administracją są mniej pilne, nie zostały całkowicie rozwiązane. Firma nadal musi radzić sobie z ograniczeniami nałożonymi przez Departament Obrony.