Anthropic wycofuje ukryte ograniczenia Claude Fable 5 po protestach badaczy AI

Anthropic wycofuje się z kontrowersyjnej polityki, która miała ukrycie obniżać wydajność modelu Claude Fable 5 dla badaczy AI trenujących konkurencyjne modele. Po ostrych protestach społeczności naukowej firma przyznaje się do błędu i zapowiada przejrzystość w przyszłych środkach ochronnych, jak donosi The Decoder.

„Podjęliśmy złą decyzję i przepraszamy za to, że nie znaleźliśmy właściwej równowagi” — oświadczyła firma w rozmowie z WIRED. Od teraz wszelkie środki ochronne będą widoczne dla użytkowników.

Kluczowe wnioski

• Anthropic planowało ukryte obniżanie wydajności Claude Fable 5 dla badaczy trenujących konkurencyjne modele AI
• Po krytyce firma wycofuje się z tej polityki i przyznaje do błędu
• Claude Fable 5 wymaga przechowywania danych przez 30 dni (do 2 lat w przypadku naruszeń)
• Microsoft ogranicza wewnętrzne użycie modelu z powodu polityki retencji danych
• Kontrowersja budzi pytania o otwartość badań AI i monopolizację sektora

Ostra krytyka ukrytego ograniczania

Dean Ball, były doradca Białego Domu ds. AI, nazwał ukryte podejście „szokująco wrogim”. Will Brown ze startupu Prime Intellect wyraził krytykę jeszcze dosadniej: „Sprawił wrażenie, jakby Anthropic mówiło społeczności: 'Nie ufamy nikomu innemu w prowadzeniu badań AI. Tylko my mamy prawo prowadzić badania AI'.”

Początkowo Anthropic zamierzało w sposób niewidoczny dla użytkowników degradować wydajność swojego najnowszego modelu Claude Fable 5, gdy wykrywałby próby trenowania konkurencyjnych systemów AI. Ta praktyka wzbudziła ostrą reakcję społeczności badawczej, która zarzuciła firmie próbę monopolizacji dostępu do zaawansowanych narzędzi AI.

Problem z retencją danych

Wycofanie się z ukrytego ograniczania nie rozwiązuje jednak wszystkich kontrowersji wokół Claude Fable 5. Model wymaga przechowywania danych do działania nowych klasyfikatorów bezpieczeństwa — prompty i odpowiedzi są składowane przez maksymalnie 30 dni, a w przypadku wykrycia naruszeń polityki nawet do dwóch lat.

Ta polityka stała się przeszkodą dla niektórych organizacji. Według The Verge, Microsoft ogranicza wewnętrzne użycie modelu właśnie z tego powodu. Podczas gdy wszystkie inne modele Claude działają w ramach zasad zerowej retencji danych, Fable 5 nie pojawia się nawet w wewnętrznym selektorze modeli dla wersji GitHub Copilot używanej przez Microsoft.

Kontrowersje wokół Claude Fable 5 odzwierciedlają szersze napięcia w branży AI między otwartością badań a kontrolą nad zaawansowanymi technologiami. Decyzja Anthropic o wycofaniu się z ukrytych ograniczeń to krok w kierunku większej przejrzystości, choć problemy z retencją danych pozostają nierozwiązane.