Otwarte modele AI: realne korzyści czy zagrożenie bezpieczeństwa?

Źródło: MIT Technology Review opisuje spór, który w ostatnich tygodniach rozgorzał na nowo wokół otwartych modeli sztucznej inteligencji. Punktem zapalnym stał się raport Anthropic opublikowany pod koniec września, w którym firma ostrzega, że model GLM-5.3 – wydany w sierpniu przez chińską firmę Z.ai – stanowi poważne zagrożenie cyberatakami. Kluczowy problem, na jaki wskazuje Anthropic, polega na tym, że ten potężny model jest swobodnie dostępny do pobrania i modyfikacji przez każdego.

To tylko najnowsza odsłona długotrwałej debaty o tym, czy najbardziej zaawansowane modele AI powinny być otwarte – jak GLM-5.3 – czy też pozostawać zamknięte za drzwiami wiodących laboratoriów badawczych.

Kluczowe wnioski

• Anthropic ostrzega, że chiński model GLM-5.3 firmy Z.ai, dostępny do swobodnego pobrania, zwiększa ryzyko cyberataków.
• Prezes Nvidii Jensen Huang popiera rozwój otwartych modeli, a prezes Anthropic Dario Amodei opowiada się za ostrożniejszym podejściem – obaj mają w tym sporze wyraźny interes biznesowy.
• Obecnie modele zamknięte są bardziej zaawansowane – według Artificial Analysis LLM Leaderboard wszystkie osiem najwyżej ocenianych modeli to modele zamknięte, choć otwarte modele są opóźnione o zaledwie kilka miesięcy.
• Otwarte modele dają badaczom akademickim i firmom realne korzyści: niższe koszty, większą kontrolę nad danymi i możliwość analizowania wewnętrznego działania systemu.
• Eksperci, m.in. z Tony Blair Institute for Global Change i Centre for Long-Term Resilience, wskazują, że największą stawką w sporze jest zapobieganie koncentracji władzy nad technologią AI w rękach niewielu firm czy rządów.

Czym różnią się modele otwarte od zamkniętych

Model zamknięty – jak te, które napędzają ChatGPT czy Claude – można obsługiwać wyłącznie przez stronę internetową, aplikację lub API. Model otwarty natomiast można bezpośrednio pobrać: szczegóły jego wewnętrznej struktury, zakodowane w długim ciągu liczb zwanych wagami modelu, są publicznie dostępne. Takie modele bywają nazywane „open-weight”, by odróżnić je od modeli w pełni otwartych, dla których publikowane są dodatkowo informacje o procesie treningu.

Obecnie modele zamknięte przewyższają otwarte pod względem możliwości – jak podaje artykuł, w momencie publikacji wszystkie osiem najwyżej sklasyfikowanych modeli w rankingu Artificial Analysis LLM Leaderboard to modele zamknięte. Mimo to otwarte modele pozostają w tyle jedynie o kilka miesięcy rozwoju.

Jak zauważa David Gray Widder, adiunkt w School of Information na University of Texas w Austin, stanowisko w tej debacie często wynika z szerszego podejścia do sztucznej inteligencji w ogóle. Osoby skoncentrowane na bezpieczeństwie AI ostrzegają, że otwarte modele łatwo mogą zostać wykorzystane przez złych aktorów, podczas gdy osoby skupione na praktycznym potencjale AI argumentują, że ta moc nie powinna pozostawać zamknięta w rękach kilku dużych firm, a otwarte modele mogą pomóc szerzej ją rozpowszechnić.

Dlaczego badacze i firmy wybierają modele otwarte

Dla naukowców pracujących nad zrozumieniem i ulepszaniem systemów AI praca z modelami otwartymi jest niemal niezbędna. W przypadku modeli zamkniętych badacze mogą jedynie wysyłać zapytania i obserwować odpowiedzi. Modele otwarte pozwalają natomiast zajrzeć w ich wewnętrzne działanie, a także prześledzić „łańcuch myślowy”, którego model używa do rozwiązania problemu przed udzieleniem odpowiedzi. Badacze mogą też łączyć ze sobą różne otwarte modele, by budować nowe systemy, kompresować je dla większej wydajności czy dostrajać do nowych zastosowań.

Firmy również mają powody, by preferować modele otwarte. Jak wynika z niedawnego raportu Mozilli, nawet jeśli dane przedsiębiorstwo polega na zewnętrznym dostawcy, który uruchamia dla niego model, otwarte modele zazwyczaj kosztują mniej niż zamknięte. Jeśli firma chce wykorzystywać AI do przetwarzania wrażliwych danych lub informacji zastrzeżonych, uruchomienie lokalnego modelu na własnym sprzęcie może być najlepszym sposobem na zachowanie bezpieczeństwa operacji.

Stawka większa niż koszty: kontrola nad technologią

Zdaniem ekspertów cytowanych w artykule najważniejszą cechą otwartych modeli jest to, że podważają ścisłą kontrolę, jaką wiodące laboratoria sprawują nad sposobem, w jaki większość z nas korzysta z AI. „Najwyraźniejszy, największy argument [za modelami otwartymi] dotyczy zapobiegania masowej koncentracji władzy – chodzi o to, by ta fundamentalna technologia była dobrem publicznym” – mówi Elizabeth Seger, starsza doradczyni ds. polityki w Tony Blair Institute for Global Change. Jak dodaje, „jesteśmy w momencie, w którym pytanie o to, kto kontroluje infrastrukturę pozwalającą AI działać, jest tak samo istotne, jak pytanie o to, kto kontroluje informacje w internecie”.

Seger zwraca uwagę, że przyszłość AI może potoczyć się różnymi torami, w zależności od roli modeli otwartych. W jednym scenariuszu najbardziej zaawansowane systemy AI pozostają pod kontrolą wybranych osób, firm czy rządów, a im potężniejsze się stają, tym większy wpływ te grupy mają na kształt świata. Przykładem jest fakt, że najbardziej zaawansowane modele AI służące do hakowania powstają obecnie wyłącznie w Stanach Zjednoczonych – to amerykańskie firmy i rząd USA decydują, czy inne kraje mogą ich używać do wzmacniania własnej cyberobrony. Jeśli te firmy utrzymają przewagę, teoretycznie możemy znaleźć się w świecie, w którym Stany Zjednoczone są zdolne zhakować dowolny inny kraj, ale żaden kraj nie jest w stanie zhakować Stanów Zjednoczonych.

Otwarte modele mogłyby zmienić tę równowagę. „Gdyby każda jednostka miała lojalny wobec siebie system AI, który byłby bezpieczny, uważałbym, że to dużo mniej niepokojący świat niż taki, w którym musi polegać wyłącznie na rządzie, który mówi: 'Mamy super inteligentny system AI, ma on jakiś plan, niezrozumiały dla was wszystkich, po prostu nam zaufajcie'” – mówi Hamish Hobbs, dyrektor ds. polityki AI w Centre for Long-Term Resilience.

Artykuł źródłowy, cytowany przez MIT Technology Review, zostaje w tym miejscu przerwany – autorzy zapowiadają dalsze omówienie zagrożeń związanych z otwartymi modelami, jednak ta część tekstu nie została udostępniona w materiale źródłowym.

Spór o otwarte modele AI pokazuje, że za pozornie technicznym pytaniem – „open czy closed” – kryje się fundamentalny konflikt interesów i wartości: między bezpieczeństwem a demokratyzacją dostępu do najpotężniejszej technologii naszych czasów. Jak podkreślają cytowani eksperci, nie ma tu prostych odpowiedzi – każda decyzja regulacyjna wiąże się z kompromisem między ryzykiem nadużyć a ryzykiem nadmiernej koncentracji władzy w rękach nielicznych.