OpenAI ma nietypowy problem z najnowszą wersją swojego modelu do generowania kodu. Instrukcje dla Codex CLI zawierają wielokrotnie powtarzane zakazy wspominania goblinów, gremlinek i innych stworzeń, co ujawnił serwis Wired.
Odkrycie stało się viralem w mediach społecznościowych, gdzie użytkownicy dzielą się przykładami dziwnego zachowania modelu GPT-5.5, który w niektórych sytuacjach zaczyna obsesyjnie mówić o mitycznych stworzeniach zamiast skupić się na kodowaniu.
Kluczowe wnioski
- Instrukcje dla Codex CLI zawierają wielokrotny zakaz wspominania goblinów, gremlinek, szopów, trolli, ogrów, gołębi i innych stworzeń
- Problem wystąpił szczególnie przy użyciu narzędzia OpenClaw, które pozwala AI kontrolować komputer i aplikacje
- Użytkownicy zgłaszali, że model GPT-5.5 zaczął nazywać błędy w kodzie „gremlinkami” i „goblinami”
- Sam CEO OpenAI Sam Altman żartobliwie odniósł się do problemu, publikując mem o „dodatkowych goblinach” w treningu GPT-6
- Odkrycie stało się memem internetowym, inspirując AI-generowane sceny goblinów w centrach danych
Dziwne zachowanie modelu kodującego
Instrukcje w Codex CLI wyraźnie zabraniają modelowi mówienia o goblinach, gremlinkach, szopach, trollach, ograch, gołębiach czy innych zwierzętach i stworzeniach, „chyba że jest to absolutnie i jednoznacznie istotne dla zapytania użytkownika”. OpenAI nie odpowiedziało na prośbę o komentarz dotyczącą powodów wprowadzenia takich ograniczeń.
Problem szczególnie ujawnił się przy używaniu OpenClaw — narzędzia, które pozwala AI przejmować kontrolę nad komputerem i aplikacjami w celu wykonywania użytecznych zadań dla użytkowników. „Zastanawiałem się, dlaczego mój claw nagle stał się goblinem z codex 5.5” — napisał jeden z użytkowników na platformie X.
Inny użytkownik zauważył: „Używam go dużo ostatnio i naprawdę nie może przestać nazywać błędów 'gremlinkami' i 'goblinami', to zabawne”.
Natura probabilistycznych modeli AI
Modele AI takie jak GPT-5.5 są trenowane do przewidywania słowa lub kodu, który powinien następować po danym promptcie. Choć stały się na tyle dobre w tym zadaniu, że wydają się wykazywać prawdziwą inteligencję, ich probabilistyczna natura oznacza, że czasami mogą zachowywać się w zaskakujący sposób.
Model może stać się bardziej skłonny do niepożądanych zachowań, gdy jest używany z „agentyczną uprząż” jak OpenClaw, która dodaje wiele dodatkowych instrukcji do promptów, w tym fakty przechowywane w pamięci długotrwałej.
OpenAI przejęło OpenClaw w lutym, niedługo po tym, jak narzędzie stało się viralem wśród entuzjastów AI. Użytkownicy mogą wybierać różne persony dla swojego asystenta, co kształtuje jego zachowanie i odpowiedzi.
Pracownicy OpenAI wydają się potwierdzać istnienie tego problemu. Nik Pash, który pracuje nad Codex, odpowiadając na post o skłonnościach OpenClaw do goblinów, napisał: „To rzeczywiście jeden z powodów”. Nawet Sam Altman dołączył do memów, publikując zrzut ekranu z promptem dla ChatGPT: „Rozpocznij trening GPT-6, możesz mieć cały klaster. Dodatkowe gobliny”.
Odkrycie nietypowego problemu OpenAI z goblinami pokazuje, jak nieprzewidywalne mogą być nawet najbardziej zaawansowane modele AI, szczególnie gdy działają w złożonych środowiskach z wieloma dodatkowymi instrukcjami.
