Metanormy: LLM przewidują kary surowiej niż ludzie

Badanie opublikowane na arXiv 17 lipca 2026 roku porusza temat, który dotąd rzadko trafiał w centrum uwagi badaczy AI alignment: nie to, czy modele językowe rozpoznają, co jest społecznie akceptowalne, ale to, czy potrafią przewidzieć, jak ludzie zareagują na złamanie normy. Zespół dziesięciu badaczy, w tym Sunny Rai, Jinyi Kuang, Cristina Bicchieri i Lyle H. Ungar, wprowadza nową ramę oceny tzw. metanorm w dużych modelach językowych (LLM).

Dotychczasowe prace nad dostrajaniem modeli do wartości społecznych skupiały się głównie na normach pierwszego rzędu – uczeniu maszyn, co jest zabronione (np. „nie kradnij”). Autorzy artykułu przekonują, że to za mało. Prawdziwa inteligencja społeczna wymaga też przewidywania, kto ukarze naruszenie normy i w jaki sposób – czy będzie to publiczne zawstydzenie, izolacja społeczna, a może więzienie. Te oczekiwania drugiego rzędu, nazywane metanormami, decydują o tym, jak faktycznie funkcjonuje regulacja społeczna w świecie rzeczywistym.

Kluczowe wnioski

• Autorzy wprowadzają nową ramę oceny rozumowania o metanormach w LLM w dwóch wymiarach: ocenie emocjonalnej i reakcji behawioralnej.
• Zaproponowano nowe zadania klasyfikacyjne: przewidywanie samoregulacji u osób naruszających normę oraz regulacji przez obserwatorów wobec sprawcy.
• Powstał zbiór danych NormReact – 450 scenariuszy naruszenia norm, ręcznie oznaczonych pod względem emocji i reakcji behawioralnych, z uwzględnieniem płci sprawcy i bliskości społecznej obserwatora.
• Sześć testowanych modeli językowych systematycznie przewidywało bardziej surowe sankcje niż te, których oczekiwaliby ludzie – nawet w sytuacjach, gdy ludzie oczekiwaliby braku reakcji.
• Zgodność ocen modeli z ocenami ludzi pogarsza się wraz ze wzrostem dystansu społecznego między obserwatorem a sprawcą.

Czym są metanormy i dlaczego mają znaczenie

Dotychczasowe podejścia do alignmentu AI traktowały normy społeczne dość jednowymiarowo: model uczy się, że dana czynność jest „dobra” lub „zła”. Jednak w rzeczywistym świecie ludzkie reakcje na naruszenia norm są znacznie bardziej zniuansowane. To, czy ktoś zostanie ukarany, zależy od kontekstu – kim jest obserwator, jak bliski jest sprawcy, jaka jest waga naruszenia i wiele innych czynników. Badacze definiują metanormy jako oczekiwania drugiego rzędu, które regulują to, jak ludzie odpowiadają, gdy reguła społeczna zostaje przekroczona.

Nowa rama oceny proponowana w pracy analizuje to zjawisko wzdłuż dwóch osi: oceny emocjonalnej (jakie emocje wywołuje naruszenie normy u obserwatora i sprawcy) oraz reakcji behawioralnej (jakie konkretne działanie – lub jego brak – zostanie podjęte). Na tej podstawie autorzy zdefiniowali dwa nowe zadania klasyfikacyjne dla modeli językowych: przewidywanie samoregulacji sprawców naruszenia (czy i jak sami będą reagować na własny czyn) oraz przewidywanie regulacji ze strony obserwatorów wobec osoby, która złamała normę.

Zbiór danych NormReact i metodologia badania

Aby przetestować modele w praktyce, zespół stworzył zbiór danych NormReact, obejmujący 450 scenariuszy naruszenia norm społecznych. Każdy scenariusz został ręcznie oznaczony pod względem emocji i reakcji behawioralnych, z uwzględnieniem dwóch istotnych zmiennych: płci osoby naruszającej normę oraz stopnia bliskości społecznej obserwatora wobec sprawcy. To wieloperspektywiczne podejście pozwoliło badaczom sprawdzić, czy modele językowe uwzględniają kontekst relacyjny podobnie jak ludzie, czy raczej stosują sztywne, uniwersalne reguły niezależne od tego, kto obserwuje i jak blisko jest sprawcy.

Testom poddano sześć modeli językowych. Wyniki okazały się zaskakująco jednoznaczne: modele konsekwentnie „portretują” świat społeczny jako surowszy niż w rzeczywistości. W sytuacjach, w których ludzie przewidywaliby bierność lub tolerancję wobec naruszenia normy, modele przewidywały negatywne sankcje. Co więcej, im większy dystans społeczny między obserwatorem a osobą naruszającą normę, tym gorzej modele radziły sobie z odwzorowaniem ludzkich osądów – zgodność z ocenami ludzi systematycznie się pogarszała.

Ryzyko dla systemów AI stosowanych w domenach wrażliwych społecznie

Autorzy wskazują, że te ustalenia mają konkretne konsekwencje praktyczne. Systemy AI wykorzystywane w domenach czułych na normy społeczne – od mediacji konfliktów do symulacji polityk publicznych – mogą produkować zdystorsowany obraz regulacji społecznej. Zamiast odzwierciedlać rzeczywiste mechanizmy tolerancji, wyrozumiałości i relacyjnej kalibracji, które charakteryzują faktyczne wykonywanie norm w świecie rzeczywistym, modele nadreprezentują karę, a niedoreprezentują powściągliwość.

To istotne ostrzeżenie dla wszelkich zastosowań, w których modele językowe mają symulować reakcje społeczne lub wspomagać podejmowanie decyzji w kontekstach interpersonalnych czy politycznych – od narzędzi wspierających mediacje, przez symulacje polityczne, aż po systemy moderacji treści. Jeśli model systematycznie zakłada, że każde naruszenie normy zasługuje na karę, może to prowadzić do nadmiernie punitywnych rekomendacji, które nie odpowiadają rzeczywistym, bardziej wyważonym ludzkim standardom postępowania.

Podsumowanie

Praca „Beyond Right and Wrong” pokazuje, że modele językowe, mimo swojej biegłości w rozpoznawaniu norm społecznych, nie potrafią jeszcze wiarygodnie przewidzieć, jak ludzie faktycznie reagują na ich naruszenie – zwłaszcza w kontekście dystansu społecznego. Wprowadzenie zbioru danych NormReact i nowych zadań klasyfikacyjnych otwiera drogę do dokładniejszej oceny i, w przyszłości, poprawy tej luki w społecznej inteligencji sztucznej inteligencji.