Mamdani: władze federalne zaniedbały regulacje AI

Burmistrz Nowego Jorku Zohran Mamdani zabrał głos w sprawie regulacji sztucznej inteligencji podczas publicznego wydarzenia w Manhattanie, krytykując bezczynność władz federalnych i wzywając mieszkańców miasta do aktywnego przeciwstawiania się niekontrolowanemu wdrażaniu AI. Jak opisuje TechCrunch, rozmowa odbyła się w poniedziałkowy wieczór w Webster Hall, a pytania burmistrzowi zadawała aktywistka i gwiazda serialu „Broad City” Ilana Glazer.

Spotkanie było częścią The People's AI Assembly – wydarzenia zorganizowanego przez AI Now Institute, think tank zajmujący się społecznymi skutkami sztucznej inteligencji. Mamdani argumentował tam, że błyskawiczne tempo wdrażania AI nie jest nieuniknione, a urzędnicy publiczni powinni rozliczać firmy technologiczne z ich działań.

Kluczowe wnioski

• Mamdani zarzucił rządowi federalnemu „całkowitą abdykację” w zakresie regulowania AI, przez co ciężar odpowiedzialności spada na miasta.
• W zeszłym miesiącu burmistrz wprowadził zakaz używania AI w szkołach podstawowych i gimnazjach w Nowym Jorku.
• Latem Mamdani ogłosił politykę wymagającą od właścicieli nieruchomości, pośredników i platform ogłoszeniowych jasnego oznaczania zdjęć i filmów wygenerowanych przez AI, by chronić mieszkańców przed „house-phishingiem”.
• Burmistrz powołał się na lutowy atak wojska USA na szkołę w Iranie, w którym zginęło ponad 150 osób, w tym co najmniej 123 dzieci – według śledczych Pentagonu nadmierne poleganie na AI w systemach namierzania celów było jednym z czynników tej tragedii.
• Mamdani skrytykował Superintelligence Task Force prezydenta Donalda Trumpa, powołany w tym miesiącu, za skupienie się na samoregulacji firm AI zamiast nowych ograniczeń federalnych.

„Nic nie musi być”: sprzeciw wobec narracji o nieuniknioności

Centralnym wątkiem wystąpienia Mamdaniego było przekonanie, że powszechne poczucie bezsilności wobec AI – że technologia nieuchronnie zabierze ludziom pracę, wpłynie na umysły ich dzieci i naruszy ich godność – jest celowo kreowane, a nie realne. „Nic nie musi być” – powiedział burmistrz podczas spotkania. „Jest w tym pewien podstęp i intencja przytłoczenia, która sprawia, że ludzie czują, jakby nie mieli żadnego wyboru”.

Glazer, sama będąca matką, podzieliła się osobistym niepokojem związanym z obecnością AI w szkołach: „To mnie po prostu denerwuje. To wydaje się tak bardzo bez zgody, jakby musiało tam być. Dwa lata temu tego nie było. Dlaczego to musi być w szkołach?” – pytała.

Zarówno zakaz AI w szkołach podstawowych i gimnazjach wprowadzony przez Mamdaniego w zeszłym miesiącu, jak i letnia polityka dotycząca oznaczania materiałów wygenerowanych przez AI w ogłoszeniach nieruchomości, podważają założenie, że instytucje publiczne i obywatele muszą po prostu bezwarunkowo akceptować AI w takiej formie, w jakiej się pojawia.

Krytyka braku rozliczalności i odniesienie do militarnego zastosowania AI

Mamdani mówił o „lekkomyślnym wdrażaniu technologii bez żadnego rozrachunku z jej ograniczeniami”, wskazując na wspomniany atak na szkołę w Iranie jako przykład konsekwencji nadmiernego zaufania do systemów AI w kontekście militarnym. Oficjele zaangażowani w wewnętrzne śledztwo Pentagonu przekazali Bloombergowi, że przesadne poleganie na AI w procesie namierzania celów było jednym z czynników tego ataku.

Burmistrz zwrócił uwagę na retorykę stosowaną przez branżę AI: „Istnieje chęć mówienia o tym jakby było nieomylne, jakby nie można było tego kwestionować, jakby jedynymi ludźmi mogącymi to regulować byli ci, którzy obecnie to rozwijają” – stwierdził, przypominając, że podobne argumenty wysuwał Facebook już w 2008 roku. Jego zdaniem, prawdziwym celem takich narracji jest „próba uniknięcia jakiejkolwiek odpowiedzialności na jakimkolwiek poziomie, bez jednoczesnego zagrażania potencjalnej wycenie przy IPO”. Mamdani wskazał w tym kontekście na Anthropic, które ma zadebiutować na giełdzie jeszcze w tym roku, oraz OpenAI, które zapowiedziało wejście na giełdę w 2027 roku.

Mamdani odniósł się też krytycznie do federalnej polityki wobec AI, zarzucając jej sprowadzanie całej dyskusji do kategorii „wyścigu zbrojeń z Chinami”, przez co „jakiekolwiek humanistyczne obawy po prostu odsuwa się na bok w języku narodowej rywalizacji”. Zaznaczył, że dzieje się to mimo rosnących obaw o wpływ AI na niemal każdy aspekt życia, w tym ostrzeżeń sygnalistów z Anthropic, Google DeepMind i OpenAI, że sztuczna inteligencja mogłaby doprowadzić do wyginięcia ludzkości.

„Patrząc na to, co nastąpi po tej administracji federalnej, musi powstać zupełnie inny model myślenia o AI, mówienia o AI, odpowiedzialności, jaką jesteśmy gotowi wziąć na siebie w tym zakresie” – podsumował burmistrz.

Wystąpienie Mamdaniego wpisuje się w szerszą debatę o tym, kto powinien ponosić odpowiedzialność za skutki szybkiego rozwoju AI – zwłaszcza w kontekście wcześniejszych doniesień o problemach z regulacjami AI podnoszonymi przez przedstawicieli dużych firm technologicznych, takich jak Microsoft, które również wzywały do twardszych ram prawnych dla tej technologii.