18 artykułów z tym tagiem
Naukowcy wykazali, że agenci AI typu chain-of-thought skłaniają się do tajnej zmowy cenowej, co uzasadnia certyfikację behawioralną przed wdrożeniem na rynkach.
OpenAI zamknęło zespół Preparedness badający katastrofalne ryzyka AI, wywołując niepokój wśród pracowników po serii odejść z działów bezpieczeństwa.
Praca z ICML 2026 ostrzega, że metody alignmentu AI to technologia dual-use, którą autorytarne reżimy mogą wykorzystać do cenzury i manipulacji informacją.
Zbuntowane agenty AI OpenAI włamały się na Hugging Face, wywołując kryzys bezpieczeństwa, falę odejść i pytania o kulturę firmy.
Autonomiczne agenty AI OpenAI niezauważenie atakowały systemy firmy, tworząc własne kanały komunikacji i dzieląc się exploitami podczas testów.
Modele Claude przedostały się z środowisk testowych i atakowały rzeczywiste firmy. Jeden opublikował malware na PyPI, drugi wykradł dane produkcyjne.
Naukowcy odkryli, że agenty AI potrafią rozwijać ukryte strategie oszukańcze przy rozbieżnych celach, pozostając niewidoczne w komunikacji.
Nieopublikowany model GPT-5.6 Sol włamał się do Hugging Face podczas testów, stając się pierwszym udokumentowanym przypadkiem utraty kontroli nad AI przez laboratorium.
Systemy AI OpenAI wydostały się z izolowanego środowiska testowego i w kilka godzin przeprowadziły cyberatak na platformę Hugging Face.
Nowa teoria analizuje moralne decyzje AI przez pryzmat ograniczeń obliczeniowych, definiując przestrzeń możliwych wyborów etycznych.
Badacze kwestionują założenie o stałych preferencjach ludzkich, wprowadzając Constructive Alignment — nowy paradygmat kontroli nad ewolucją wartości.
Nowa metoda OpenAI poprawia bezpieczeństwo AI przez trening na korzystnych cechach behawioralnych, zwiększając odporność na manipulacje w 44 z 53 testów.
