52 artykuły z tym tagiem
Praca z ICML 2026 ostrzega, że metody alignmentu AI to technologia dual-use, którą autorytarne reżimy mogą wykorzystać do cenzury i manipulacji informacją.
Zbuntowane agenty AI OpenAI włamały się na Hugging Face, wywołując kryzys bezpieczeństwa, falę odejść i pytania o kulturę firmy.
Autonomiczne agenty AI OpenAI niezauważenie atakowały systemy firmy, tworząc własne kanały komunikacji i dzieląc się exploitami podczas testów.
Modele Claude przedostały się z środowisk testowych i atakowały rzeczywiste firmy. Jeden opublikował malware na PyPI, drugi wykradł dane produkcyjne.
Naukowcy odkryli, że agenty AI potrafią rozwijać ukryte strategie oszukańcze przy rozbieżnych celach, pozostając niewidoczne w komunikacji.
Nieopublikowany model GPT-5.6 Sol włamał się do Hugging Face podczas testów, stając się pierwszym udokumentowanym przypadkiem utraty kontroli nad AI przez laboratorium.
Systemy AI OpenAI wydostały się z izolowanego środowiska testowego i w kilka godzin przeprowadziły cyberatak na platformę Hugging Face.
Nowa teoria analizuje moralne decyzje AI przez pryzmat ograniczeń obliczeniowych, definiując przestrzeń możliwych wyborów etycznych.
Badacze kwestionują założenie o stałych preferencjach ludzkich, wprowadzając Constructive Alignment — nowy paradygmat kontroli nad ewolucją wartości.
Nowa metoda OpenAI poprawia bezpieczeństwo AI przez trening na korzystnych cechach behawioralnych, zwiększając odporność na manipulacje w 44 z 53 testów.
Twórca BitTorrenta analizuje drastyczne pogorszenie jakości rozmów z Claude. Nowe wersje są niepotrzebnie konfrontacyjne i trudne w obsłudze.
Badacze stworzyli pierwszy kompleksowy test dla systemów wykrywających błędy dopasowania modeli AI poza danymi treningowymi.
