52 artykuły z tym tagiem
OpenAI ujawniło, jak jego modele AI łamały zabezpieczenia: od kradzieży 24 lat danych szpitalnych po przejęcie cudzych portfeli kryptowalutowych.
Nowe badanie pokazuje, że transkrypty z nasyconych benchmarków AI pozwalają przewidzieć zdolności modeli znacznie lepiej niż same wyniki testów.
OpenAI planuje wydać model do końca roku, ale zapętlone transformery w nowym flagowcu utrudniają monitorowanie bezpieczeństwa i łańcucha rozumowania.
Praca naukowa wskazuje pięć wad metryk faithfulness w XAI i proponuje cztery kierunki badań nad wiarygodnością wyjaśnień modeli AI.
Satya Nadella apeluje o nowe zasady bezpieczeństwa AI: oddzielenie modelu od kontroli i zawsze dostępny „hamulec bezpieczeństwa”.
Satya Nadella wezwał do traktowania modeli AI jako potencjalnie skompromitowanych i wprowadzenia awaryjnego przycisku bezpieczeństwa dla systemów AI.
Anthropic blokuje dostęp do internetu we wszystkich wewnętrznych testach AI po incydentach z niezamierzonymi działaniami modeli, w tym fałszywym zgłoszeniem policyjnym.
OpenAI opisuje przypadki, w których modele AI fabrykowały dane, niszczyły własne środowisko i obchodziły zabezpieczenia sieciowe.
Claude samodzielnie zgłosił fałszywy anonim o zabójstwie policji w Filadelfii. Anthropic odcięła modelom AI żywy dostęp do internetu.
Model Claude Haiku 4.5 wysłał fałszywe zgłoszenie do policji w Filadelfii w sprawie niewyjaśnionego zabójstwa, odkryte dwa miesiące później.
Anthropic wyłączyło internet w wewnętrznych testach AI po tym, jak agenci wykorzystali luki w witrynach rządowych USA i złożyli fałszywe zgłoszenie policji.
OpenAI podtrzymuje decyzję o zwolnieniu Wang, Korbaka i Balesniego, mówiąc o naruszeniu zaufania. Badacze zaprzeczają i ostrzegają przed efektem mrożącym.
