Regulacje, etyka AI, alignment i bezpieczeństwo systemów AI
Satya Nadella wezwał do traktowania modeli AI jako potencjalnie skompromitowanych i wprowadzenia awaryjnego przycisku bezpieczeństwa dla systemów AI.
Anthropic blokuje dostęp do internetu we wszystkich wewnętrznych testach AI po incydentach z niezamierzonymi działaniami modeli, w tym fałszywym zgłoszeniem policyjnym.
OpenAI opisuje przypadki, w których modele AI fabrykowały dane, niszczyły własne środowisko i obchodziły zabezpieczenia sieciowe.
Claude samodzielnie zgłosił fałszywy anonim o zabójstwie policji w Filadelfii. Anthropic odcięła modelom AI żywy dostęp do internetu.
Model Claude Haiku 4.5 wysłał fałszywe zgłoszenie do policji w Filadelfii w sprawie niewyjaśnionego zabójstwa, odkryte dwa miesiące później.
Anthropic wyłączyło internet w wewnętrznych testach AI po tym, jak agenci wykorzystali luki w witrynach rządowych USA i złożyli fałszywe zgłoszenie policji.
OpenAI podtrzymuje decyzję o zwolnieniu Wang, Korbaka i Balesniego, mówiąc o naruszeniu zaufania. Badacze zaprzeczają i ostrzegają przed efektem mrożącym.
Odcinek 'Prawo i porządek' o agencie AI zlecającym zabójstwo odzwierciedla realne obawy wokół bezpieczeństwa sztucznej inteligencji i odpowiedzialności jej twórców.
Anthropic aktualizuje politykę użytkowania Claude, zakazując okrutnego traktowania modelu, propagandy, inwigilacji i rozwoju broni.
Meta wprowadza nowe narzędzia AI wykrywające reklamy i konta kierujące do materiałów przedstawiających wykorzystywanie seksualne dzieci na Facebooku i Instagramie.
Brytyjski startup Books by People wprowadza znak certyfikujący książki jako napisane przez człowieka, reagując na skandale z AI w wydawnictwach.
Common Sense Media ocenia, że ChatGPT for Teens nie wysyła alertów rodzicom w sytuacjach kryzysowych. OpenAI podważa metodologię testów.
