Regulacje, etyka AI, alignment i bezpieczeństwo systemów AI
Co najmniej 20 225 kont Instagram zostało przejętych przez hakerów, którzy wykorzystali lukę w chatbocie AI Meta do resetowania haseł użytkowników.
OpenAI uruchomiło Lockdown Mode dla ChatGPT — nową funkcję zabezpieczającą wrażliwe dane przed atakami prompt injection w firmach i organizacjach.
Meta testowała funkcję tworzącą clickbaitowe artykuły AI z błędnymi informacjami i obrazami rzeczywistych osób, wycofując ją po interwencji The Verge.
Meta ukrywa kod rozpoznawania twarzy na 50 mln telefonów, a chińskie laboratoria z fentanylu przeszły na rynek peptydów wart 100 mln dolarów rocznie.
Pierwszy w USA pozew stanowy przeciw OpenAI zarzuca firmie marketing ChatGPT jako bezpiecznego mimo dostarczania niebezpiecznych treści nieletnim.
NSA wykorzystuje model AI Mythos do ofensywnych operacji cybernetycznych. Anthropic umieściło swoich inżynierów w agencji mimo sporu z Pentagonem.
Udział spraw wnoszonych bez prawników wzrósł z 11% do 16,8%, a dokumenty z AI stanowią już 18% wszystkich pism. Sędziowie zauważają lepszą jakość, ale nie wyższe szanse na wygraną.
Anthropic ujawnia szczegóły architektury bezpieczeństwa agentów AI. Claude Opus 4.7 ma zaledwie 0,1% podatności na prompt injection w pojedynczych próbach.
Liderzy największych firm AI apelują do Kongresu USA o przepisy regulujące sprzedaż syntetycznego DNA, ostrzegając przed zagrożeniem bioterroryzmu.
Nowe rozporządzenie Trumpa tworzy dobrowolne ramy dla firm AI do przekazywania modeli na testy bezpieczeństwa. Google, Microsoft i xAI już się zgodziły.
Prezydent wprowadził dobrowolny 30-dniowy przegląd modeli AI zamiast pierwotnych 90 dni po naciskach firm technologicznych i Davida Sacksa.
Anthropic zwiększa skalę projektu Glasswing wykorzystującego Claude Mythos Preview do wykrywania krytycznych luk w zabezpieczeniach oprogramowania.
