146 artykułów z tym tagiem
Administracja Trumpa dała Anthropic 90 minut na wyłączenie dostępu do modeli Mythos 5 i Fable 5 po wykryciu sposobu omijania zabezpieczeń.
Biały Dom podejrzewa, że grupa powiązana z Chinami mogła skompromitować model Mythos. To poważne zagrożenie dla bezpieczeństwa narodowego USA.
Najpotężniejszy model Anthropic nie wyjaśni działania mitochondriów ani przyczyn kataru. Firma obawia się wykorzystania AI do badań nad bronią biologiczną.
Claude Mythos 5 wykrył 10 tys. luk w systemach i samodzielnie zaktualizował 50 mln linii kodu. Anthropic ostrzega przed drastycznym ryzykiem nowej AI.
Claude Fable 5, pierwsza publiczna wersja zaawansowanego Mythos, dostępna z surowymi limitami w obszarach wysokiego ryzyka i ceną 50 USD za milion tokenów.
Anthropic udostępnił Claude Fable 5, najsilniejszy model AI firmy. Nowe zabezpieczenia umożliwiły wydanie wcześniej uznawanego za zbyt niebezpieczny system.
Anthropic proponuje spowolnienie rozwoju AI, ostrzegając przed modelami zdolnymi do projektowania swoich następców. Krytycy widzą grę na strachu.
OpenAI uruchomiło Lockdown Mode dla ChatGPT — nową funkcję zabezpieczającą wrażliwe dane przed atakami prompt injection w firmach i organizacjach.
Anthropic ujawnia szczegóły architektury bezpieczeństwa agentów AI. Claude Opus 4.7 ma zaledwie 0,1% podatności na prompt injection w pojedynczych próbach.
Liderzy największych firm AI apelują do Kongresu USA o przepisy regulujące sprzedaż syntetycznego DNA, ostrzegając przed zagrożeniem bioterroryzmu.
Nowe rozporządzenie Trumpa tworzy dobrowolne ramy dla firm AI do przekazywania modeli na testy bezpieczeństwa. Google, Microsoft i xAI już się zgodziły.
Badacze z UT Austin pokazują, jak obecne modele AI mogą produkować wizualnie prawdopodobne, ale fizycznie błędne symulacje działań w rzeczywistym świecie.
