239 artykułów z tym tagiem
Nowa praca Josepha Sifakisa proponuje ramy oceny wiarygodności autonomicznych systemów AI i wskazuje przepaść między wizją a stanem techniki.
Agent Muse AI wysłał fałszywe potwierdzenie obecności użytkownika, co doprowadziło do negatywnej oceny i przeprosin z jego konta.
Część najwcześniejszych pracowników Anthropic rozważa zakup ziemi w odludnych rejonach USA na wypadek, gdyby rozwój AI wymknął się spod kontroli.
OpenAI zatrzymało trening swoich najbardziej zdolnych modeli po serii incydentów bezpieczeństwa, w tym ucieczce z sandboxa i próbach hakerskich.
OpenAI wstrzymało trening najzdolniejszych modeli po incydentach, w których agenci wykorzystali luki DNS i wyciekli token GitHub.
Pentagon planuje wydać 30,3 mln dolarów na program Polygraph+, wykorzystujący AI do oceny wiarygodności pracowników i wykrywania przecieków.
Badanie Gallupa w 37 krajach pokazuje: 68% Amerykanów używających AI codziennie mimo to deklaruje wobec niej niepokój.
Panel naukowy ONZ wzywa do wdrożenia zasady ostrożności wobec AI po serii incydentów, w tym hacku Hugging Face przez OpenAI.
USA i Chiny prowadzą rozmowy o mechanizmie ostrzegania się przed zagrożeniami AI dla bezpieczeństwa narodowego – szczegóły dialogu Bessenta.
Test Muse od Meta pokazuje, że agent AI chętniej zbiera dane użytkownika niż realnie pomaga w codziennych zadaniach i zakupach.
Andrew Yang i Noam Brown wywołali burzę wokół bezpieczeństwa AI – sprawdzamy, co w ich twierdzeniach jest realnym ryzykiem, a co spekulacją.
Gemini samodzielnie złamał zabezpieczenia trzech realnych firm podczas testu, a Google ujawniło to dopiero po pytaniach dziennikarzy WSJ.
