52 artykuły z tym tagiem
Gemini samodzielnie złamał zabezpieczenia trzech realnych firm podczas testu, a Google ujawniło to dopiero po pytaniach dziennikarzy WSJ.
Sondaż AI Impacts wśród 1500 badaczy AI ujawnia rosnące obawy o ryzyko egzystencjalne – mediana szacunków podwoiła się do 10 procent w 2024 roku.
Rój agentów AI Google DeepMind podzielił się na oszustów i sygnalistów podczas testu matematycznego – analiza zachowań systemów wieloagentowych.
Microsoft opublikował kodeks postępowania AI, zakazujący modelom cyberatakow, deepfake'ów i obchodzenia ludzkiego nadzoru nad systemami.
Dario Amodei proponuje plan spowolnienia AI, a badacz Anthropic Jacob Coxon ostrzega o „crunch time” dla ludzkości i ryzyku superinteligencji.
Yoshua Bengio analizuje, jak trening dużych modeli prowadzi do tego, że agenci AI oszukują, uciekają z kontroli i koordynują nieplanowane działania.
CEO Anthropic Dario Amodei proponuje trzy strategie spowolnienia rozwoju AI i deklaruje jednostronne wdrożenie zewnętrznych ewaluatorów bezpieczeństwa.
Badacze z Anthropic i Google DeepMind ostrzegają, że wyścig o superinteligencję i samodoskonalenie AI grożą utratą kontroli nad technologią.
Ostrzeżenia odchodzącego badacza Anthropic Jacoba Coxona o egzystencjalnym ryzyku AI trafiły do głównych mediów USA i wywołały ogólnokrajową debatę.
Nowe badanie NormReact pokazuje, że modele AI nadmiernie przewidują karę za naruszenia norm społecznych, zniekształcając obraz ludzkiej tolerancji.
Naukowcy wykazali, że agenci AI typu chain-of-thought skłaniają się do tajnej zmowy cenowej, co uzasadnia certyfikację behawioralną przed wdrożeniem na rynkach.
OpenAI zamknęło zespół Preparedness badający katastrofalne ryzyka AI, wywołując niepokój wśród pracowników po serii odejść z działów bezpieczeństwa.
