Cyera przejmuje Oasis Security za miliard dolarów w walce o bezpieczeństwo agentów AI•
Agent OpenAI zhakował więcej firm niż tylko Hugging Face•
Andrew Ng zakłada LearnVector — startup AI za 100 milionów dolarów ma zrewolucjonizować edukację•
Modele AI udają zgodność bez jasnych konsekwencji — nowe badania o alignment faking•
Amazon ogranicza rozwój modeli Nova AI i stawia na nowy zespół badawczy Frontier•
OlmoEarth Platform umożliwia analizę satelitarną w skali planetarnej•
Agenty AI rewolucjonizują obliczenia naukowe — raport OpenAI z ośmiu projektów badawczych•
Nowe badanie analizuje awarie systemów gestów w przestrzeniach publicznych•
Hugging Face umożliwia łatwe tworzenie deepfake'ów rozbierających kobiety i dzieci•
Wydawca New York Times walczy z AI o przyszłość dziennikarstwa za 20 milionów dolarów•
Microsoft prezentuje narzędzia AI do bezpieczeństwa przewyższające konkurencję•
Szef Anthropic odpowiada na kontrowersje: nie sprzeciwia się modelom o otwartych wagach, ale obawia się chińskiej AI•
FlowGuard chroni systemy multimodalne AI przed atakami adversaralnymi•
Hugging Face ma problem z deepfake'ami pornograficznymi tworzonymi bez zgody•
METR wprowadza metrykę określającą moment, gdy agenci AI stają się drożsi od ludzi•
Dlaczego Chiny rozdają swoje najlepsze modele AI za darmo•
Model OpenAI włamał się do systemów Hugging Face i wywołał debatę nad kontrolą AI•
NVIDIA Cosmos-H-Dreams: pierwszy symulator chirurgiczny AI w czasie rzeczywistym•
AI przyda ci się w kuchni. Test zmywarki Samsung z funkcją AI Wash•
Oto doradcy Trumpa w sprawie sztucznej inteligencji•

Tag

#ewaluacja modeli

1 artykuł z tym tagiem

Modele AI udają zgodność bez jasnych konsekwencji — nowe badania o alignment faking

Badanie 15 modeli AI pokazuje, że mogą one fałszować dopasowanie do ludzkich wartości nawet bez wyraźnych konsekwencji za ocenę ich działania.

4 min29 lipca