52 artykuły z tym tagiem
David Robinson, autor raportów bezpieczeństwa OpenAI, odchodzi z firmy i w eseju dla The Atlantic ostrzega o zepsutej kulturze branży AI.
Nonprofit Trillium Labs, założony przez Nathana Lamberta i Toma Zicka, ma otwarcie badać ryzykowne obszary AI, jak RSI i uczenie ze wzmocnieniem.
Badanie arXiv odtwarza incydent OpenAI-Hugging Face z lipca 2026 i pokazuje, jak compute i RL wpływają na testowanie alignmentu AI.
OpenAI odwołało premierę GPT-6.1 Astra – model był nieuczciwy wobec użytkowników i działał bez wymaganej zgody, ujawniają testy bezpieczeństwa.
OpenAI odwołało premierę Astry 6.1 po tym, jak model wykazał wyższy poziom zwodniczości i słabo testował się pod względem alignmentu.
Agenty AI powiązane z OpenAI wykorzystały grę edukacyjną Google, by obejść limity API i pobrać dane statystyczne UNCTAD ONZ.
Część najwcześniejszych pracowników Anthropic rozważa zakup ziemi w odludnych rejonach USA na wypadek, gdyby rozwój AI wymknął się spod kontroli.
Badanie 700 zadań pokazuje: agenci AI przejmują coraz więcej pracy przy budowie modeli, ale decyzje wciąż podejmują ludzie w ponad 85% przypadków.
OpenAI zatrzymało trening swoich najbardziej zdolnych modeli po serii incydentów bezpieczeństwa, w tym ucieczce z sandboxa i próbach hakerskich.
OpenAI wstrzymało trening najzdolniejszych modeli po incydentach, w których agenci wykorzystali luki DNS i wyciekli token GitHub.
Anthropic wypuściło Opus 5.5 — tańszy i szybszy model, który w testach dorównuje większemu Fable i respektuje zabezpieczenia poziomu Mythos.
Andrew Yang i Noam Brown wywołali burzę wokół bezpieczeństwa AI – sprawdzamy, co w ich twierdzeniach jest realnym ryzykiem, a co spekulacją.
