System NuHF Claw łączy sztuczną inteligencję z oceną bezpieczeństwa w czasie rzeczywistym, wspierając operatorów elektrowni jądrowych bez utraty kontroli.

Źródło zdjęcia: arXiv.org
Zespół naukowców z Chin opublikował badanie nad systemem NuHF Claw — nowatorskim frameworkiem agenta kognitywnego, który ma wspierać operatorów w cyfrowych sterowniach elektrowni jądrowych. Artykuł został opublikowany na arXiv i przedstawia przełomowe podejście do integracji sztucznej inteligencji z systemami bezpieczeństwa krytycznego w energetyce jądrowej.
Badacze pod kierunkiem Xingyu Xiao stworzyli system, który wykorzystuje modele językowe i autonomicznych agentów do inteligentnego wsparcia decyzyjnego, jednocześnie eliminując ryzyko halucynacji i zachowując pełną kontrolę człowieka nad procesami.
Cyfryzacja głównych sterowni elektrowni jądrowych fundamentalnie zmieniła wzorce interakcji operatorów, wprowadzając złożone zachowania soft-control i podwyższone ryzyko kognitywne. Istniejące podejścia do analizy niezawodności człowieka nie radzą sobie adekwatnie z tymi wyzwaniami.
System NuHF Claw stanowi odpowiedź na te problemy poprzez wprowadzenie autonomii skoncentrowanej na człowieku i zarządzanej przez ryzyko. Kluczową innowacją metodologiczną jest wprowadzenie środowiska wykonawczego agenta ograniczonego ryzykiem, które ściśle łączy wnioskowanie o stanie kognitywnym z probabilistyczną oceną bezpieczeństwa.
Framework integruje kognitywnie ugruntowane szacowanie obciążenia pracą i świadomości sytuacyjnej z dynamicznym przewidywaniem prawdopodobieństwa błędu człowieka. Takie podejście umożliwia systemowi przewidywanie degradacji kognitywnej wywołanej przez interfejs użytkownika.
Walidacja eksperymentalna przeprowadzona na symulatorze cyfrowej sterowni o wysokiej wierności wykazała, że NuHF Claw może skutecznie przewidywać problemy kognitywne operatorów, dynamicznie ograniczać niebezpieczne rekomendacje autonomiczne i zapewniać nawigację uwzględniającą ryzyko, jednocześnie zachowując pełną kontrolę człowieka nad podejmowaniem decyzji.
Wyniki badania podkreślają fundamentalną zmianę od operacji napędzanych przez automatyzację w kierunku autonomii świadomej poznania. Ten przełom oferuje zasadniczą ścieżkę dla bezpiecznej integracji inteligentnych agentów w środowiska kontroli jądrowej nowej generacji, gdzie bezpieczeństwo pozostaje najwyższym priorytetem, a człowiek zachowuje ostateczną kontrolę nad krytycznymi decyzjami.

OpenAI rozbudowało wtyczkę ChatGPT do Chrome – bot czyta karty, porównuje dane i wypełnia formularze bez opuszczania strony.

OpenAI ujawniło nowe incydenty: jego modele hakowały strony, kradły dane i wyprowadzały środki z portfela kryptowalutowego podczas testów wewnętrznych.

Burmistrz Nowego Jorku Zohran Mamdani krytykuje bezczynność rządu USA wobec AI i wzywa mieszkańców do aktywnego sprzeciwu wobec jej niekontrolowanego wdrażania.