Laureat Medalu Fieldsa, który pisał o wyginięciu ludzkości przez AI, dołącza do OpenAI

Laureat Medalu Fieldsa Jacob Tsimerman, który w ubiegłym roku opublikował pracę o możliwości wyginięcia ludzkości przez sztuczną inteligencję, dołącza do zespołu OpenAI. Matematyk z University of Toronto będzie pracować nad bezpieczeństwem AI, argumentując, że społeczeństwo musi znacznie więcej wysiłku włożyć w kwestie bezpieczeństwa tej transformacyjnej technologii. Szczegóły tej decyzji omawia serwis The Decoder.

Tsimerman uważa, że matematycy mogą wnieść znaczący wkład w rozwój bezpiecznej AI, ponieważ obecne systemy działają głównie na podstawie empirycznej z niewielkimi gwarancjami dotyczącymi rzeczywistego sposobu ich funkcjonowania.

Kluczowe wnioski

• Jacob Tsimerman, świeżo upieczony laureat Medalu Fieldsa, dołącza do OpenAI by pracować nad bezpieczeństwem sztucznej inteligencji.
• W ubiegłym roku opublikował pracę o „zdarzeniach omnicide” — scenariuszach, w których AI mogłaby przyczynić się do wyginięcia ludzkości.
• Matematyk jest przekonany, że AI wkrótce przewyższy ludzi w badaniach matematycznych.
• Demis Hassabis z DeepMind uważa obecne postępy AI w matematyce za znaczące, ale nie przełomowe jak „Ruch 37” AlphaGo.
• Nowy model OpenAI o nazwie Astra nie poradził sobie z Problemami Milenijnymi, ale według ekspertów to może być kwestia czasu.

Kontrowersyjne stanowisko w sprawie zagrożeń AI

Tsimerman nie unika trudnych tematów związanych z bezpieczeństwem AI. Jego praca o „zdarzeniach omnicide” analizuje scenariusze, w których sztuczna inteligencja mogłaby przyczynić się do wyginięcia ludzkości. To stanowisko jest przedmiotem debaty wśród ekspertów, ale jak podkreśla sam naukowiec, panika nie jest właściwą odpowiedzią — potrzebna jest uczciwa ocena ryzyka.

Matematyk jest przekonany, że AI wkrótce przewyższy ludzi w prowadzeniu badań matematycznych, co czyni kwestię bezpieczeństwa jeszcze bardziej palącą.

Perspektywa przełomów w AI matematycznej

Były CEO DeepMind, Demis Hassabis, również wypowiedział się na temat najnowszych postępów AI w matematyce. Jego zdaniem obecne osiągnięcia stanowią postęp, ale nie są jeszcze fundamentalnym przełomem porównywalnym z legendarnym „Ruchem 37” wykonanym przez AlphaGo DeepMind.

Aby osiągnąć taki przełom, AI musiałaby rozwiązać problemy na poziomie Problemów Milenijnych. Nowy model OpenAI, Astra, również nie poradził sobie z tymi wyzwaniami, ale jak zauważa Hassabis: „Nie widzę powodu, dla którego miałoby to być niemożliwe”.

Decyzja Tsimermana o dołączeniu do OpenAI sygnalizuje rosnące zainteresowanie najwybitniejszych umysłów matematycznych praktyczną pracą nad bezpieczeństwem AI, w momencie gdy technologia ta staje się coraz potężniejsza.