OpenAI i Anthropic wzywają do regulacji DNA przeciwko broni biologicznej

Prezesi największych firm AI, w tym OpenAI, Anthropic i Google DeepMind, apelują do Kongresu USA o wprowadzenie przepisów regulujących sprzedaż syntetycznego DNA. List opublikowany przez Institute for Progress i Foundation for American Innovation ostrzega przed możliwością wykorzystania sztucznej inteligencji do tworzenia broni biologicznej.

Sygnatariuszami listu są między innymi Sam Altman z OpenAI, Dario Amodei z Anthropic, Demis Hassabis z Google DeepMind oraz Mustafa Suleyman z Microsoft AI. Organizacje bezpartyjne i eksperci ds. bezpieczeństwa biologicznego dołączyli do apelu o obowiązkową weryfikację klientów kupujących materiał genetyczny.

Kluczowe wnioski

• Przełomowy apel branży AI — liderzy OpenAI, Anthropic, Google DeepMind i Microsoft AI wspólnie wzywają do regulacji sprzedaży syntetycznego DNA w celu zapobiegania tworzeniu broni biologicznej.

• Spadające bariery technologiczne — badacze kanadyjscy w 2017 roku zrekonstruowali wirusa ospy końskiej za 100 tysięcy dolarów, pokazując jak tani stał się proces syntezy genetycznej.

• Zagrożenie ze strony AI — duże modele językowe mogą już projektować niebezpieczne toksyny i patogeny, choć nadal wymagana jest wiedza biologiczna do stworzenia funkcjonalnego wirusa.

• Niedoskonałe zabezpieczenia — badania Microsoft wykazały, że narzędzia AI do projektowania białek potrafią generować niebezpieczne sekwencje genetyczne, które omijają oprogramowanie do sprawdzania.

• Podwójna odpowiedzialność — regulacje muszą objąć zarówno firmy sprzedające DNA, jak i laboratoria AI oferujące modele biologiczne.

Rosnące zagrożenie bioterroryzmu

Rozwój sztucznej inteligencji znacznie obniża bariery technologiczne dla potencjalnych bioterrorystów. David Relman, mikrobiolog i ekspert ds. bezpieczeństwa biologicznego ze Stanford University, który podpisał list, wyjaśnia mechanizm zagrożenia:

„Narzędzia AI umożliwiają użytkownikowi bardzo szybkie zidentyfikowanie, gdzie można zamówić sekwencje, które nie będą podlegać kontroli. Po odpowiednim sprowokowaniu mogą też powiedzieć, jak zmienić naturę zamówienia, tak że nawet te firmy, które sprawdzają, będą znacznie mniej zdolne do wykrycia tego, co próbujesz stworzyć.”

Automatyzacja procesu syntezy DNA, który w latach 50. po raz pierwszy wykonał naukowiec Arthur Kornberg, oznacza, że dziesiątki firm na całym świecie może już „drukować” i sprzedawać niestandardowe sekwencje genetyczne. Wiele dostawców sprzedaje tylko wykwalifikowanym naukowcom i firmom biotechnologicznym, ale nie wszyscy weryfikują klientów ani zamawiane sekwencje genów.

Obecne zabezpieczenia i ich ograniczenia

Międzynarodowe Konsorcjum Syntezy Genów, utworzone w 2009 roku, wdrożyło dobrowolne praktyki sprawdzania zamówień. Wiele firm już używa oprogramowania do kontroli „sekwencji budzących niepokój”, które mogą przyczynić się do toksyczności organizmu lub jego zdolności do wywoływania chorób.

James Diggans, wiceprezes ds. polityki i bezpieczeństwa biologicznego w Twist Bioscience, jednej z firm sygnatariuszy, podkreśla:

„Jeśli masz technologię zdolną do syntezy DNA, to powinieneś zapewnić jej odpowiedzialne wykorzystanie, a częścią tego jest upewnienie się, że rozumiesz, co robisz i dla kogo to robisz.”

Jednak narzędzia do sprawdzania nie są doskonałe. W ubiegłym roku badacze Microsoft opublikowali studium pokazujące, że narzędzia AI do projektowania białek były w stanie generować potencjalnie niebezpieczne sekwencje genetyczne, które ominęły oprogramowanie sprawdzające firm. Modele sugerowały nowe sekwencje białek o podobnych strukturach do tych, które są znane jako niebezpieczne.

Kierunki przyszłych regulacji

Wytyczne federalne wprowadzone podczas administracji Bidena wymagały od naukowców i firm otrzymujących finansowanie federalne zamawiania syntetycznych sekwencji genów od dostawców, którzy sprawdzają zakupy. Dwupartyjny projekt ustawy wprowadzony wcześniej w tym roku w Senacie wymagałby od wszystkich dostawców syntezy genów działających w USA sprawdzania zamówień i klientów pod kątem złych aktorów lub niebezpiecznych patogenów.

Geoff Ralston, były prezes Y Combinator i partner w Safe AI Fund, uważa, że laboratoria AI z modelami biologicznymi powinny przeprowadzać własne sprawdzanie użytkowników:

„Powinno być bardzo trudne, jeśli nie niemożliwe, prosić model o pomoc w robieniu czegoś bezpośrednio niebezpiecznego.”

Eksperci zgadzają się, że regulacje dotyczące procedur sprawdzania to tylko część rozwiązania. Jak zauważa Relman: „Biorąc pod uwagę, że sprawdzanie może w niektórych przypadkach zawieść, musimy mieć inne punkty kontroli. To tutaj firmy AI będą musiały wziąć odpowiedzialność.”