HardFlow z MIT: AI spełnia ścisłe wymagania bezpieczeństwa

Naukowcy z MIT opracowali metodę, która pomaga modelom generatywnej sztucznej inteligencji radzić sobie z zadaniami, w których nie wystarczy odpowiedź „prawie poprawna”. Nowa technika, nazwana HardFlow, pozwala modelom AI generować rozwiązania spełniające ścisłe, nienegocjowalne wymagania bezpieczeństwa, fizyki lub konkretnego zadania — bez konieczności ponownego trenowania sieci.

Kluczowe wnioski

• HardFlow to algorytm opracowany przez badaczy z MIT, który steruje procesem generowania danych tak, aby ostateczny wynik spełniał ścisłe wymagania („hard constraints”), zamiast wymuszać je na każdym etapie pośrednim.
• Metoda działa na etapie wdrożenia (deployment time) jako technika plug-and-play — można ją zastosować do już wytrenowanych modeli generatywnych, takich jak modele dyfuzyjne (np. Stable Diffusion) czy modele flow-matching (np. FLUX), bez ich ponownego trenowania.
• W testach obejmujących robotykę, kontrolę procesów fizycznych i wizję komputerową nowa metoda konsekwentnie spełniała wymagane ograniczenia, jednocześnie znajdując lepsze rozwiązania niż istniejące techniki.
• Autorzy techniki wywodzą ją z teorii sterowania optymalnego (control theory), przeformułowując próbkowanie z ograniczeniami jako problem optymalizacji trajektorii.
• Badanie, którego głównym autorem jest doktorant Zeyang Li, a współautorem Kaveh Alim, pod kierunkiem prof. Navida Azizana z MIT, zostało opublikowane w czasopiśmie IEEE Transactions on Pattern Analysis and Machine Intelligence.

Problem: kiedy „blisko poprawnie” nie wystarcza

Pretrenowane modele generatywne AI, takie jak modele dyfuzyjne (Stable Diffusion) czy modele flow-matching (FLUX), są obecnie powszechnie dostępne i pozwalają twórcom adaptować je do wielu zastosowań. Uczą się one tworzyć nowe dane poprzez przekształcanie losowego szumu i doskonale radzą sobie z generowaniem odpowiedzi bliskich prawidłowym rozwiązaniom dla większości zapytań.

Problem pojawia się w zastosowaniach krytycznych dla bezpieczeństwa — takich jak planowanie ścieżki robota na zatłoczonej hali produkcyjnej. Odpowiedź „prawie poprawna” może okazać się niewystarczająca. Jak wskazują autorzy, „prawie poprawna” ścieżka między dwiema maszynami może wciąż skutkować kolizją robota z pracownikiem.

W takich sytuacjach użytkownicy stosowali dotąd technikę zwaną projection-based sampling, która wielokrotnie wymusza na częściowych, pośrednich rozwiązaniach modelu spełnianie ścisłych wymagań podczas całego procesu generowania. Jak zauważają badacze, ograniczanie całego procesu generowania w ten sposób może uniemożliwić modelowi znalezienie lepszego finalnego rozwiązania. Metody te skupiają się też zwykle wyłącznie na spełnieniu wymagań, tracąc szansę na poprawę innych aspektów rozwiązania, jak np. skrócenie trasy przemieszczania się robota.

„W przypadku spełniania ograniczeń liczy się ostatecznie wyłącznie finalny wynik modelu, ponieważ wewnętrzny proces jest odrzucany. Nie wymagając od każdego etapu pośredniego spełniania ograniczeń, dajemy modelowi więcej swobody w znajdowaniu wysokiej jakości rozwiązań, które wciąż są wykonalne na końcu” — mówi Zeyang Li, doktorant w dziedzinie inżynierii mechanicznej i LIDS, główny autor pracy.

Jak działa HardFlow

Zespół pod kierunkiem Navida Azizana, profesora katedry Alfreda H. i Jean M. Hayes na Wydziale Inżynierii Mechanicznej oraz w Instytucie Danych, Systemów i Społeczeństwa (IDSS), a także głównego badacza w Laboratorium Systemów Informacyjnych i Decyzyjnych (LIDS), opracował algorytm o nazwie HardFlow. Steruje on procesem próbkowania tak, aby finalny wynik spełniał ograniczenia narzucone przez użytkownika, nie będąc przy tym nadmiernie restrykcyjny i zachowując wyższą jakość rozwiązania.

„Obietnica generatywnej AI leży w jej zdolności do eksplorowania bogatej przestrzeni możliwości, ale realny świat wyznacza granice tego, które możliwości są akceptowalne. Nasze podejście pozwala zachować tę generatywną moc, jednocześnie wymuszając nienegocjowalne wymagania w zastosowaniach o wysokiej stawce lub krytycznych dla bezpieczeństwa” — wyjaśnia Azizan, senior author artykułu.

HardFlow przeformułowuje próbkowanie z ograniczeniami jako problem optymalizacji trajektorii, wykorzystując narzędzia z dziedziny sterowania optymalnego. Umożliwia to sterowanie trajektorią próbkowania modelu w kierunku celu, wprowadzając subtelne korekty na drodze, przy jednoczesnym wymuszaniu ścisłych ograniczeń na finalnym wyniku.

„Teoria sterowania daje nam potężne ramy do formalizowania optymalnego sposobu wprowadzania tych korekt” — dodaje Azizan.

Rozwiązanie problemu optymalizacji trajektorii wokół ogromnej sieci neuronowej, która może liczyć setki wzajemnie połączonych warstw przetwarzających dane, nie było jednak łatwym zadaniem. Aby uczynić problem rozwiązywalnym, badacze wykorzystali strukturę modeli flow-matching, rozkładając problem na sekwencję mniejszych podproblemów jednokrokowych, a następnie zastosowali systematyczne metody do ich rozwiązania.

Znaczenie dla praktycznych zastosowań AI

Ponieważ HardFlow działa na etapie wdrożenia i nie wymaga ponownego trenowania modelu, może istotnie rozszerzyć zakres bezpiecznego wykorzystania już istniejących, pretrenowanych modeli generatywnych. Możliwość zastosowania metody typu plug-and-play do modeli takich jak Stable Diffusion czy FLUX oznacza, że firmy i zespoły badawcze nie muszą inwestować w kosztowne ponowne trenowanie, aby uczynić swoje systemy AI zgodnymi z regułami bezpieczeństwa, prawami fizyki czy innymi ścisłymi wymogami zadania.

Testy w obszarach robotyki, kontroli procesów fizycznych i wizji komputerowej pokazują, że podejście to nie jest ograniczone do jednej dziedziny — może mieć zastosowanie wszędzie, gdzie generatywna AI musi działać w warunkach nienegocjowalnych ograniczeń. To istotny krok w kierunku szerszego wykorzystania modeli generatywnych w zastosowaniach, gdzie do tej pory ich niedokładność stanowiła barierę bezpieczeństwa.

Nowa metoda HardFlow pokazuje, że generatywna AI może być jednocześnie kreatywna i rygorystyczna — łącząc bogactwo możliwości modeli dyfuzyjnych czy flow-matching z bezwzględną precyzją wymaganą w zastosowaniach krytycznych dla bezpieczeństwa, takich jak robotyka przemysłowa czy kontrola systemów fizycznych.