OpenWALDO: otwarty zbiór danych chce zmienić trening AI

Nowy projekt chce otworzyć czarną skrzynkę danych treningowych AI

Zespół stojący za CentOS i Rocky Linux ruszył z inicjatywą, która ma zrobić w świecie sztucznej inteligencji to, co open source zrobiło niegdyś z oprogramowaniem. Projekt OpenWALDO – skrót od Open Weights, Artifacts, Licenses, Data, Origins – ma być wspólnym, jawnym zbiorem danych treningowych AI, do którego każdy może dołożyć swoją cegiełkę, podobnie jak przy klasycznym projekcie open source. Jak pisze The Register, celem jest większa przejrzystość niż w przypadku wielu modeli o otwartych wagach, które w ostatnim czasie zdobyły dużą popularność w branży.

Za projektem stoi Gregory Kurtzer, założyciel CentOS i Rocky Linux, a finansuje go jego firma infrastrukturalna CIQ, która wspiera też Rocky Linux. Kurtzer opisuje OpenWALDO jako próbę przeniesienia ducha open source do projektowania modeli AI – dziedziny, która nigdy nie była naprawdę otwarta. Nawet modele o otwartych wagach, które można pobrać i uruchomić lokalnie, mają zamknięte, nieznane użytkownikom dane treningowe oraz inne ograniczenia, które odbierają im status prawdziwie otwartego oprogramowania.

Kluczowe wnioski

• OpenWALDO to wspólny, otwarty zbiór danych treningowych AI, finansowany przez firmę CIQ Gregory'ego Kurtzera, twórcy CentOS i Rocky Linux.
• Zbiór zawiera obecnie 167,3 miliarda tokenów referencyjnych pochodzących z dokumentów rządowych, otwartych prac akademickich, list mailingowych i literatury z domeny publicznej.
• To wciąż kropla w morzu w porównaniu do dziesiątek bilionów tokenów, na których trenowane są modele czołowych laboratoriów AI i ich konkurenci o otwartych wagach.
• CIQ argumentuje, że dane treningowe większości modeli – nawet otwartych – często pochodzą z materiałów objętych prawami autorskimi, treści generowanych przez innych modeli lub danych użytkowników zebranych bez jasnej zgody.
• Kurtzer przyrównuje krytykę OpenWALDO do dawnych obaw o bezpieczeństwo Linuksa, argumentując, że open source wygrywa nie certyfikatami, a jawnością i weryfikacją społeczności.

Problem nieprzejrzystych danych treningowych

Według CIQ obecny model treningu AI opiera się na tajemnicy pochodzenia danych. „Często nie ma sposobu, żeby ustalić, jakie dane wytrenowały dany model, na jakiej licencji lub z jaką zgodą” – napisała firma w ogłoszeniu projektu, dodając, że skryte treści treningowe mogą „zatruwać” modele i stawiać pod ryzykiem stosy oprogramowania klientów, które na nich bazują.

Problem dotyczy nie tylko modeli zamkniętych. Nawet popularne obecnie modele o otwartych wagach – w tym te, których ekosystem otwartego oprogramowania rozwija się coraz szybciej – wciąż nie ujawniają w pełni, jakie materiały posłużyły do ich stworzenia. CIQ podkreśla, że wśród nieznanych źródeł mogą się znaleźć dane objęte prawami autorskimi, odpowiedzi zdestylowane z innych modeli oraz treści generowane przez użytkowników, które być może nigdy nie zostały udostępnione w prawdziwie otwarty sposób.

Dodatkowym argumentem jest efektywność. Gdy każda firma trenuje swój model w tajemnicy, wiele pracy się powiela, marnując czas i zasoby obliczeniowe. Zespół OpenWALDO argumentuje, że jeden, wspólny zbiór danych treningowych nie tylko poprawiłby efektywność w całej branży, ale też sprawił, że każde ulepszenie zbioru mogłoby przynieść korzyści przyszłym modelom trenowanym na jego bazie. Jak wyjaśnia CIQ: „Laboratorium lub firma może wziąć ten korpus wraz z jego wykazem materiałów jako zweryfikowaną bazę, dodać własne dane, zbudować i wypuścić produkt z jasną, możliwą do audytu linią prowadzącą z powrotem do źródeł.”

Argument z historii Linuksa

Projekt powstaje w momencie, gdy otwarte modele AI (nie mylić z modelami samej firmy OpenAI) zyskują coraz większe znaczenie w dyskusji o przyszłości branży. Przy wysokich cenach usług i wciąż w większości nieobecnym zwrocie z inwestycji, modele pochodzące z Chin – kraju będącego domem otwartych wag – zbliżają się do możliwości zamkniętych modeli czołowych laboratoriów, takich jak ChatGPT czy Claude. To skłania wiele firm do pytania, czy warto płacić wysokie kwoty za usługi AI, których nie posiadają, nie mogą w pełni kontrolować i nie mają wglądu w ich wnętrze.

Niektóre wiodące laboratoria ostrzegały, że modele o otwartych wagach niosą ryzyko związane z bezpieczeństwem i niewłaściwym wykorzystaniem. Kurtzer odpowiada, że oprogramowanie open source mierzyło się z podobnymi obawami w przeszłości i wygrało tę debatę. „Linux nie wygrał dlatego, że ktoś go certyfikował jako bezpieczny. Wygrał, bo można go sprawdzić, zmodyfikować i zweryfikować przez społeczność” – podkreślił, dodając: „AI wciąż nie ma tej właściwości, a OpenWALDO jest sposobem, żeby ją zbudować”.

Długa droga przed danymi OpenWALDO

Przekonanie branży, która tak daleko posunęła się na ścieżce zamkniętych danych treningowych, do zmiany podejścia to spore wyzwanie. Czy OpenWALDO okaże się rewolucją, czy niszowym projektem open source, który przejdzie bez większego echa w środowisku AI – to pokaże czas.

Na razie zbiór OpenWALDO liczy 167,3 miliarda tokenów referencyjnych – wciąż niewielką część w porównaniu z dziesiątkami bilionów tokenów, na których trenowane są dziś modele czołowych laboratoriów i ich odpowiedniki o otwartych wagach. The Register zapytał CIQ, czy jakikolwiek model został już wytrenowany na zbiorze OpenWALDO, jednak firma nie odpowiedziała na to pytanie. Osoby zainteresowane wsparciem projektu lub korzystaniem z jego zasobów mogą znaleźć więcej informacji na stronie internetowej projektu oraz jego repozytorium GitHub.

Inicjatywa Kurtzera wpisuje się w szerszy trend rosnącego zainteresowania przejrzystością w AI – od kwestii oznaczania treści generowanych przez modele, po debaty o tym, kto tak naprawdę powinien decydować o kierunku rozwoju sztucznej inteligencji. Na razie jednak OpenWALDO to raczej deklaracja ambicji niż konkurencyjna alternatywa dla trylionowych zbiorów danych czołowych laboratoriów.