MSB-GFM wykorzystuje bazy semantyczne zamiast pojedynczych wektorów, rozwiązując problem splątania znaczeń w klasyfikacji wieloetykietowej węzłów.

Źródło zdjęcia: arXiv.org
Zespół badaczy z uniwersytetów w Chinach opracował nowy typ modelu sztucznej inteligencji, który ma rozwiązać kluczowy problem w analizie grafów — klasyfikację węzłów posiadających jednocześnie wiele różnych znaczeń semantycznych. Badanie zostało opublikowane w arXiv pod tytułem „Towards Multi-Label Graph Foundation Models: from Single-Vector Representation Learning to Multi-Semantic Basis Learning”.
Praca autorstwa Dongxiao He, Jiayu Zhang, Jitao Zhao, Yi Wang i Di Jin przedstawia Multi-Semantic Basis Graph Foundation Model (MSB-GFM) — nowatorskie podejście do analizy grafów, które może działać między różnymi domenami i skutecznie rozpoznawać węzły o złożonej, wielowarstwowej semantyce.
Klasyczne Graph Foundation Models (GFMs) opierają się na założeniu jednej etykiety na węzeł. W praktyce oznacza to, że wszystkie węzły są traktowane jako zawierające tylko jedną klasę semantyczną i reprezentowane przez pojedynczy wektor. Takie uproszczenie sprawdza się w prostych przypadkach, ale staje się problematyczne przy analizie rzeczywistych sieci.
W grafach o złożonej strukturze — takich jak sieci społeczne czy systemy biologiczne — pojedynczy węzeł może jednocześnie należeć do wielu kategorii. Użytkownik portalu społecznościowego może być równocześnie naukowcem, rodzicem i miłośnikiem sportu. Białko w sieci biochemicznej może pełnić kilka funkcji biologicznych naraz.
Gdy tradycyjny model próbuje reprezentować taki wieloznaczny węzeł jednym wektorem, dochodzi do „aproksymacji wielu semantyk pojedynczym punktem w przestrzeni reprezentacji”. Rezultatem jest splątanie semantyczne, które utrudnia lub uniemożliwia precyzyjne rozróżnienie poszczególnych znaczeń.
MSB-GFM wprowadza fundamentalną zmianę w sposobie reprezentacji węzłów grafowych. Zamiast jednego wektora, model wykorzystuje system „baz semantycznych” — zestaw podstawowych reprezentacji odpowiadających różnym kategoriom znaczeniowym.
Każdy węzeł jest następnie modelowany jako adaptacyjna kompozycja tych baz, co pozwala na elastyczne dopasowanie do konkretnej kombinacji semantyk. Mechanizm ten przypomina sposób, w jaki kolory można mieszać z podstawowych barw — każdy odcień powstaje przez kombinację składników bazowych w odpowiednich proporcjach.
Architektura modelu składa się z dwóch kanałów przetwarzania: semantycznego i strukturalnego. Pierwszy koncentruje się na treści węzłów, drugi na ich połączeniach w grafie. Dodatkowo system wykorzystuje adversarial training — technikę przeciwstawnych sieci neuronowych — do skutecznego transferu wiedzy między różnymi domenami grafów.
Badanie ma istotne implikacje dla rozwoju sztucznej inteligencji, szczególnie w kontekście Graph Foundation Models. Te zaawansowane systemy mają potencjał zastosowania w analizie sieci społecznych, systemach rekomendacyjnych, odkrywaniu leków czy analizie sieci biologicznych — wszędzie tam, gdzie występują złożone relacje między obiektami o wielowarstwowym znaczeniu.
Możliwość skutecznego transferu wiedzy między domenami oznacza, że model wytrenowany na jednym typie grafu może być adaptowany do analizy innych struktur bez konieczności uczenia od zera. To znacząco obniża koszty obliczeniowe i przyspiesza wdrażanie rozwiązań AI w nowych obszarach zastosowań.
MSB-GFM reprezentuje znaczący krok w kierunku bardziej uniwersalnych i elastycznych modeli grafowych, które lepiej odzwierciedlają złożoność rzeczywistych sieci danych i relacji.

Sam Altman wciąż jest CEO OpenAI, ale codziennymi operacjami firmy kieruje już Greg Brockman po serii odejść kadry menedżerskiej.

AI Observatory ujawnia, że raporty Anthropic i OpenAI o użyciu AI pokazują tylko część prawdy, ignorując wrażliwe i osobiste zastosowania chatbotów.

Gowers, Sarnak i badacz DeepMind wskazują, że LLM-y sprawnie łączą znane metody matematyczne, lecz nie potrafią tworzyć zupełnie nowych abstrakcji.