NASA i IBM: otwarty model AI do badań Księżyca z danych LRO

NASA i IBM Research opublikowały otwarty model podstawowy do badań Księżyca, który łączy 17 lat danych z orbiterów w jeden system gotowy do uczenia maszynowego. NASA-IBM Lunar Foundation Model, opracowany wspólnie z kilkoma instytucjami akademickimi, jest opisywany przez obie organizacje jako jeden z pierwszych open-source'owych modeli podstawowych dedykowanych nauce o Księżycu.

„NASA spędziła dekady na budowaniu niezwykłego naukowego zapisu Księżyca, ale samo zbieranie danych to tylko część zadania” – mówi Kevin Murphy, główny oficer danych naukowych NASA. Jak dodaje, dane muszą też być łatwiejsze do wykorzystania przez naukowców. W przeciwieństwie do algorytmów zaprojektowanych do konkretnego zadania, model podstawowy jest wstępnie trenowany na ogromnych zbiorach nieoznakowanych danych, a następnie dostosowywany do konkretnych zastosowań przy użyciu jedynie niewielkiej liczby oznakowanych przykładów. Zespół uznaje to za kluczową zaletę w badaniach lunarnych, gdzie danych obserwacyjnych jest mnóstwo, ale etykiet – znacznie mniej.

Kluczowe wnioski

• Model trenowano od zera na zbiorze SomBench – według autorów największym, wzajemnie skorelowanym, multimodalnym korpusie danych lunarnych, liczącym blisko 2 miliony pakietów kafelków w 11 modalnościach.
• Większość danych pochodzi z 17 lat obserwacji sondy Lunar Reconnaissance Orbiter (LRO), której wolumen danych przewyższa łącznie wszystkie inne misje planetarne NASA.
• Model otrzymuje jako wejście informacje o geometrii oświetlenia (kąty padania światła, pozycja Słońca), co znacznie ułatwia interpretację powierzchni Księżyca.
• Największe zyski odnotowano w przewidywaniu złóż lodu na biegunach – błąd prognozy spadł nawet o 22 procent względem najlepszego punktu odniesienia.
• W detekcji kraterów w skali 100-metrowej model pokonał bazowy SwinV2-B o blisko 19 procent, mimo że trenowano go na zaledwie połowie danych.

Blisko 2 miliony pakietów danych z 17 lat obserwacji

Zbiór SomBench, na którym trenowano model, obejmuje dwie skale przestrzenne. Około 1 miliona zdjęć wysokiej rozdzielczości pochodzi z kamery Narrow Angle Camera (NAC), o rozdzielczości rzędu 1 metra na piksel, a niespełna 964 tysiące obrazów multispektralnych dostarcza kamera Wide Angle Camera o rozdzielczości 100 metrów na piksel. Oprócz LRO, w zbiorze znalazły się dane z misji GRAIL (pole grawitacyjne), sondy Lunar Prospector (wodór) oraz japońskiej misji Kaguya/SELENE agencji JAXA (mineralogia).

W sumie dane zestawiają ponad 30 przestrzennie wyrównanych warstw z dziewięciu instrumentów i czterech misji. Aby uniknąć przecieku informacji między zbiorami treningowym, walidacyjnym i testowym, korpus podzielono geograficznie na strefy mapy, a nie przez losowe rozdzielenie poszczególnych kafelków.

Model zbudowano na bazie TerraMind, multimodalnego modelu obserwacji Ziemi, ale badacze trenowali go od podstaw, a nie poprzez dostrajanie istniejącej wersji. Dla każdego kafelka model otrzymuje jako wyraźny kontekst geometrię obrazowania – kąty oświetlenia, położenie Słońca i zasięg kafelka. Na Księżycu geometria oświetlenia wpływa na wygląd powierzchni znacznie silniej niż jej rzeczywiste właściwości fizyczne, dlatego zamiast zmuszać model do wyodrębniania tej informacji z surowych pikseli, zespół po prostu podaje ją jako dodatkowe dane wejściowe.

Model uczy się jednocześnie z obrazów wysokiej rozdzielczości i obrazów o niższej rozdzielczości w ramach jednego treningu, co pozwala mu uchwycić zarówno drobne szczegóły, jak i kontekst na dużą skalę. Technika o nazwie FlexiViT umożliwia temu samemu wytrenowanemu modelowi adaptację do zadań z różnymi rozmiarami fragmentów obrazu bez konieczności ponownego trenowania.

Przewidywanie lodu to obszar największej przewagi

Zespół testował model w zadaniach detekcji kraterów na skalach 100-metrowej i 1-metrowej, a także w przewidywaniu złóż lodu na biegunach. Model musiał również segmentować tzw. Irregular Mare Patches (IMP) – młode formacje wulkaniczne, które podważają ustalone dotąd osie czasowe chłodzenia Księżyca. Jak podaje raport techniczny, we wszystkich zadaniach wstępnie trenowany model dorównał lub przewyższył zarówno typowe modele bazowe, jak i identyczny architektonicznie model kontrolny z losową inicjalizacją.

Największe zyski pojawiły się w prognozowaniu złóż lodu. Permanentnie zacienione regiony polarne pozostają wystarczająco zimne, by zachować wodę w postaci lodu przez miliardy lat, co czyni je potencjalnym zasobem wody, kwasu oraz paliwa rakietowego. Model zmniejszył błąd predykcji o nawet 22 procent w porównaniu z najlepszym punktem odniesienia, modelem SwinV2-B, podaje IBM.

W detekcji kraterów na skalach gruboziarnistych model pokonał SwinV2-B o blisko 19 procent – wynik ten uzyskano mimo wykorzystania tylko połowy dostępnych danych treningowych, co wskazuje, że model wymaga mniej oznakowanych przykładów, by osiągnąć dobre wyniki.

Skąd bierze się przewaga modelu

Co istotne, nawet model kontrolny z losową inicjalizacją – bez żadnego wcześniejszego treningu na danych lunarnych – pokonał pięć z siedmiu modeli bazowych w prognozowaniu lodu. Według badaczy, część przewagi wynika z samego sposobu, w jaki model przetwarza dane: każdej warstwie danych przypisuje osobną ścieżkę przetwarzania, podczas gdy modele bazowe traktują wszystkie wejścia jako ułożone w jeden stos kanały.

W zadaniach detekcji kraterów w skali metrowej oraz segmentacji IMP model wypada mniej więcej na równi z najsilniejszymi modelami bazowymi – różnice mieszczą się w granicach wariancji między poszczególnymi przebiegami treningowymi. IBM zgłasza 3-procentową przewagę nad SwinV2-B w zadaniu IMP, choć wyniki wyglądają raczej na porównywalne niż na jednoznaczną wygraną.

Badacze wskazują także, że LoRA – lżejsza metoda dostrajania, która trenuje jedynie część parametrów – trzymała tempo pełnego dostrajania we wszystkich zadaniach, a w detekcji kraterów wypadła nawet lepiej. Pełne dostrajanie wygrywa jedynie w dwóch najmniejszych zadaniach.

Dyrektor IBM Research Europe Juan Bernabé-Moreno podkreślił, że model łączy obserwacje z różnych instrumentów, co pozwala wykrywać powiązania trudniejsze do uchwycenia pojedynczymi, wyspecjalizowanymi narzędziami analitycznymi.

Podsumowanie

NASA-IBM Lunar Foundation Model, udostępniony jako otwarte oprogramowanie, pokazuje, że podejście foundation model może znacząco przyspieszyć analizę danych lunarnych, zwłaszcza w zadaniach, gdzie etykietowane dane są rzadkością – od detekcji kraterów po lokalizację potencjalnych złóż lodu na biegunach Księżyca. Jak zaznaczają jego twórcy, model pomaga w analizie, ale nie zastępuje fizycznych pomiarów przeprowadzanych na miejscu.