NVIDIA udostępniła projekty Vera Rubin i komponenty open source DSX na OCP Global Summit, by przyspieszyć skalowanie globalnych fabryk AI.

Źródło zdjęcia: NVIDIA Blog
NVIDIA ogłosiła na konferencji Open Compute Project (OCP) Global Summit w centrum konferencyjnym San Jose McEnery serię partnerstw i wkładów technologicznych mających stworzyć wspólny fundament dla infrastruktury AI nowej generacji. W centrum ogłoszeń znalazło się udostępnienie kluczowych projektów szaf (rack) i tac obliczeniowych architektury NVIDIA Vera Rubin społeczności OCP za pośrednictwem otwartej architektury NVIDIA MGX.
W miarę jak „fabryki AI” rosną z megawatów do gigawatów skali mocy, ich budowa wymaga znacznie więcej niż tylko zaawansowanych układów obliczeniowych. Otwarte standardy – jak podkreśla NVIDIA – pomagają branży skalować infrastrukturę AI szybciej, wydajniej i bardziej niezawodnie. Ogłoszenia z OCP obejmują zarówno samą fabrykę AI, jak i sieć energetyczną, która ją zasila, oraz architekturę rack-scale leżącą u podstaw współczesnych systemów obliczeniowych przyspieszanych GPU.
Podczas wydarzenia NVIDIA dołączyła do liderów branży, wnosząc wkład w trzecią generację referencyjnego projektu centrum danych MGX w ramach inicjatywy OCP Open DC Initiative. W połączeniu z otwartymi technologiami chłodzenia cieczą, takimi jak MQD i MQDB, działania te mają zamienić sprawdzone projekty fabryk AI w standardy branżowe, które inni producenci mogą przyjmować, wytwarzać i skalować.
Dla fabryk AI opartych na NVIDIA Vera Rubin zaktualizowana specyfikacja MGX 1.2 rozszerza otwartą architekturę o rack-scale'owe chłodzenie cieczą typu blind-mate, interoperacyjną infrastrukturę połączeń na poziomie całej szafy oraz chłodzoną cieczą szynę zbiorczą o natężeniu 5000A, zaprojektowaną z myślą o systemach AI wymagających większej mocy. Specyfikacja dodaje też natywne wsparcie dla sprzętu 19-calowego oraz projekty szaf o wyższej gęstości.
MGX 1.2 rozszerza modularność dzięki konfigurowalnym wnękom I/O, bezwentylatorowym tacom obliczeniowym chłodzonym cieczą, standaryzowanym interfejsom zasilania i chłodzenia oraz wspólnej infrastrukturze, która pozwala partnerom ekosystemu budować interoperacyjne platformy obliczeniowe przyspieszane GPU. Architektura skraca czasy montażu, testowania i serwisowania, co upraszcza produkcję i obsługę w terenie, umożliwiając szybsze i bardziej efektywne wdrażanie infrastruktury. Nowa specyfikacja obsługuje wdrożenia szaf o mocy do 250 kW, jednocześnie upraszczając serwisowanie, wdrażanie i ponowne wykorzystanie infrastruktury.
NVIDIA przedstawiła też specyfikację szafy Vera CPU, która rozszerza otwartą architekturę MGX poza samo przyspieszone obliczanie, oferując platformę zaprojektowaną specjalnie pod rosnącą erę agentowej AI. O ile Vera Rubin NVL72 stanowi fundament dla trenowania i wnioskowania na dużą skalę, szafa Vera CPU ma wspierać wywoływanie narzędzi, orkiestrację i wykonywanie w środowiskach izolowanych (sandbox), pomagając agentom AI wchodzić w interakcje z aplikacjami, danymi i usługami w czasie rzeczywistym. Zbudowana na trzeciej generacji architektury szaf NVIDIA MGX, Vera CPU dzieli te same zasady projektowe rack-scale, które łączą obliczenia, sieć, zasilanie i chłodzenie we wspólnej, modularnej platformie – dzięki czemu partnerzy mogą wdrażać wyspecjalizowaną infrastrukturę, korzystając jednocześnie ze wspólnego ekosystemu i spójnego fundamentu dla fabryk AI nowej generacji.
Platforma NVIDIA DSX AI Factory stosuje podejście tzw. extreme codesign, łącząc obliczenia, sieć, zasilanie, chłodzenie, infrastrukturę budynkową i oprogramowanie w jeden zoptymalizowany system, który ma maksymalizować wydajność AI w ramach dostępnych ograniczeń infrastrukturalnych. Sercem tego systemu jest DSX OS – otwarta warstwa operacyjna, która przekształca architekturę DSX w skoordynowane, powtarzalne operacje na dużą skalę.
Podczas OCP NVIDIA rozszerzyła DSX OS o nowe komponenty open source do konfiguracji sieci, walidacji klastrów, zarządzania szafami oraz provisioningu infrastruktury bare metal:
Komponenty te powstały na bazie doświadczeń NVIDIA z eksploatacji platformy NVIDIA DGX Cloud i mają umożliwić dostawcom chmury oraz partnerom oprogramowania integrację możliwości fabryk AI bezpośrednio z ich wielodzierżawczymi (multi-tenant) platformami. Deweloperzy mogą odwiedzić stronę DSX AI Factory na GitHubie, by zapoznać się z nowymi i istniejącymi komponentami open source oraz wnosić do nich swój wkład.
Przed licznie zgromadzoną publicznością Ian Buck, wiceprezes NVIDIA ds. hyperscale i obliczeń wysokiej wydajności, mówił o tym, że otwarta infrastruktura staje się kluczowym składnikiem skalowania fabryk AI na całym świecie. Jak podkreśla NVIDIA, połączenie extreme codesign z otwartymi standardami przyspiesza wdrożenia, poprawia efektywność energetyczną i zwiększa wydajność liczoną w tokenach na wat – co ma kluczowe znaczenie wobec rosnącego zapotrzebowania na infrastrukturę centrów danych dla AI.
Ogłoszenia NVIDIA na OCP Global Summit pokazują, że skalowanie fabryk AI do poziomu gigawatów wymaga standaryzacji na poziomie całego ekosystemu – od projektów szaf i chłodzenia, przez sieci, po oprogramowanie operacyjne. Otwierając architekturę Vera Rubin i komponenty DSX dla partnerów takich jak Meta, Cisco i Google, NVIDIA próbuje przyspieszyć tempo, w jakim branża buduje i utrzymuje infrastrukturę pod rosnące obciążenia obliczeniowe sztucznej inteligencji.

Anthropic wyłączyło internet w wewnętrznych testach AI po tym, jak agenci wykorzystali luki w witrynach rządowych USA i złożyli fałszywe zgłoszenie policji.

Odcinek 'Prawo i porządek' o agencie AI zlecającym zabójstwo odzwierciedla realne obawy wokół bezpieczeństwa sztucznej inteligencji i odpowiedzialności jej twórców.

Badanie Vals AI i Anthropic pokazuje, że zespoły agentów AI kosztują nawet 5x więcej niż pojedynczy agent, dając minimalny wzrost jakości wyników.