Google rozwija chip Frozen v2 z wbudowaną architekturą Gemini dla wyższej wydajności

Google pracuje nad nowym chipem serwerowym o nazwie „Frozen v2”, który ma wbudowaną architekturę modelu Gemini bezpośrednio w krzem. Według informacji przekazanych przez The Information, nowy procesor może być od 6 do 10 razy bardziej wydajny w obsłudze odpowiedzi AI niż obecne chipy TPU Google'a.

Firma planuje wdrożenie Frozen v2 od 2028 roku i traktuje go jako test dla wyspecjalizowanych chipów, z mniejszym wolumenem produkcji niż linia TPU.

Kluczowe wnioski

• Frozen v2 ma być 6–10 razy bardziej wydajny od obecnych chipów TPU Google'a w obsłudze AI.
• Chip będzie miał część architektury Gemini wbudowaną bezpośrednio w krzem, co przyspieszy przetwarzanie.
• Google planuje wdrożenie technologii od 2028 roku jako test dla wyspecjalizowanych procesorów.
• Rozwiązanie ma pomóc firmie w konkurencji z OpenAI i Anthropic przez obniżenie kosztów inferencji.
• Frozen v2 nie będzie oferowany klientom zewnętrznym ze względu na ograniczenie do jednej architektury modelu.

Ewolucja od TPU do wyspecjalizowanych chipów

W przeciwieństwie do uniwersalnych chipów TPU Google'a, które współpracują z wieloma modelami, Frozen v2 ma fragmenty struktury modelu Gemini wbudowane bezpośrednio w sprzęt. Nazwa nawiązuje do „zamrażania” parametrów w modelach AI, gdzie wartości są blokowane, aby przestały się zmieniać. W przypadku Frozen v2 część modelu zostaje na stałe zamrożona w samym chipie, co redukuje liczbę kroków obliczeniowych i przyspiesza odpowiedzi.

Pierwotny pomysł pochodził od Jeffa Deana, głównego naukowca Google Deepmind. Jego pierwsza koncepcja Frozen zakładała wbudowanie wag modelu bezpośrednio w chip. Wagi to konkretne ustawienia, które określają, jak model AI odpowiada na zapytania. Google porzuciło to podejście, ponieważ chip działałby tylko z jedną wersją Gemini i zbyt szybko by się zdezaktualizował.

Strategia konkurencyjna i optymalizacja kosztów

Frozen v2 wybiera bardziej elastyczne rozwiązanie, wbudowując architekturę modelu zamiast wag — czyli podstawowy schemat działania, a nie dostrojone parametry. Nowe wagi nadal można wczytywać do chipa. Według The Information nie zdecydowano jeszcze, jak duża część architektury zostanie faktycznie zakodowana na stałe w sprzęcie.

Ponieważ chip działa tylko dopóki Google korzysta z tej samej architektury modelu, prawdopodobnie nie stanie się produktem dla klientów zewnętrznych. Google już wypożycza swoje TPU firmie Meta, oferuje je zewnętrznym klientom chmury i pozycjonuje je przez program „TPU@Premises” jako alternatywę dla Nvidia z wewnętrznym celem zdobycia dziesięciu procent rocznych przychodów Nvidia. Frozen v2 ma natomiast złagodzić wewnętrzne problemy Google'a z pojemnością obliczeniową AI.

Jeśli chip spełni obietnice, może stać się znaczącą przewagą konkurencyjną. W branży AI optymalizacja kosztów inferencji coraz bardziej wpływa na marże firm. Google mogłoby używać Frozen v2 do uruchamiania potężnych modeli po niższych cenach i przejęcia udziału w rynku od OpenAI i Anthropic.