Parasail pozyskał 32 mln dolarów stawiając na 'tokenmaxxing' w infrastrukturze AI

Startup Parasail pozyskał 32 miliony dolarów na rozwój infrastruktury obliczeniowej dedykowanej sztucznej inteligencji, stawiając na trend określany jako "tokenmaxxing" – dążenie deweloperów do uzyskania jak największej liczby tokenów AI w możliwie najkrótszym czasie i po najniższych kosztach. Według raportu TechCrunch, firma już teraz generuje 500 miliardów tokenów dziennie.

Strategia Parasail na konkurencyjnym rynku

Mike Henry, CEO Parasail i były dyrektor w firmie Groq (producent chipów dla LLM), założył spółkę na założeniu, że deweloperzy budujący oprogramowanie wykorzystujące modele AI potrzebują wyspecjalizowanych usług przetwarzania w chmurze. Firma wyszła z trybu stealth rok temu i właśnie zamknęła rundę Series A o wartości 32 milionów dolarów.

Mimo że Henry ma doświadczenie w projektowaniu fizycznych chipów, Parasail nie stawia na posiadanie własnego krzemu. Choć część GPU należy do firmy, głównie wynajmuje ona czas przetwarzania w 40 centrach danych w 15 krajach na całym świecie, kupując dodatkową moc obliczeniową na rynkach płynności. Wszystko to koordynuje za kulisami, aby obniżyć koszty żądań inferencji.

Inteligentna alokacja obciążeń i unikanie szczytów popytu to kluczowe elementy strategii firmy w konkurencji z podmiotami posiadającymi własne układy scalone, które mogą być ograniczone przez istniejące zobowiązania wobec klientów i obciążenia.

Rosnący popyt na modele open-source

Potencjał Parasail opiera się na ciągłej proliferacji modeli open-source i agentów poza laboratoriami zajmującymi się modelami pionierskimi. Kierownictwo firmy i inwestorzy twierdzą, że jest to napędzane przez rosnące koszty i bariery w korzystaniu z ofert firm takich jak Anthropic i OpenAI.

Andreas Stuhlmüller, CEO Elicit – startupu, który pozyskał 22 miliony dolarów w rundzie Series A na rozwój asystenta badawczego do literatury naukowej – opisuje powstającą architekturę hybrydową. Jego klienci z czołowych firm farmaceutycznych wykorzystują narzędzie oparte na LLM do przeglądu i analizy danych z dziesiątek tysięcy artykułów naukowych.

"Przeszliśmy bardziej na modele otwarte, ponieważ wysyłanie 100 tysięcy żądań do punktu końcowego API jest dość trudne" – powiedział Stuhlmüller TechCrunch.

Jest to szczególnie istotne, gdy firma polega na agentach do ulepszania swojej oferty, dzieląc zadania i pracując bardziej strategicznie w dłuższych horyzontach czasowych. Modele otwarte obsługują wstępne filtrowanie, aby obniżyć koszty pracy, zanim bardziej zaawansowany model pionierski dostarczy ostateczną odpowiedź.