LLM 0.33: nowe opcje kluczy API i łączenie szablonów promptów

LLM 0.33 — najnowsza wersja narzędzia command-line do obsługi wielkich modeli językowych stworzonego przez Simona Willisona — trafiła do sieci 22 sierpnia 2026 roku. Aktualizacja przynosi kilka istotnych zmian technicznych oraz nową funkcję łączenia szablonów promptów, która ułatwia pracę programistom korzystającym z różnych modeli AI z terminala.

Narzędzie llm pozwala uruchamiać zapytania do modeli językowych bezpośrednio z linii komend, bez konieczności pisania kodu czy korzystania z interfejsów webowych. Wersja 0.33 kontynuuje rozwój projektu, koncentrując się na poprawie kompatybilności z bibliotekami OpenAI oraz na wygodzie obsługi kluczy API w kontekście embeddingów.

Kluczowe wnioski

• Narzędzie przeszło na OpenAI Python library 3.x i zmieniło zależność HTTP z httpx na httpx2.
• Polecenia llm embed i llm embed-multi obsługują teraz parametr --key, a metody Pythona takie jak EmbeddingModel.embed() czy Collection.embed_multi() przyjmują argument key=.
• Opcja -t/--template w llm prompt można powtarzać, co pozwala łączyć wiele szablonów w jednym poleceniu.
• Modele API Responses zdolne do wnioskowania (reasoning) wspierają nową opcję reasoning_summary z wartościami auto, concise i detailed.

Poprawki kompatybilności i obsługa kluczy w embeddingach

Najważniejszą zmianą techniczną w tej wersji jest aktualizacja do OpenAI Python library 3.x oraz zamiana zależności httpx na httpx2. Willison wspomina, że dzień wcześniej wypuścił szybką poprawkę w wersji 0.32.1, ale dopiero release 0.33 stanowi pełniejsze i bardziej kompleksowe rozwiązanie tego problemu (odnośniki do zmian oznaczone jako #1608 i #1631).

Druga istotna nowość dotyczy obsługi kluczy API w modelach embeddingowych. Polecenia llm embed oraz llm embed-multi przyjmują teraz parametr --key. Analogicznie, metody Pythona — EmbeddingModel.embed(), EmbeddingModel.embed_multi(), Collection.embed() i Collection.embed_multi() — akceptują argument key=, który przekazuje ustalony dla danego wywołania klucz do wtyczek embeddingowych bez zmiany współdzielonego stanu modelu. Willison zaznacza, że istniejące wtyczki, które odczytują self.key, będą nadal działać dzięki mechanizmowi zgodności wstecznej. Podziękował za tę zmianę użytkownikowi o nazwie ChrisJr404 (zgłoszenia #757 i #1620). Dzięki temu modele embeddingowe zyskały ten sam wzorzec obsługi kluczy, który od dawna funkcjonował w zwykłych modelach LLM.

Łączenie szablonów promptów — nowy sposób pracy

Jedną z bardziej praktycznych nowości jest możliwość wielokrotnego użycia opcji -t/--template w poleceniu llm prompt. Szablony są teraz łączone w podanej kolejności, co pozwala łączyć konfigurację modelu i opcje z jednego szablonu z treścią promptu z drugiego.

Willison opisuje to jako sposób na tworzenie szablonów, które pakują konkretny model wraz z domyślnym zestawem opcji, a następnie łączenie ich z treścią zapytania. Przykład z release notes wygląda tak:

llm -m gpt-5.6-luna -o reasoning_effort high --save lhigh
llm "Generate an SVG of a pelican riding a bicycle" --save pelican
# Combine and run the templates
llm -t lhigh -t pelican

W ten sposób użytkownik może zapisać jeden szablon definiujący model i poziom wysiłku wnioskowania (reasoning_effort high), a drugi — konkretne zapytanie, i uruchomić je razem jednym poleceniem, zamiast powtarzać konfigurację przy każdym wywołaniu.

Nowa opcja podsumowań wnioskowania

Modele wykorzystujące OpenAI Responses API, które są zdolne do wnioskowania (reasoning), otrzymały nową opcję reasoning_summary z trzema możliwymi wartościami: auto, concise oraz detailed. Opcję tę można wykorzystać razem z poleceniem llm openai endpoint --responses.

Willison zwraca uwagę, że funkcja ta jest szczególnie przydatna podczas testowania różnych modeli, które implementują własną, imitującą wersję OpenAI Responses API — pozwala kontrolować, jak szczegółowe podsumowanie procesu wnioskowania model ma zwracać.

Podsumowując, LLM 0.33 to typowa dla tego projektu aktualizacja skoncentrowana na stabilności i wygodzie użycia — bez rewolucyjnych zmian, ale z konkretnymi usprawnieniami w obsłudze kluczy API, kompatybilności bibliotek i elastyczności szablonów promptów, które realnie ułatwiają codzienną pracę z modelami językowymi z linii komend.