datasette-llm 0.1a11 obsługuje endpointy zgodne z OpenAI
Wtyczka datasette-llm 0.1a11 obsługuje endpointy zgodne z OpenAI, więc Datasette Agent może działać na lokalnych modelach z LM Studio, Ollama lub llama.cpp.

Źródło zdjęcia: Simon Willison’s Weblog
Simon Willison udostępnił wersję 0.1a11 wtyczki datasette-llm, która pozwala łączyć Datasette z modelami językowymi. Najważniejsza zmiana to obsługa endpointów zgodnych z OpenAI. Datasette może więc korzystać z modelu hostowanego w dowolnym miejscu, o ile ten komunikuje się przez protokół webowy, który Willison nazywa „pseudostandardem” OpenAI.
W praktyce Datasette Agent może teraz działać na modelu uruchomionym lokalnie na komputerze użytkownika, bez zewnętrznej usługi chmurowej. Autor zamieścił gotowe polecenie, które uruchamia taką konfigurację.
Najważniejsze informacje
- datasette-llm 0.1a11 to wtyczka pośrednia. Konfiguruje modele językowe, z których korzystają inne wtyczki Datasette.
- Nowa wersja obsługuje endpointy zgodne z OpenAI, więc działa z każdym modelem udostępnianym przez ten protokół.
- Wtyczkę można połączyć z lokalnymi środowiskami LM Studio, Ollama i llama.cpp. To ostatnie osiągnęło właśnie wersję 1.0.0.
- Willison pokazał przykład uruchomienia Datasette Agent z lokalnym modelem qwen/qwen3.8–27b przez narzędzie uvx.
Czym jest datasette-llm
Willison opisuje datasette-llm jako wtyczkę integrującą LLM, na której mogą opierać się inne wtyczki. Nie jest to więc samodzielne narzędzie dla użytkownika końcowego, tylko warstwa pośrednia. W jednym miejscu konfiguruje się model językowy, a inne rozszerzenia Datasette z niego korzystają. Jednym z nich jest datasette-agent, użyty w przykładzie z wpisu.
Numer wersji 0.1a11 wskazuje, że projekt wciąż jest na wczesnym, alfowym etapie rozwoju. Nowa funkcja poszerza jednak zakres jego zastosowań. Dzięki obsłudze protokołu OpenAI wtyczka nie musi znać każdego dostawcy z osobna. Wystarczy, że serwer modelu mówi tym samym „językiem”.
Lokalny model w kilku poleceniach
Przykład z wpisu składa się z dwóch kroków. Najpierw pobiera się przykładową bazę danych content.db ze strony datasette.io:
wget https://datasette.io/content.db
Następnie uruchamia się Datasette przez uvx z dołączoną wtyczką datasette-agent:
uvx --with datasette-agent datasette \
--root --secret 1 \
-s plugins.datasette-llm.default_model ' {
"model": "lmstudio-qwen",
"model_name": "qwen/qwen3.8-27b",
"api_base": "http://localhost:1234/v1"
} ' content.db
Kluczowa jest opcja -s plugins.datasette-llm.default_model. Ustawia ona domyślny model dla wtyczki datasette-llm i zawiera trzy pola:
modelto nazwa, pod którą model jest widoczny w konfiguracji (tulmstudio-qwen).model_nameto identyfikator modelu po stronie serwera (tuqwen/qwen3.8-27b).api_baseto adres endpointu zgodnego z OpenAI (tuhttp://localhost:1234/v1, czyli serwer na lokalnej maszynie).
Według Willisona efektem jest lokalny serwer z instancją Datasette Agent, napędzaną przez model działający na własnym sprzęcie użytkownika.
Szerszy kontekst: lokalne modele u Willisona
Wybór modelu Qwen w przykładzie nie jest przypadkowy. Wśród ostatnich wpisów na blogu Willisona jest tekst z 3 listopada 2026 roku o tym, że Qwen 3.8 27B uruchomiony na jego laptopie potrafi także interpretować wagi modeli. Nowe wydanie datasette-llm pasuje do tego kierunku: lokalne modele stają się pełnoprawnym zapleczem dla narzędzi agentowych. O podobnym trendzie pisaliśmy przy okazji aplikacji Apple Harbor do lokalnych modeli AI.
Wymienione narzędzia, czyli LM Studio, Ollama i llama.cpp, udostępniają modele przez interfejs zgodny z OpenAI. Właśnie dlatego jedna zmiana w datasette-llm otwiera drogę do wszystkich trzech. Willison podkreśla też, że llama.cpp osiągnął niedawno wersję 1.0.0.
Podsumowanie
Wersja 0.1a11 wtyczki datasette-llm dodaje obsługę endpointów zgodnych z OpenAI. Dzięki temu Datasette Agent może działać na lokalnych modelach z LM Studio, Ollama czy llama.cpp, a do uruchomienia takiego środowiska wystarczy jedno polecenie uvx.
Źródła
Podobne publikacje

Qwen4-Max od Alibaby rzuca wyzwanie Opus 5.5 i GPT-6 niższą ceną
Qwen4-Max od Alibaby ma 2,4 bln parametrów, nową architekturę i koszt zadania niższy o dwie trzecie. Sprawdzamy benchmarki, ceny API i funkcję Live Delivery.

Detektory halucynacji na małych modelach AI: ranking się odwraca
Audyt detektorów halucynacji na małych, kwantyzowanych LLM: ranking metod odwraca się między Llama i Qwen, a prosty test leksykalny dorównuje droższym metodom.

BEEP.rent udostępnia agentom AI wynajem aut przez serwer MCP
BEEP.rent uruchomił serwer MCP z 18 funkcjami, przez który agenci AI wyszukują i rezerwują auta na wynajem. Twórcy agentów dostają 10% wartości netto najmu.