Przejdź do treści
3 min czytania

datasette-llm 0.1a11 obsługuje endpointy zgodne z OpenAI

Wtyczka datasette-llm 0.1a11 obsługuje endpointy zgodne z OpenAI, więc Datasette Agent może działać na lokalnych modelach z LM Studio, Ollama lub llama.cpp.

datasette-llm 0.1a11 obsługuje endpointy zgodne z OpenAI

Źródło zdjęcia: Simon Willison’s Weblog

Simon Willison udostępnił wersję 0.1a11 wtyczki datasette-llm, która pozwala łączyć Datasette z modelami językowymi. Najważniejsza zmiana to obsługa endpointów zgodnych z OpenAI. Datasette może więc korzystać z modelu hostowanego w dowolnym miejscu, o ile ten komunikuje się przez protokół webowy, który Willison nazywa „pseudostandardem” OpenAI.

W praktyce Datasette Agent może teraz działać na modelu uruchomionym lokalnie na komputerze użytkownika, bez zewnętrznej usługi chmurowej. Autor zamieścił gotowe polecenie, które uruchamia taką konfigurację.

Najważniejsze informacje

  • datasette-llm 0.1a11 to wtyczka pośrednia. Konfiguruje modele językowe, z których korzystają inne wtyczki Datasette.
  • Nowa wersja obsługuje endpointy zgodne z OpenAI, więc działa z każdym modelem udostępnianym przez ten protokół.
  • Wtyczkę można połączyć z lokalnymi środowiskami LM Studio, Ollama i llama.cpp. To ostatnie osiągnęło właśnie wersję 1.0.0.
  • Willison pokazał przykład uruchomienia Datasette Agent z lokalnym modelem qwen/qwen3.8–27b przez narzędzie uvx.

Czym jest datasette-llm

Willison opisuje datasette-llm jako wtyczkę integrującą LLM, na której mogą opierać się inne wtyczki. Nie jest to więc samodzielne narzędzie dla użytkownika końcowego, tylko warstwa pośrednia. W jednym miejscu konfiguruje się model językowy, a inne rozszerzenia Datasette z niego korzystają. Jednym z nich jest datasette-agent, użyty w przykładzie z wpisu.

Numer wersji 0.1a11 wskazuje, że projekt wciąż jest na wczesnym, alfowym etapie rozwoju. Nowa funkcja poszerza jednak zakres jego zastosowań. Dzięki obsłudze protokołu OpenAI wtyczka nie musi znać każdego dostawcy z osobna. Wystarczy, że serwer modelu mówi tym samym „językiem”.

Lokalny model w kilku poleceniach

Przykład z wpisu składa się z dwóch kroków. Najpierw pobiera się przykładową bazę danych content.db ze strony datasette.io:

wget https://datasette.io/content.db

Następnie uruchamia się Datasette przez uvx z dołączoną wtyczką datasette-agent:

uvx --with datasette-agent datasette \
  --root --secret 1 \
  -s plugins.datasette-llm.default_model ' {
    "model": "lmstudio-qwen",
    "model_name": "qwen/qwen3.8-27b",
    "api_base": "http://localhost:1234/v1"
  } ' content.db

Kluczowa jest opcja -s plugins.datasette-llm.default_model. Ustawia ona domyślny model dla wtyczki datasette-llm i zawiera trzy pola:

  • model to nazwa, pod którą model jest widoczny w konfiguracji (tu lmstudio-qwen).
  • model_name to identyfikator modelu po stronie serwera (tu qwen/qwen3.8-27b).
  • api_base to adres endpointu zgodnego z OpenAI (tu http://localhost:1234/v1, czyli serwer na lokalnej maszynie).

Według Willisona efektem jest lokalny serwer z instancją Datasette Agent, napędzaną przez model działający na własnym sprzęcie użytkownika.

Szerszy kontekst: lokalne modele u Willisona

Wybór modelu Qwen w przykładzie nie jest przypadkowy. Wśród ostatnich wpisów na blogu Willisona jest tekst z 3 listopada 2026 roku o tym, że Qwen 3.8 27B uruchomiony na jego laptopie potrafi także interpretować wagi modeli. Nowe wydanie datasette-llm pasuje do tego kierunku: lokalne modele stają się pełnoprawnym zapleczem dla narzędzi agentowych. O podobnym trendzie pisaliśmy przy okazji aplikacji Apple Harbor do lokalnych modeli AI.

Wymienione narzędzia, czyli LM Studio, Ollama i llama.cpp, udostępniają modele przez interfejs zgodny z OpenAI. Właśnie dlatego jedna zmiana w datasette-llm otwiera drogę do wszystkich trzech. Willison podkreśla też, że llama.cpp osiągnął niedawno wersję 1.0.0.

Podsumowanie

Wersja 0.1a11 wtyczki datasette-llm dodaje obsługę endpointów zgodnych z OpenAI. Dzięki temu Datasette Agent może działać na lokalnych modelach z LM Studio, Ollama czy llama.cpp, a do uruchomienia takiego środowiska wystarczy jedno polecenie uvx.

Udostępnij
Powrót do nawigacji