跳到正文

Datasette-llm 0.1a11 新增对 OpenAI 兼容端点的支持

Simon Willison当事人·· 2 天前datasette-llm 0.1a11
打开原文
原文
图片来自 Simon Willison
谁
Datasette
引文
This release adds support for OpenAI-compatible endpoints, so you can configure Datasette to use an LLM hosted anywhere that talks the OpenAI pseudo-standard web protocol.

发生了什么

Datasette-llm 0.1a11 新增了对 OpenAI 兼容端点的支持,使 Datasette 能够使用由 LM Studio、Ollama 或 llama.cpp 等服务托管的 LLM。文章提供了命令和配置示例,说明如何运行由本地模型驱动的 Datasette Agent 实例。

接下来读什么

查看这件事的完整进展Datasette-llm 0.1a11 Adds OpenAI-Compatible Endpoint Support

这件事到目前为止

Datasette-llm 0.1a11 adds support for OpenAI-compatible endpoints, allowing Datasette to connect to models hosted by services such as LM Studio, Ollama, and llama.cpp. The release includes a command and configuration example for running a local Datasette Agent instance with a local model.

这条收录于 11月16日 AI 日报看这一期日报的全部内容