llm-echo 0.5 更新模拟令牌用量计数

发生了什么

Simon Willison 的 llm-echo 0.5 调试插件更新了模拟令牌用量计数，以计入工具调用、系统提示和推理令牌。该插件提供一个无需调用 LLM、只会复述提示的“模型”。在示例中，`uvx --with llm-echo llm -m echo 'hi there' -o thinking 1 --usage` 报告输入令牌数为 2，输出令牌数为 24。

这件事到目前为止

Simon Willison 在 0.5 版中更新了 llm-echo 调试插件，使其模拟令牌用量计数现在会计入工具调用、系统提示词和推理令牌。该插件提供一个“模型”，可以重复输出提示词，而无需调用 LLM。 在示例命令 `uvx --with llm-echo llm -m echo 'hi there' -o thinking 1 --usage` 中，插件报告输入令牌数为 2，输出令牌数为 24。这些是模拟计数，并非来自实际 LLM 的用量。

继续阅读

正在热议

1. 1DeepSeek 发布 V4.1-Flash-1017，现已上线 Ollama Cloud 并由美国境内托管
2. 2Anthropic 承诺将 5% 的股份投入新设立的公益基金
3. 3Meta 删除引发网站抓取和 AI 训练担忧的商业条款措辞
4. 4Anthropic称，Claude利用时间戳初始化的生成器重构了五个NIST椭圆曲线种子