跳到正文
K = 0.731
原文
教程The Verge · AI· Antonio G. Di Benedetto·· 6 天前

在M5 Ultra Mac Studio上使用Hermes Agent和Qwen测试本地AI

Learning to use local AI is exciting, overwhelming, and frustrating

谁
Antonio G. Di Benedetto
引文
So as part of my ongoing testing of the M5 Ultra Mac Studio , as well as experimenting on other Mac and Windows systems, I’ve installed some local LLMs and I’m beginning to tinker.

发生了什么

一位Verge作者开始在配备256GB统一内存的M5 Ultra Mac Studio上运行本地LLM，安装了开源Hermes Agent桌面应用和1250亿参数的Qwen 3.8 Flash Next模型，大小约105GB。早期任务包括通过Telegram发送每日简报、重新整理包含400多款游戏的Steam库以及本地数据分析；这位作者目前正在着手实现笔记本电脑基准测试的自动化。

这件事到目前为止

The Verge 作者 Antonio G. Di Benedetto 在一台配备 256GB 统一内存的 M5 Ultra Mac Studio 上安装了开源 Hermes Agent 桌面应用和拥有 1250 亿参数的 Qwen 3.8 Flash Next 模型（大小约 105GB），并正在运行本地 LLM 任务，包括每日 Telegram 简报、重新整理 400 多款游戏的 Steam 库以及本地数据分析。他现在正致力于自动化笔记本电脑基准测试。 Di Benedetto 表示，如果坚持使用本地 LLM，这套设置完全免费，但本地 AI 需要对机器的权限才能执行操作：对于游戏库，他必须注册一个 Steam Web API 密钥并将其提供给 Hermes。每日简报一开始一直无法生成，直到他发现当任务在早上 7:30 触发时，macOS 不能处于睡眠状态。

Agent 智能体端侧 AI部署工程教程实践#教程/实践#Agent#端侧#部署/工程

继续阅读

最新日报 · 第 24 期NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流水线

正在热议

  1. 1Meta 开放发布 Muse Spark Open，支持 Mac 和云端部署，位居美国开放权重模型榜首
  2. 2Google 在全球推出 Gemini 4 Argon，并扩大付费访问范围，基准测试结果不一
  3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
  4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议

明早 08:00 把这样一份日报发到你邮箱

和上面这份一样：几件值得看的事。免费，点确认信之后才会开始发送，每封信都能一键退订。 看一份往期日报 · 2026-10-17