Mistral AI 发布 Voxtral 3 语音模型和语音智能体 SDK
Mistral AI 发布了 Voxtral 3,这是一个包含转录和语音生成模型的系列,同时推出了基于 LiveKit 构建的语音智能体 SDK。转录支持 50 多种语言,语音生成支持 35 多种语言和 50 多种方言;该 SDK 将聆听、推理、工具调用和说话整合到流式处理管线中,Mistral 称其可在不到一秒内完成一轮交互。这些模型可通过 Mistral 的 API 使用;如需在本地或私有云部署,可联系其团队。
- Voxtral 3 为 Mistral 的语音智能体 API 推出 Transcribe 和 Speech 模型Arthur Mensch · X
产品发布与更新
DeepSeek 开源 DeepInfer:为 V4.1-Flash 提供支持的推理框架
DeepSeek 已按 Apache License 2.0 开源其内部推理框架 DeepInfer,该框架为 V4.1-Flash 提供支持。它基于 vLLM 构建,包含经过优化的计算内核、跨多颗芯片的分布式处理,以及更快的文本生成技术。DeepSeek 还将发布 deepseek-recipe,以便在自托管环境中复现官方 API 的 token 处理方式;该公司表示,未来模型的代码也将开源。
Hugging Face 通过 TorchTPU 添加原生 TPU 支持
Hugging Face 宣布通过原生 PyTorch 后端 TorchTPU,为 Transformers、Diffusers 和 Kernels 提供原生 TPU 支持。模型可以使用 device_map="tpu" 或 pipe.to("tpu"),并可选择启用编译和分布式执行;Transformers 和 Diffusers 不再需要 Optimum TPU。Hugging Face 报告称,在 TPU 上运行的测试有 96.5% 通过,已报告的 34 个 TorchTPU 问题中有 19 个已修复。
PyTorch 2.15 为 Mac 带来 FP8 和更快的 MPS 解码
Hugging Face 的 PyTorch 团队介绍了 PyTorch 2.15 候选版本中的 MPS 改进,包括 FP8 支持和 Mac 上更快的 LLM 解码。在搭载 torch.compile 的 M3 Ultra 上,与 2.14 相比,Qwen3.6-35B-A3B 的解码速度从 9.4 tokens/s 提升至 61.3 tokens/s。将常量填充操作移至 Metal 内核后,Wan2.2 分块 VAE 解码的驱动程序峰值内存也从约 270 GiB 降至 8 GiB。
Google 发布 TorchTPU,加入亚马逊的行列,挑战 Nvidia 对 AI 开发者的主导地位
Google 周二宣布,TorchTPU(其面向 TPU 的 PyTorch 版本)现已作为开源项目提供,现有 PyTorch 应用只需更改配置即可迁移,无需重写。亚马逊周一发布了 TorchNeuron,提供了类似的迁移路径,面向 Trainium 和 AWS。Google 还推出了 TPU 智能体套件,以协助迁移和调试;与 AI 开发工具提供商合作提升兼容性;并更新 LiteRT,以更好地支持 PyTorch 应用。
Amazon Bedrock 为 Anthropic Claude 模型新增结构化输出
Amazon Bedrock 现已在 bedrock-runtime 和 bedrock-mantle 端点上,为所有可用的 Anthropic Claude 模型全面支持结构化输出。JSON Schema 输出格式和严格工具调用可在生成过程中强制遵循响应结构和工具参数架构。指南提供了实现示例,并说明支持的架构特性、24 小时语法缓存,以及拒绝请求和因令牌限制而截断的响应所需的处理方式。
Perplexity Computer 现可在 Mac 上完全本地运行
Perplexity Computer 现可在 Mac 上完全本地运行。 使用 Mac 原生应用和本地文件处理任务,无需将敏感数据发送到云端。模型和智能体都在 Mac 上运行。 现已在 Perplexity Mac 应用中提供。https://t.co/tnvCgCXD7v
Ornith 1.5 122B 现已在 Ollama 上提供,可供本地使用
Ollama 宣布,Ornith 1.5 122B 现已可在你的设备上本地运行。 ollama run ornith-1.5:122b 在引用的公告中,@ornith_ 表示 Ornith-1.5-122B 采用 MIT 许可证开放权重,可在一张 NVIDIA DGX 卡上运行,并报告 SWE-bench Verified 得分为 0.845、BrowseComp 得分为 0.785。
Computer 将 Big Boy No. 4014 渲染为实时 SVG 模型
Aravind Srinivas 分享了 AskPerplexity 的演示,并评论道:“Computer 渲染的 Big Boy。” AskPerplexity 表示,Computer 将 Big Boy No. 4014(世界上仍在运营的最大蒸汽机车)制作成实时等距视图 SVG,使用了自有渲染器、1,324 个部件、15,312 个凸面,以及从冷锅炉状态到时速 60 英里的 7 步运行流程,数据采用 Union Pacific 发布的数字。 试用:http://big-boy-4014.pplx.app
行业
研究人员发现分享链接会泄露敏感信息后,Meta 暂停 Muse 对话分享功能
Meta 表示,在审查其运行情况期间,将暂停 Muse 的对话分享功能。此前研究人员报告称,分享链接可能会泄露敏感信息。安全公司 Claroc 的研究人员称,一项 URL 设计决策使他们能够枚举 6,800 个已分享的对话链接。他们打开数百个链接后,发现其中包含显然无意公开的信息。
陆军网络司令部的 ECHOTRIBBLE 或将把 AI 智能体变成可自我传播的网络武器
据 The Intercept 获得的文件显示,陆军网络司令部正在开发 ECHOTRIBBLE,这是一个处于早期阶段的平台,旨在让 AI 智能体自主穿越网络并消除目标。拟议中的智能体会在设备间复制,以极少的人类监督运行,并在完成任务后自毁。专家警告称,意外攻击和有限的判断能力可能造成附带损害,包括影响民用基础设施。
技巧与观点
使用原生 PyTorch 在 AWS Trainium2 上训练和部署 i14 的 Laplace 3B
i14 和 AWS 介绍了如何通过 TorchNeuron Native,使用原生 PyTorch 改造 Laplace 3B 的线性注意力架构,以便在 AWS Trainium2 上进行训练和部署。该模型为每个序列维持固定的 29.5 MB 循环状态,训练速度约为每秒 120,000 个令牌,结果统计涵盖约 440 亿个令牌。在单个 trn2.48xlarge 实例上,推理吞吐量达到每秒 11,544 个输出令牌,同时处理 1,280 个并发序列。
快讯
- ALTK-Evolve 利用学习到的记忆,使 GPT-4.1 在 τ²-bench 零售任务上的表现提升Hugging Face Blog
- NVIDIA 推出 Cosmos3-H-Dreams,用于临床手术的交互式生成模拟Hugging Face Blog
- FairStress 将人口统计公平性评估扩展到 LLM 的最终决策之外Hugging Face Blog
- 使用 Amazon Quick 和 Amazon Bedrock AgentCore 构建对话式供应链智能AWS Machine Learning Blog
- FireSat 如何利用 AI 从太空探测小型野火Google AI · X
- 使用 AWS Agent Registry 在运行时发现工具AWS Machine Learning Blog
- AnyLanguageModel 1.0 扩展 Swift 应用对本地和托管模型的支持Hugging Face Blog
- Arthur Mensch 宣布推出一套部署在推理模型附近的语音模型Arthur Mensch · X
- 在 AWS 上使用 X.509 PKI 保护 AI 代理身份AWS Machine Learning Blog
- Eon 如何借助 Amazon Bedrock AgentCore 上的 MCP Gateway 构建多云调查能力AWS Machine Learning Blog
明早 08:00 把这样一份日报发到你邮箱
和上面这份一样:几件值得看的事。免费,点确认信之后才会开始发送,每封信都能一键退订。 看一份往期日报 · 2026-10-20
