跳到正文
全部动态 · 今日4条

#开源生态

信源抓到、进了内容池的全部内容,按时间排列;精选只是其中一部分。
2月5日周四
1月22日周四
  1. Mistral AI34

    Heaps do lie:排查 vLLM 内存泄漏

    Mistral AI 团队在 vLLM 上排查一起内存泄漏:在 Mistral Medium 3.1、启用 graph compilation 的 Prefill/Decode 分离部署中,系统内存以每分钟 400 MB 线性增长,数小时后触发 out of memory。Heaptrack 显示堆内存稳定,泄漏发生在堆之外,最终定位到经 NIXL 与 UCX 的 KV Cache 传输环节。

12月9日周二
  1. Mistral AI82

    Mistral 发布 Devstral 2 编码模型与 Mistral Vibe CLI

    Mistral AI 发布下一代编码模型系列 Devstral 2,含 123B 的 Devstral 2 和 24B 的 Devstral Small 2,分别采用修改版 MIT 和 Apache 2.0 许可,均为开源。

    推荐理由:原文给出两款开源编码模型的参数、许可与 SWE-bench 成绩,并附与闭源模型的胜负对比,可据此判断开源编码智能体的当前水位。

12月3日周三
  1. Mistral AI82

    Mistral 发布 Mistral 3 系列,含 675B 参数 Mistral Large 3 与 3B/8B/14B Ministral 3

    Mistral 发布 Mistral 3 系列,包括 3B、8B、14B 三个稠密小模型和采用稀疏 MoE 架构的 Mistral Large 3,后者为 41B 激活、675B 总参数,全部以 Apache 2.0 许可开源。

    推荐理由:Mistral 3 一次性放出从 3B 到 675B 的 Apache 2.0 权重,读者可据此判断开源模型在端侧与前沿两端的可选空间。

7月15日周二
  1. Mistral AI78

    Mistral 发布 Voxtral 语音理解模型,24B 与 3B 双版本开源

    Mistral 发布 Voxtral 语音理解模型,提供 24B 和 3B 两种规格,均以 Apache 2.0 许可开源并上线 API。模型支持 32k token 上下文,可处理最长 30 分钟音频转写或 40 分钟音频理解,具备内置问答与摘要、多语言自动检测和语音触发函数调用能力,文本能力继承 Mistral Small 3.1。

    推荐理由:Mistral 开源语音理解模型,给出两种规格、Apache 2.0 许可与 API 定价,可据此判断语音转写与理解的选型成本。

7月11日周五
7月3日周四
  1. Mistral AI42

    Mistral AI 推出 AI for Citizens 计划,助各国政府掌控 AI 未来

    Mistral AI 推出 AI for Citizens 协作计划,帮助各国政府和公共机构战略性地运用 AI 改造公共服务、推动创新并保障竞争力。该计划已在法国、卢森堡、新加坡、荷兰、英国、瑞士等国家落地,提供自托管部署、数据主权保障、定制化研发及模型联合训练等选项,以替代当前主导市场的封闭式"一刀切"AI 方案。

6月11日周三
  1. Mistral AI62

    Mistral AI 发布 Mistral Compute AI 基础设施服务

    Mistral AI 发布 Mistral Compute,提供从裸金属服务器到全托管 PaaS 的私有集成栈,涵盖 GPU、编排、API 与产品服务。作为 NVIDIA 合作伙伴,该服务将提供最新 NVIDIA 参考架构,初期可用数万块 GPU,并计划在未来数年快速扩张。

    推荐理由:Mistral 把自建训练与推理基础设施对外产品化,读者可据此判断欧洲主权 AI 算力供给的另一种选择。

6月10日周二
5月27日周二
5月21日周三
3月17日周一
1月30日周四