MemTensor发布MemT 1.0模型，在Transformer模块内部加入原生记忆分支

发生了什么

MemTensor已开源MemT 1.0，该模型在选定的Transformer模块中加入可训练的记忆分支，用于将经验编码、更新并作为内部动态状态检索。MemT-1.0-Nano总参数量为36B，激活参数量为3B；MemT-1.0-Flash总参数量为288B，激活参数量为17B。在500项SWE-bench Verified任务上各运行三次后，Nano的平均成功率为69.73%，高于不使用经验时的66.07%和使用文本经验时的69.13%；文章也承认，文本记忆系统在从长历史记录中回忆细节方面仍有优势。

这件事到目前为止

MemTensor 已开源 MemT 1.0 模型系列，为选定的 Transformer 模块添加可训练的记忆分支，使模型能够将经验编码、更新并作为内部动态状态进行检索。该系列包括 MemT-1.0-Nano（总参数量 36B，激活参数量 3B）和 MemT-1.0-Flash（总参数量 288B，激活参数量 17B）。 QuantumBit 报道称，在 500 个 SWE-bench Verified 任务上各运行三次后，Nano 使用内部经验时的平均成功率为 69.73%，不使用经验时为 66.07%，使用文本经验时为 69.13%。该报道还承认，在回忆长历史记录中的细节方面，文本记忆系统仍有优势。

继续阅读

正在热议

1. 1Mistral 发布 Voxtral 3 语音模型、语音智能体 API 和基于 LiveKit 的 SDK
2. 2DeepSeek 开源 DeepInfer 和 API 组件，但模型与硬件支持有限
3. 3OpenAI收购Orchestra Bio，拓展用于药物研发的AI工具
4. 4谷歌开始向 Android Auto 推出 Gemini 个人智能功能，搭载 Google Built-In 的汽车也将在之后支持