跳到正文
全部动态 · 今日0条

#数据/训练

信源抓到、进了内容池的全部内容,按时间排列;精选只是其中一部分。
一手

模型厂商、公司和研究机构自己发布的消息:官网、官方博客和官方账号。

10月16日周五
  1. Hugging Face Blog82

    NVIDIA 与 IIT Madras 的 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流程

    NVIDIA 与 IIT Madras 的 AI4Bharat 推出 Nemotron-pretraining-Indic-v1,涵盖 22 种印度语言、约 2.8 万亿个 token,并将很快与其开放式 GPU 加速生成流程一同发布。该语料库包含全部 22 种语言的本土文字文本,以及 12 种语言的罗马化文本;这些文本由精选英文来源翻译而来,并经过质量检查和来源追溯。一个印度语系继续预训练阶段提升了五项已报告基准的成绩,但该阶段混合了合成数据与自然数据,因此这项比较无法单独确定该语料库的贡献。

    推荐理由:该流程通过将翻译、质量评估、修复和文字系统转换分开,同时保留与源文档的链接,为多语言数据生成提供了一种可复用的方法。

10月13日周二
  1. Microsoft Research65

    模拟学生学习,改进 AI 辅导

    微软研究院推出 StudentSim,这是一套研究系统,利用公开可用且已去标识化的学习者记录训练个性化学生模拟器,以评估和改进 AI 辅导工具。StudentSimEval 在国际象棋、英语作为第二语言的写作和数学领域,衡量行为保真度和对指导的响应能力;在这些领域,StudentSim 的表现均优于领先基线。在一项国际象棋辅导研究中,使用 StudentSim 反馈进行训练的准确率达到 90.5%,而不使用强化学习时为 75.7%,使用 GPT-5.4 反馈时为 71.6%;对真实学习者开展研究仍不可或缺,论文和代码均已公开。

    推荐理由:同时评估模拟学习者的起始能力及其对指导的反应,为评估辅导反馈提供了一种具体方法,评估范围超越了解释本身是否正确。

10月9日周五
  1. Hugging Face Blog34

    Ai2 如何用 GPU 时间预算重构集群调度

    Ai2 用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维操作变成透明的预算分配流程。其集群管理数千块 NVIDIA H100、B200 和 B300,规模从 88 到 1024 块 GPU,约 150 名内部研究者的需求长期是可用算力的 2-3 倍。

10月8日周四
  1. Microsoft Research72

    微软研究院开源 Agent Lightning v1.0:3500 行轻量级智能体 RL 框架,支持真实 harness 训练

    微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量级智能体 RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的同一 agent harness 直接参与强化学习,无需在训练框架内重新实现智能体。

    推荐理由:原文给出了框架的代码规模、Kubernetes 支持与训练配方,读者可据此判断真实 harness 参与 RL 的落地成本。

10月7日周三
  1. AWS Machine Learning Blog22

    Amazon SageMaker HyperPod 管理与治理最佳实践

    Amazon SageMaker HyperPod 可通过 SageMaker Unified Studio 将集群连接到项目,让团队成员在工作区中启动训练与微调工作负载,同时保留底层治理控制。文章提出组织、项目、集群、工作负载四层控制模型,并说明如何跨层设计身份、容量与可观测性策略,使基础设施团队继续掌管集群运维,ML 团队在项目上下文中使用获批算力。

10月6日周二
10月3日周六
  1. Hugging Face Blog62

    Ai2 开源 AstaBrief 8B 科学报告生成模型

    Ai2 开源 AstaBrief 8B,一个把研究问题和检索到的文献片段转成带引用报告的模型,基于 Qwen3-8B 经 SFT 和 DPO 训练,已作为 Asta 的 Fast 模式上线。

    推荐理由:原文给出 AstaBrief 的训练数据构造与引用过滤细节,可迁移到其他长文生成模型的落地。

10月2日周五
  1. Hugging Face Blog42

    ServiceNow CoreAI 推出 AutoSynthData:为企业智能体生成训练数据

    ServiceNow CoreAI 构建了 AutoSynthData,利用目标模型的失败案例与更强教师的成功轨迹定位能力缺口,再生成并验证新任务用于后训练,课程随模型进步转向仍难的任务。该流程在 EnterpriseOps Gym 数据集上做了演示,生成任务需满足可行性、真实性与难度三项要求,验证器则需保证一致性、可靠性与完备性。

10月1日周四
  1. Hugging Face Blog62

    AI2 发布 Olmo-core 3:面向大型 MoE 的开源可扩展训练基础设施

    AI2 发布 Olmo-core 3,这是其大语言模型开发框架的一次重要升级,重新设计了开放的 MoE 训练系统,目标是把 MoE 训练扩展到万亿参数级别并保持计算效率。

    推荐理由:原文给出了 MoE 训练栈的吞吐与显存对比数据,读者可据此判断大规模 MoE 训练的成本变化。

9月30日周三
  1. Google DeepMind62

    Google DeepMind 推出 SynthID Bio,为 AI 生成蛋白质嵌入水印

    Google DeepMind 推出 SynthID Bio,把水印技术带入合成生物学,将不可感知的签名直接嵌入生物代码,使水印不仅能在数字模型上验证,也能在合成出的实体蛋白质上验证,同时保持其生物功能。

    推荐理由:SynthID 水印从图像扩展到合成生物,读者可了解 AI 生成蛋白质如何被标记与验证。

  2. NVIDIA Blog62

    NVIDIA 与 CoreWeave 将 Vera Rubin NVL72 投入生产,Cognition 为首家客户

    CoreWeave 宣布在 CoreWeave Cloud 上线 NVIDIA Vera Rubin NVL72 系统与 Spectrum-X 102.4T 以太网,成为首批交付该平台的云厂商之一,Cognition 是首个在生产环境运行 Vera Rubin 的客户。

    推荐理由:CoreWeave 上线 Vera Rubin NVL72 并公布 Devin 实测吞吐数据,可据此判断智能体编码负载的算力成本走向。

9月29日周二
  1. Hugging Face Blog62

    NVIDIA 发布 Kumo Tabular 表格预测基础模型

    NVIDIA 发布开源表格基础模型 Kumo Tabular,给定带标签的表格行即可单次前向传播预测新行标签,覆盖分类与回归,无需训练、调参和特征工程。模型提供 28M 到 215M 三种规模,完全在人工合成表格上预训练,采用 OpenMDW-1.1 许可可商用,并在 TabArena、BeyondArena、TALENT 和 ScoringBench 四个基准上排名第一。

    推荐理由:原文给出模型规模、训练数据来源与四项基准排名,可据此判断表格基础模型的准确率与效率取舍。

  2. Microsoft Research62

    微软研究院发布 Quine:面向生物学复杂性的 AI 研究系统

    微软研究院发布 Quine,一个面向生物学复杂性的 AI 研究系统,由生物世界模型和连接模型、科学工具、文献与实验人员的交互式 harness 组成。该系统与 Broad Institute 合作用于胰腺导管腺癌研究,预测并优先排序数千种化合物,最高排名化合物在湿实验中产生了最大的经典态向基底态转变,从缩小搜索空间到选出候选验证只用了一个周末。

    推荐理由:微软研究院公开 Quine 的多模态生物世界模型与实验闭环,并给出胰腺癌化合物筛选的湿实验验证结果。

9月26日周六
  1. AWS Machine Learning Blog36

    在 Amazon EKS 上用 EFA 和 DeepEP 扩展 MoE 强化学习,吞吐量提升 40%

    AWS 给出在 Amazon EKS 上结合 EFA 与 DeepEP 扩展 MoE 强化学习训练的架构方案,吞吐量提升 40%。该方案针对 RLHF 和 GRPO 等大规模 RL 训练中 rollout 生成与策略训练的资源竞争、跨数百加速器的高吞吐通信,以及 Expert Parallelism 带来的动态 all-to-all 跨节点通信开销。

  2. AWS Machine Learning Blog34

    NarrateAI:在 Amazon Bedrock 上实现生产级 LLM 质量保障

    NarrateAI 在 Amazon Bedrock 上通过五项技术实现约 99% 的数值准确率,并支持实时流式响应。这五项技术分别是自适应流水线编排、跨账户多模型故障转移、实时流式评估、复合评估框架和数据准确性验证,分别应对幻觉指标、API 限流、验证延迟和主观语言等故障模式。该方案已服务超过 4,000 名 AWS 高管,基于 Amazon Bedrock AgentCore 构建。

9月25日周五
9月24日周四
  1. NVIDIA Blog60

    NVIDIA 与 Google DeepMind 等联合开放 2800 多种病毒的蛋白复合物预测结构

    NVIDIA 联合 Google DeepMind、EMBL-EBI 等机构,通过 AlphaFold Database 开放 2800 多种病毒的蛋白复合物预测 3D 结构,供任何科学家免费使用。

    推荐理由:NVIDIA 与 Google DeepMind 等联合开放 2800 多种病毒的蛋白复合物预测结构,读者可了解开放科学在疫情准备中的具体做法。

9月23日周三
9月21日周一
  1. Microsoft Research40

    微软开源逆合成模型 RetroChimera,论文登上 Nature

    微软在 Nature 发表逆合成预测框架 RetroChimera,并开源其实现与权重。该模型融合 Transformer 模型 R-SMILES 2 与 GNN 模型 NeuralLoc,通过学习式集成对两者预测重排序,在常见与罕见反应类型上均表现强劲。盲测中化学家更偏好其单步反应预测,十个挑战性目标的完整路线中成功九个,对比 de novo 模型五个、编辑模型四个、NeuralSym 两个。

9月19日周六
9月16日周三
  1. NVIDIA Blog62

    NVIDIA Vera Rubin NVL72 首次亮相 MLPerf Inference v6.1 并取得领先性能

    NVIDIA 在 MLPerf Inference v6.1 中首次提交 Vera Rubin NVL72 预览结果,在 Qwen3-VL 上吞吐最高达 GB300 NVL72 的 3.7 倍,在 DeepSeek-R1 上最高达 2.5 倍。

    推荐理由:MLPerf Inference v6.1 结果给出 Vera Rubin NVL72 与 GB300 NVL72 的吞吐、扩展效率和软件优化幅度,可用于判断推理基础设施的性价比走向。

  2. NVIDIA Blog62

    黄仁勋亮相 Dreamforce:Salesforce 首个 CRM 推理模型 Koa 基于 NVIDIA Nemotron 3 Super 构建

    在 Salesforce Dreamforce 大会上,NVIDIA 创始人兼 CEO 黄仁勋与 Marc Benioff 同台,正值 Salesforce 发布其首个 CRM 推理模型 Koa,该模型基于 NVIDIA Nemotron 3 Super 构建。

    推荐理由:黄仁勋在 Dreamforce 谈 AI 安全与开源模型占比变化,并交代 Salesforce 首个推理模型的训练方式与落地节奏。

  3. Google Research36

    Google Research 提出 Retrieve-for-Train:用 RL 编译扩散模型绕过推理瓶颈,加速复杂 AI 搜索

    Google Research 提出 Retrieve-for-Train 框架,通过离线 RL 发现奖励对齐的查询扇出并编译为监督信号,再蒸馏进一个 53.9M 参数的扩散检索器,实现推理时单次非自回归生成完整结果集,无需 CoT 推理 token。该方法在 Gemma3-4B 和 Qwen3-4B 上微调扇出语言模型,以集合级属性奖励缓解零样本 LLM 的同义复述坍缩与自回归延迟瓶颈。

  4. NVIDIA Blog62

    NVIDIA 详解 DSX 平台:MaxLPS 让同等电力预算多出 24% token 吞吐

    NVIDIA 在 AI Infra Summit 上介绍其 DSX 平台,其中 DSX MaxLPS 在 Lambda 的五机架 19 节点 HGX B200 集群上验证,在相同电力预算下集群 token 吞吐提升 24%,从约每秒 400 万 token 升至 500 万,每瓦性能提升 23%。

    推荐理由:原文给出 DSX MaxLPS 在 Lambda 集群上的实测数字,读者可据此判断固定电力预算下的吞吐提升空间。

9月11日周五
9月10日周四