跳到正文

数据与训练

训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

48 条精选近 30 天 19条共收录 227条

更新

精选归档 · 第 3 页

5月20日周三
5月19日周二
  1. Google DeepMind60

    Google DeepMind 用 Co-Scientist 加速逆转细胞衰老的基因线索发现

    Google DeepMind 的生物学家 Omar Abudayyeh 和 Jonathan Gootenberg 使用 Co-Scientist 辅助衰老研究,该工具扫描数万篇论文后提出 20 多个新的候选遗传因子,实验室测试验证了其中几个假设,成功让细胞进入更年轻状态并改善整体功能。Co-Scientist 还用于分析大规模基因筛选数据,把原本需要长达六个月的数据与文献关联分析缩短到几天。

    推荐理由:原文给出 Co-Scientist 在衰老研究中的具体产出与耗时对比,可了解 AI 智能体参与科研假设生成的实际方式。

4月30日周四
  1. Google Research62

    Google Research 科学家如何使用 Empirical Research Assistance 的四种方式

    Google Research 总结了科学家使用 Empirical Research Assistance(ERA)的四个方向:公共卫生领域,团队每周为美国各州提交流感。

    推荐理由:Google 用四个真实科研项目展示 ERA 在流行病预测、宇宙学、碳监测和神经科学中的落地方式,可看 AI 辅助科研的具体边界。

4月22日周三
  1. Google DeepMind62

    Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构

    Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构,把大规模训练拆成异步通信的计算孤岛,降低带宽需求并隔离硬件故障。测试中该系统在整块 learner unit 掉线后仍能继续训练并重新接入,用 Gemma 4 模型达到与传统方法相同的 ML 性能。

    推荐理由:原文给出跨数据中心异步训练在带宽、容错和跨代硬件上的实测结果,可据此判断分布式预训练的工程取舍。

3月18日周三
  1. Mistral AI62

    Mistral AI 推出企业级模型训练系统 Forge

    Mistral AI 发布 Forge,一套让企业基于自有专有知识构建前沿级 AI 模型的系统,覆盖预训练、后训练和强化学习等阶段,支持 dense 与 MoE 架构及多模态输入。

    推荐理由:原文给出了企业用自有数据训练前沿模型的分阶段能力与已合作机构,可据此判断企业自建模型的门槛与路径。

3月12日周四
  1. Google Research62

    Google 推出 Groundsource,用 Gemini 把新闻报道转为灾害数据

    Google 发布 Groundsource,一套用 Gemini 从全球新闻中提取结构化灾害数据的方法,并开放首个城市山洪数据集,包含 2.6 百万条记录、覆盖 150 多个国家、时间跨度从 2000 年至今。

    推荐理由:Google 用 Gemini 把全球新闻转成结构化灾害数据,并给出人工核验的准确率与覆盖对比,可据此判断这套方法能否迁移到其他灾害。