跳到正文
全部动态 · 今日4条

#评测/基准

信源抓到、进了内容池的全部内容,按时间排列;精选只是其中一部分。
7月15日周三
7月7日周二
  1. Hugging Face Blog74

    LeRobot v0.6.0 发布:想象、评估、改进

    Hugging Face 发布 LeRobot v0.6.0,围绕机器人学习闭环引入世界模型策略(VLA-JEPA、FastWAM、LingBot-VA)、新一批 VLA(GR00T N1.7、MolmoAct2、EO-1、EVO1、Multitask DiT)以及统一奖励模型 API(Robometer、TOPReward)。

    推荐理由:原文把世界模型策略、奖励模型 API 与六个仿真基准整合进同一套 CLI,读者可据此判断机器人学习闭环的工程化程度。

7月6日周一
7月1日周三
6月30日周二
6月25日周四
6月15日周一
4月14日周二
  1. Google Research50

    Google 推出 Vantage:用生成式 AI 评估未来技能

    Google 发布研究实验 Vantage,通过生成式 AI 构建模拟对话环境,评估高中与大学生的问题解决、协作等未来技能,现已上线 Google Labs 开放英文注册。该工具由 Executive LLM 动态引导对话、AI Evaluator 依据评分量表打分,与纽约大学合作对 188 名 18-25 岁测试者的研究显示,AI 评分与人类专家评分的一致性接近专家之间的水平。

4月3日周五
  1. Google Research38

    Google Research 评估 LLM 行为倾向与人类的对齐程度

    Google Research 提出一套框架,用心理学量表改编的情境判断测试(SJT)评估 LLM 行为倾向与人类共识的对齐程度,覆盖共情、情绪调节等四类特质。对 25 个 LLM 的大规模分析发现两类差距:模型倾向偏离人类标注者共识,以及在无共识时无法覆盖人类意见的分布范围。小模型(<120B)与前沿闭源模型在人类一致同意时接近完美对齐,但共识低于 90% 时对齐率停滞在 80% 出头。

4月1日周三
3月17日周二
4月9日周三