跳到正文
全部动态 · 今日0条

#评测/基准

信源抓到、进了内容池的全部内容,按时间排列;精选只是其中一部分。
一手

模型厂商、公司和研究机构自己发布的消息:官网、官方博客和官方账号。

10月8日周四
  1. Hugging Face Blog40

    TII 推出 Falcon-ASR:1.6B 参数阿拉伯语语音识别模型,主打阿联酋方言

    阿布扎比技术创新研究院(TII)发布 1.6B 参数的语音识别模型 Falcon-ASR,主打阿拉伯语及阿联酋方言,同时支持英语、法语、西班牙语和葡萄牙语。在六个阿拉伯语测试集上平均 WER 为 20.92%,比所用榜单快照中最佳公开结果 23.17% 低 2.25 个百分点;内部阿联酋方言评测 WER 22.73%、CER 10.19%,优于 Qwen3-Omni。

10月7日周三
10月6日周二
9月30日周三
  1. Hugging Face Blog60

    Hugging Face 发布 Open TTS Leaderboard,用客观指标评测多语言 TTS 与语音克隆

    Hugging Face 发布 Open TTS Leaderboard,用 WER/CER、RTFx、TTFA 和说话人相似度等客观指标评测开源 TTS 模型,把评测周期从数周投票缩短到数小时。

    推荐理由:Hugging Face 用客观指标替代投票式评测,读者可了解开源 TTS 模型在多语言与语音克隆上的横向对比方式。

9月23日周三
9月22日周二
9月2日周三
  1. Hugging Face Blog36

    Hugging Face 推出 BenchMIRT:审计 LLM 基准测试究竟在测什么

    Hugging Face 发布 BenchMIRT,一种在单条提示词层面审计 LLM 基准测试的多维 IRT 方法,可分离同一基准中混杂的能力信号。该方法基于 100 个 LLM 在 16 个基准、超 34K 道题上的结果训练,在未被告知基准对应能力的情况下自行恢复出安全与通用推理两个主导维度。分析显示 BBQ、WMDP 等安全基准的得分与通用推理关联更强,单一基准分数可能混合多种信号。

8月21日周五
8月13日周四
  1. Microsoft Research36

    MindTopo 揭示多模态大模型的空间推理能力短板

    Microsoft Research 推出 MindTopo 基准,用于评测多模态大语言模型的拓扑推理能力,覆盖连通性、分离、顺序、包围与绳结五类关系,并分为静态推理与交互规划两个层级。测试显示,当前模型在静态识别上明显强于交互规划,且两者均远低于人类水平,失败多出现在规划阶段而非感知阶段。图像与视频生成仅在单帧内保留拓扑关系时有用,跨多步操作时仍不可靠。

8月11日周二
7月16日周四
7月15日周三
7月7日周二
  1. Hugging Face Blog74

    LeRobot v0.6.0 发布:想象、评估、改进

    Hugging Face 发布 LeRobot v0.6.0,围绕机器人学习闭环引入世界模型策略(VLA-JEPA、FastWAM、LingBot-VA)、新一批 VLA(GR00T N1.7、MolmoAct2、EO-1、EVO1、Multitask DiT)以及统一奖励模型 API(Robometer、TOPReward)。

    推荐理由:原文把世界模型策略、奖励模型 API 与六个仿真基准整合进同一套 CLI,读者可据此判断机器人学习闭环的工程化程度。

7月1日周三
6月30日周二
6月25日周四
4月14日周二
  1. Google Research50

    Google 推出 Vantage:用生成式 AI 评估未来技能

    Google 发布研究实验 Vantage,通过生成式 AI 构建模拟对话环境,评估高中与大学生的问题解决、协作等未来技能,现已上线 Google Labs 开放英文注册。该工具由 Executive LLM 动态引导对话、AI Evaluator 依据评分量表打分,与纽约大学合作对 188 名 18-25 岁测试者的研究显示,AI 评分与人类专家评分的一致性接近专家之间的水平。

4月3日周五
  1. Google Research38

    Google Research 评估 LLM 行为倾向与人类的对齐程度

    Google Research 提出一套框架,用心理学量表改编的情境判断测试(SJT)评估 LLM 行为倾向与人类共识的对齐程度,覆盖共情、情绪调节等四类特质。对 25 个 LLM 的大规模分析发现两类差距:模型倾向偏离人类标注者共识,以及在无共识时无法覆盖人类意见的分布范围。小模型(<120B)与前沿闭源模型在人类一致同意时接近完美对齐,但共识低于 90% 时对齐率停滞在 80% 出头。

4月1日周三
3月17日周二
4月9日周三