vLLM Semantic Router 团队推出 Decision 2.0，实现单次前向传递的路由与分类

发生了什么

vLLM Semantic Router 团队在 Decision 2.0 上取得了出色成果。 针对一个输入提出多个问题，在单次前向传递中作答，并给出各选项的概率。适用于路由与分类。 @XunzhuoLiu 的转发帖：适用于各种规模。 Decision 2.0：六款开放决策模型，参数规模从 0.6B 到 27B。在 #Jev Decision Index 0.3 上，每款模型都超过了我们拿来对比的同规模开放模型。 #Hugging Face 上的热门合集 🤗 Decision 2.0：https://huggingface.co/collections/vllm-sr/decision-20 Vela 2.0：https://huggingface.co/collections/vllm-sr/vela-20

继续阅读

正在热议

1. 1Meta 开放发布 Muse Spark Open，支持 Mac 和云端部署，位居美国开放权重模型榜首
2. 2Google 在全球推出 Gemini 4 Argon，并扩大付费访问范围，基准测试结果不一
3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议