跳到正文
全部动态 · 今日9条

#部署/工程

信源抓到、进了内容池的全部内容,按时间排列;精选只是其中一部分。
今天10月17日周六
  1. vLLM · X77

    MOSS-Image 开源发布,支持双语文本渲染和实验性布局控制

    MosiAI 宣布开源发布 MOSS-Image。该模型基于 5B Diffusion Transformer(DiT)构建,支持中文和英文文本渲染、最长 4K token 的提示词,以及使用边界框进行实验性 JSON 布局控制。Hugging Face 上提供基础版和 SFT 检查点,同时开放模型权重和采用 Apache-2.0 许可的推理代码。vLLM 向团队表示祝贺,并宣布通过 vLLM-Omni 提供 Day-0 支持。

    推荐理由:此次发布为如何将双语文本渲染与实验性边界框布局控制相结合提供了一个具体示例,可供需要明确指定文本和物体位置的图像生成工作流开发者参考。

  2. Simon Willison50

    Simon Willison 用 Claude Code 构建可分享的 LaTeX 渲染器

    Simon Willison 受 Tiny Little Office 将文档存储在 URL 片段中的做法启发,使用 Claude Code(Opus 5.5 Extra)构建了 LaTeX 渲染器。该工具使用 MathJax 渲染公式,使用 faster-latex 渲染文档或文字片段,并提供实时预览以及编辑视图和渲染视图之间的切换。用户可以输入源文本、加载 URL 或 GitHub Gist,并分享易读或压缩后的链接。

  3. AWS Machine Learning Blog60

    构建对 AI 代理的信任:基于 Amazon Bedrock AgentCore 的生产就绪评估框架

    AWS 介绍了其 SMGS 运营团队如何使用 Amazon Bedrock AgentCore,为内部销售智能系统构建了一个包含九个阶段的评估框架。该框架结合了特定领域的评估器、版本化的黄金数据集、CI/CD 门禁、持续监控,以及基于追踪数据对工具、代理和多代理工作流进行改进。AWS 报告称,自动化评估将质量回归的发现时间从几天或几周缩短到不到四小时。

    推荐理由:该框架提供了一种可迁移的方法,可将特定领域的故障类别与发布门禁和生产监控相结合,覆盖工具、单个代理和多代理工作流。

  4. Google Research76

    让 AI 智能体立足生物学现实:构建自主湿实验室的基石

    Google Research 介绍了三个将 AI 智能体与湿实验相结合的项目:VERD 实验室自动化、闭环适配体发现,以及从头设计蛋白质结合体。经过三轮实验,适配体对肌红蛋白和 α-凝血酶的靶向命中率分别达到 33.5% 和 42.1%;蛋白质设计流程将计算周期加快了八倍以上,并获得了亲和力达到个位数纳摩尔级的结合体。整合这些项目仍是下一步工作,相关保障措施包括序列筛查、机器人执行前进行模拟,以及取得人工授权并由人工监督。

    推荐理由:适配体实验展示了实验反馈如何揭示具有误导性的优化目标,为自动化发现流程提供了一种可迁移的方法,用于区分真正的生物学改进与实验伪象。

  5. 量子位58

    亚马逊首席技术官 Werner Vogels 敦促企业在 AI 决策中排除恐惧

    亚马逊首席技术官 Werner Vogels 认为,企业在急于采用 AI 之前,应先了解自身的业务问题和 AI 的能力。他在深圳发表讲话时强调,要判断任务是否适合交由 AI 完成、考虑运营成本、明确限制 Agent 的行动,并由开发者对结果负责。他还提醒,AI 生成的代码可能累积验证债务,并强调初级工程师仍需积累阅读和审查代码的经验。

  6. 量子位65

    Paradigm 与北京睿思智联推出 ModelSphere 开源 AI 部署平台

    Paradigm 与北京睿思智联宣布推出 ModelSphere,这是一个免费的开源平台,整合了企业级算力管理、模型部署和运行时优化。该平台采用 Apache 2.0 许可证发布,支持异构芯片调度和集群运维,并兼容 vLLM、SGLang 等推理引擎,提供缓存感知路由、自动扩缩容和自动性能调优功能。公司提供的公告链接至项目代码库:https://github.com/modelsphere/modelsphere。

  7. Aravind Srinivas · X59

    Computer 集成了 @morluto 的 Reverse-Engineer-Anything 技能,并提供最高 10000 点额度

    Aravind Srinivas 宣布,Computer 已集成 @morluto 的 Reverse-Engineer-Anything 技能,并为任何想要逆向工程自己选择的应用的人提供最高 10000 点额度。 被引用的 @AskPerplexity 帖子称,Computer 无需应用的源代码即可检查应用并构建可运行的版本;截至 10 月 31 日,/reverse-engineer 任务免费,每位用户最高可获 10,000 点额度。 https://twitter.com/askperplexity/status/2111120664543596957

  8. The Verge · AI77

    一周使用 Nvidia RTX Spark 笔记本电脑:性能优势与实际取舍

    The Verge 的三位评测人员花了一周测试五款 Nvidia RTX Spark 笔记本电脑,发现它们图形性能出色,Windows on Arm 应用总体上也能正常使用,但价格高昂,CPU 性能弱于 Apple 的竞品,而且运行本地 AI 工作负载要求很高。Sean Hollister 的 Asus ProArt P16 在日常工作中续航约 5 小时至 5 小时 40 分钟。他们进行本地 AI 实验时遇到了明显的电量消耗、发热、响应缓慢和结果不稳定等问题,尽管这些配置提供了最高 128GB 的统一内存。

    推荐理由:这些实测对比展示了大容量统一内存和出色图形性能在本地 AI 工作负载、电池续航和软件兼容性方面带来的日常取舍。

10月16日周五
  1. AWS Machine Learning Blog73

    推出 Reflection Beam:一款面向 AWS 智能体编程的开放权重模型

    Reflection AI 推出了 Beam,这是一款用于智能体编程和多步骤任务的开放权重模型,总参数量为 5010 亿,激活参数量为 230 亿。Reflection 称其有效上下文长度为 100 万个 token,并以 Apache 2.0 许可发布 Beam 1.0,提供 BF16、FP8 和 NVFP4 版本。本指南介绍如何通过 Amazon SageMaker JumpStart,或借助 JumpStart、SGLang 或 vLLM 在 HyperPod Inference 上进行部署,内容包括容量规划、调用、性能测量和清理。

    推荐理由:部署方式的比较说明了何时托管端点已足够,以及何时 Kubernetes 基础设施或自定义运行时能为服务配置、分布式执行和扩缩容提供有用的控制。

  2. vLLM · X75

    Reflection-Beam-1.0 在 vLLM 中获得 Day-0 支持

    @reflection_ai 推出的 Reflection-Beam-1.0 在 vLLM 中获得 Day-0 支持。 总参数量为 501B,每个 token 激活 23B,上下文窗口为 1M token。Beam 将混合注意力与 Harmony 格式的推理和工具使用相结合。 Beam 还在 SkyRL(@NovaSkyAI)中获得 Day-0 RL 支持:https://t.co/3SjWJKKgpH https://t.co/EkmA1L6B3H

    推荐理由:vLLM 和 SkyRL 的 Day-0 支持将 Beam 的发布与推理和 RL 工作流衔接起来,为考虑如何使用该模型进行推理或训练的开发者提供了具体背景。

  3. vLLM · X50

    Reflection-Beam-1.0 在 vLLM 中获得 Day-0 支持

    Reflection-Beam-1.0 已在 vLLM 中获得 Day-0 支持,拥有 501B 个总参数、每个 token 激活 23B 个参数,以及 1M token 的上下文窗口。 Beam 将混合注意力与 Harmony 格式的推理和工具使用相结合,并在 SkyRL 中获得 Day-0 RL 支持,涵盖 LoRA、BF16 全量微调和 MXFP8 RL,使用 vLLM 进行 rollout。 vLLM 与 Reflection 和 Inferact 合作完善了服务路径,涵盖从融合内核到 DFlash 的各个环节。

  4. 雷锋网52

    大漠大拓展无人机表演业务,进军自主蜂群并计划 IPO

    据雷锋网报道,大漠大正在开发第二条产品线,面向封闭、GPS 受限环境中的自主无人机蜂群,并计划于 2027 年申请 IPO。据公司介绍,设备销售约占其营收的 70%,过去五年海外设备销售额增长了 45 倍。新系统旨在利用多传感器定位实现导航、避障和协同作业,预计将在年底至明年年初进行演示。

  5. 宝玉 · X72

    Anthropic取消Opus 5.5快速模式候补名单,Claude Code仍单独计费

    Anthropic已结束Claude Platform上Opus 5.5快速模式的研究预览,并取消候补名单,用户现在可使用速度最高提升至2.5倍的同一模型。API定价为每百万输入令牌8美元、每百万输出令牌40美元,是标准费率的两倍;Claude Code快速模式仍使用单独计费的额外用量额度。Microsoft Foundry也已提供快速模式,Google Cloud即将上线。

  6. Ollama · X48

    Muse Spark Open 现已在 Ollama 上线

    Muse Spark Open 现已登陆 Ollama。 @Meta 开放权重模型,适用于编程和工具调用,拥有 100 万 token 的上下文窗口。 在 Ollama 云端运行: ollama run muse-spark-open:cloud 与 Claude Code 搭配使用: ollama launch claude muse-spark-open:cloud 现已向 Max 和 Teams 用户开放

  7. Aravind Srinivas · X57

    Aravind Srinivas认为,新云服务商需要掌控完整的智能体推理平台

    Aravind Srinivas认为,新云服务商不能只出租GPU,还需要掌控完整的智能体推理平台,包括开放权重模型(SGLang)、微调模型(Miles、River)和安全沙箱(SPACE)。他期待与Coreweave、Akamai、Crusoe及更多合作伙伴携手合作。 在被引用的帖子中,Reed Albergotti报道称,Perplexity正与Akamai、Coreweave和Crusoe等合作伙伴共同开源其沙箱SPACE。https://twitter.com/ReedAlbergotti/status/2110782821879144922

  8. 量子位28

    安泰MBA如何培养面向人工智能时代的未来商界领袖

    上海交通大学安泰经济与管理学院正在重塑MBA教育,培养能够将技术理解与商业判断和责任意识相结合的商界领袖。学院的“五环”人才培养框架将人工智能、科技创新、产业、全球视野与上海交通大学资源相连接。学院还计划在未来十年与企业共同打造1,000个人工智能项目,并已公布面向2027级学员的课程和培养方案调整。

  9. 量子位31

    QbitAI智库发布企业智能体规模化报告

    QbitAI智库发布报告《智能体驱动的企业智能:从提升单项任务到规模化企业转型》,探讨了企业采用人工智能面临的六大障碍:任务定义、数据可靠性、决策可验证性、执行、责任与权限,以及价值衡量和复制。报告提出围绕业务成果构建端到端框架,并建议先验证一个高价值用例,再逐步推广。

  10. 宝玉 · X63

    Cheng Lou 发布 Handwired,用 JavaScript 程序逻辑构建神经网络

    Cheng Lou 发布了 Handwired,这是一个采用 MIT 许可证的项目,可将 JavaScript 程序逻辑手动表示为具有精确输出、无需训练且支持可微操作的神经网络。Baoyu 的概述介绍了一个浏览器桌面、文档搜索和可训练的照片布局演示。Handwired 不会自动转换现有的 JavaScript 源代码;开发者必须使用其构造函数重新搭建逻辑,声明数值范围,并遵守 32 位浮点数和执行方面的限制。 https://chenglou.me/handwired/ https://github.com/chenglou/handwired

  11. vLLM · X69

    vLLM 新增对 Meta 开放权重模型 Muse Spark Open 的首日支持

    vLLM 现已提供对 Meta 开放权重模型 Muse Spark Open 的首日支持,并已在 NVIDIA 和 AMD GPU 以及 TPU 上完成验证! 该模型拥有 816B 个参数,每个 token 激活 42B 个参数,支持 1M token 的上下文,输入包括图像、视频和音频,专为长周期智能体编程而构建。 我们很高兴能够参与合作 https://t.co/MleWIPrBMD

    推荐理由:在 NVIDIA 和 AMD GPU 以及 TPU 上完成验证,为部署团队提供了通过 vLLM 运行 Meta 开放权重模型时所需的具体硬件兼容性信息。

  12. AWS Machine Learning Blog60

    Meta 的 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上提供

    Meta 针对代码优化的开放权重模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上提供,包含 BF16 和 NVFP4 两种版本,支持 100 万 token 的上下文窗口,总参数量为 816B,其中每个 token 激活 42B 参数。AWS 提供了使用 SageMaker Studio 或 SageMaker Python SDK 进行部署的说明,以及推理和清理示例。发布时,该模型可在美国东部(弗吉尼亚北部)和美国东部(俄亥俄州)使用。

    推荐理由:部署指南将 BF16 和 NVFP4 的内存需求与受支持的实例类型对应起来,为团队在代码仓库上评估该模型时规划基础设施提供了具体依据。

  13. Aravind Srinivas · X71

    Perplexity 开源 SPACE:为 Perplexity Computer 提供支持的沙箱平台

    沙箱虽然已是常见商品,但要在生产级流量下运行数百万个沙箱,就需要关注细节,才能为企业和消费者扩展智能体。 Perplexity 正在开源 SPACE(为 Perplexity Computer 提供支持的沙箱平台),以支持生态系统。https://github.com/perplexityai/space

    推荐理由:常见沙箱与在生产流量下运行数百万个沙箱之间的区别,说明了为企业和消费者扩展智能体所需的工程工作。

  14. Perplexity · X68

    Perplexity 开源 SPACE:Perplexity Computer 背后的沙箱平台

    我们将 SPACE 开源了。它是运行 Perplexity Computer 中每项任务的沙箱平台。 SPACE 为每项智能体任务分配独立的 Firecracker 微型虚拟机,并在虚拟机外部管理凭据和出站流量。 现已按 Apache 2.0 许可证开放:https://t.co/DzSmq6o1xA

    同一新闻,精选展示《Perplexity open-sources SPACE, the sandbox platform powering Perplexity Computer》

  15. NVIDIA Blog34

    NVIDIA RTX Spark 全球发布庆祝活动将于10月16日开启

    NVIDIA将于10月16日(周五)推出RTX Spark,并在世界各地举办活动,参与者可以亲自体验用于创作、开发和游戏的演示。活动计划在旧金山、柏林、台北、北京、伊斯坦布尔和首尔举行;各地的入场要求有所不同。NVIDIA还邀请大家分享自己的第一台Windows PC激发了什么灵感,有机会赢得一台由黄仁勋签名的ASUS ProArt P14 RTX Spark笔记本电脑。

  16. vLLM · X57

    RedHat_AI 发布经过优化的 NVIDIA Nemotron 3.5 Super VL 检查点

    vLLM 重点介绍了 @RedHat_AI 为 NVIDIA Nemotron 3.5 Super VL(一款 120B 多模态 MoE 模型)推出的 FP8 和 DSpark 检查点,这些检查点使用了 LLM Compressor 和 Speculators。 RedHat_AI 报告称,在 Hopper 上的性能接近提升 2 倍,同时保持准确性。其使用 4× H100 进行的基准测试显示,FP8 在负载下提高了吞吐量,DSpark 提升了每位用户的流式处理速度;两者结合后,在 HumanEval、数学推理和 RAG 工作负载上的表现均优于单独使用其中任一方案。 两个检查点均已开放: https://huggingface.co/RedHatAI/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-FP8 https://huggingface.co/RedHatAI/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B.dspark

10月15日周四
  1. The Verge · AI70

    Windows 如何针对 Nvidia RTX Spark 笔记本进行优化

    微软通过简化 AI 智能体安装、调优 Prism 仿真层并改进统一内存,对 Windows 进行了优化,以适配 Nvidia 基于 Arm 的 RTX Spark 笔记本。Tom Warren 发现,安装 Hermes 大多只需点击两次,而 OpenClaw 需要重新安装;大型本地模型的响应速度也比云端模型慢。包括 Recall 在内的 Copilot Plus PC 功能在发布时尚不可用,预计今年晚些时候会先向 Windows Insider 提供。

  2. AWS Machine Learning Blog64

    AWS 解释如何通过深度信任,在可强制执行的边界内赋予智能体自主权

    AWS 的 Shawn Bice 介绍了深度信任(Trust in Depth),这是一种通过四个层次——范围(Scope)、了解(Know)、约束(Bound)和观察(Observe)——来管理智能体的框架。他介绍了 AWS 工具如何支持策略、智能体身份、外部强制执行和追踪,并以员工离职流程说明依赖顺序的防护措施。自动推理可以在系统定义的假设范围内,证明表述精确的规则;而依赖上下文的预期则需要评估和人工判断。

    推荐理由:员工离职示例提供了一种可迁移的方法,将业务要求转化为强制执行的前置条件,并说明操作顺序的重要性可能不亚于单个工具的权限。