跳到正文
全部动态 · 今日3条

#部署/工程

信源抓到、进了内容池的全部内容,按时间排列;精选只是其中一部分。
一手

模型厂商、公司和研究机构自己发布的消息:官网、官方博客和官方账号。

10月7日周三
  1. AWS Machine Learning Blog22

    Amazon SageMaker HyperPod 管理与治理最佳实践

    Amazon SageMaker HyperPod 可通过 SageMaker Unified Studio 将集群连接到项目,让团队成员在工作区中启动训练与微调工作负载,同时保留底层治理控制。文章提出组织、项目、集群、工作负载四层控制模型,并说明如何跨层设计身份、容量与可观测性策略,使基础设施团队继续掌管集群运维,ML 团队在项目上下文中使用获批算力。

10月6日周二
  1. AWS Machine Learning Blog62

    GLM 5.3 上线 Amazon Bedrock

    智谱(Z.ai)的 GLM 5.3 已在 Amazon Bedrock 上线,这是一个 753B 参数的 MoE 模型,面向编码和长程智能体任务,通过全托管 API 提供跨区域推理、提示词缓存和服务层级,目前面向符合条件的企业客户开放。

    推荐理由:原文给出 GLM 5.3 在 Bedrock 上的接入方式与提示词缓存用法,读者可据此评估托管推理对编码与长程智能体工作流的成本影响。

  2. AWS Machine Learning Blog34

    Amazon SageMaker AI 推出 aws-ai-ml 技能,为 Kiro、Claude Code、Codex 等编码智能体提供生成式 AI 推理优化能力

    Amazon SageMaker AI 通过 Agent Toolkit for AWS 推出 aws-ai-ml 技能,让 Kiro、Claude Code、Codex 等支持 MCP 的编码智能体具备推理优化与基准测试能力,可对端点做基准测试、推荐部署配置、对比性能并生成可执行的 SageMaker Python SDK v3 代码。

10月3日周六
  1. AWS Machine Learning Blog38

    用 Amazon Quick 和 Adjudicated Query 模式批量核查数千份租约合规性

    AWS 提出 Adjudicated Query 设计模式,让业务用户在 Amazon Quick 聊天界面提问合规问题,实际判定交由确定性规则引擎完成。该模式通过完整性回执确保合规、违约、模糊、不可读记录之和等于扫描总数,避免记录被静默跳过,适用于租约合规、制裁筛查、保险理赔等高风险场景。

10月2日周五
  1. Google Research62

    Google 发布基于 TEE 的新一代联邦学习系统,Gboard 已采用

    Google Research 发布新一代联邦学习系统,利用可信执行环境(TEE)为数据匿名化提供可验证、可审计的保证,Gboard 已采用该系统上线英语和日语下一词预测模型,隐私保证更强且准确率提升。

    推荐理由:Google 公布基于 TEE 的新一代联邦学习系统,并给出 Gboard 已上线的实际部署结果,可了解隐私计算在端侧训练中的工程路径。

  2. NVIDIA Blog60

    NVIDIA DGX Spark 推出 64GB 版本,支持双机集群扩展本地 AI

    NVIDIA 将于本月通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 64GB 统一内存版 DGX Spark,10 月 23 日开售,起售价 4,999 美元,保留 GB10 Grace Blackwell 超级芯片、DGX OS 和完整 NVIDIA AI 软件栈,支持最高 1000 亿参数模型在设备本地运行。

    推荐理由:原文给出 64GB 新配置的售价、上市时间和双机集群方式,读者可据此判断本地跑大模型的硬件门槛。

  3. Hugging Face Blog42

    ServiceNow CoreAI 推出 AutoSynthData:为企业智能体生成训练数据

    ServiceNow CoreAI 构建了 AutoSynthData,利用目标模型的失败案例与更强教师的成功轨迹定位能力缺口,再生成并验证新任务用于后训练,课程随模型进步转向仍难的任务。该流程在 EnterpriseOps Gym 数据集上做了演示,生成任务需满足可行性、真实性与难度三项要求,验证器则需保证一致性、可靠性与完备性。

  4. AWS Machine Learning Blog32

    Amazon Payments 如何用 Amazon SageMaker AI 上的上下文多臂老虎机提升获客漏斗转化率

    Amazon Payments 在 Amazon SageMaker AI 上用多目标上下文多臂老虎机(LinUCB)为产品获客漏斗做个性化内容选择,七周线上 A/B 测试中,一个人群组的最终漏斗转化率取得高个位数相对提升,另一人群组则未见改善。团队按申请开始、提交、审批三个阶段各跑一个 LinUCB 模型并线性组合其 UCB 分数,以同时优化整条漏斗,并开源了可在合成数据上试用的代码仓库。

  5. AWS Machine Learning Blog36

    如何在 AWS 上为 Claude Platform 配置多环境访问

    针对 Claude Platform on AWS(CPonAWS),一套完整实现方案可让生产 AWS 工作负载、开发者笔记本和外部 CI/CD 三类环境共享同一订阅,并通过 workspace 隔离生产与开发流量。方案采用专用 AI Services 账户加跨账户 SigV4、workspace 级 API key 和 OIDC 联合三种访问路径,其中外部环境使用短期凭证、无需持久密钥。

10月1日周四
  1. Hugging Face Blog62

    AI2 发布 Olmo-core 3:面向大型 MoE 的开源可扩展训练基础设施

    AI2 发布 Olmo-core 3,这是其大语言模型开发框架的一次重要升级,重新设计了开放的 MoE 训练系统,目标是把 MoE 训练扩展到万亿参数级别并保持计算效率。

    推荐理由:原文给出了 MoE 训练栈的吞吐与显存对比数据,读者可据此判断大规模 MoE 训练的成本变化。

9月30日周三
  1. NVIDIA Blog62

    NVIDIA 与 CoreWeave 将 Vera Rubin NVL72 投入生产,Cognition 为首家客户

    CoreWeave 宣布在 CoreWeave Cloud 上线 NVIDIA Vera Rubin NVL72 系统与 Spectrum-X 102.4T 以太网,成为首批交付该平台的云厂商之一,Cognition 是首个在生产环境运行 Vera Rubin 的客户。

    推荐理由:CoreWeave 上线 Vera Rubin NVL72 并公布 Devin 实测吞吐数据,可据此判断智能体编码负载的算力成本走向。

  2. AWS Machine Learning Blog28

    在 SageMaker AI 上用 vLLM-Omni 生成图像与视频(第二部分)

    AWS 发布教程,演示在 SageMaker AI 上部署同一个 vLLM-Omni DLC 镜像的两个端点:实时端点跑 FLUX.2-klein-4B 生成图像,异步端点跑 Wan2.1-VACE-1.3B 做图像条件视频生成。文本提示词先生成 PNG,再连同运动提示词经 Amazon S3 送入视频端点,生成的 MP4 从 S3 取回,示例还提供命令行流程和可选的 Streamlit 界面。

  3. AWS Machine Learning Blog62

    Claude Sonnet 5.5 上线 Amazon Bedrock 与 Claude Platform on AWS

    AWS 宣布 Claude Sonnet 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用,定位为面向编码与知识工作的更高效 Sonnet 模型,多数任务单任务成本更低、速度更快。

    推荐理由:原文交代了 Sonnet 5.5 在编码与文档任务上的改进,并给出与 Opus 5.5 的分工和 Bedrock 接入方式。