跳到正文
全部动态 · 今日9条

#部署/工程

信源抓到、进了内容池的全部内容,按时间排列;精选只是其中一部分。
10月7日周三
  1. Simon Willison40

    EmbeddingGemma 2 采用 Apache 2.0 许可证

    EmbeddingGemma 2 采用 Apache 2.0 许可证,Simon Willison 认为嵌入模型不应使用闭源、专有的托管模式。他指出嵌入模型通常需计算并存储数千乃至数百万条嵌入向量,一旦厂商停用模型,用户就得为重新计算这些向量付费;他更愿意付费使用托管版本,同时保留厂商停服后自行运行开放权重或另寻供应商的退路。

  2. AWS Machine Learning Blog22

    Amazon SageMaker HyperPod 管理与治理最佳实践

    Amazon SageMaker HyperPod 可通过 SageMaker Unified Studio 将集群连接到项目,让团队成员在工作区中启动训练与微调工作负载,同时保留底层治理控制。文章提出组织、项目、集群、工作负载四层控制模型,并说明如何跨层设计身份、容量与可观测性策略,使基础设施团队继续掌管集群运维,ML 团队在项目上下文中使用获批算力。

10月6日周二
  1. Mistral AI · X80

    Mistral 发布 Mistral Large 4,1T 参数原生多模态

    Mistral AI 发布 Mistral Large 4(代号 Le Chonk),1T 参数、原生多模态、49B 激活,官方称其是欧美聚合基准上最好的开放权重模型。该模型在网络防御、制造和金融等关键负载上达到 SOTA,并在视觉 grounding 上超过闭源前沿模型;端到端在欧洲打造,可通过 Mistral Cloud 从欧洲部署,今日起 API 可用,开放权重版本将于 10 月底发布。

    推荐理由:Mistral 官方给出 1T 参数、49B 激活的开放权重模型规格与欧洲本地部署路径,可据此判断开放权重阵营的规模与可用性。

  2. AWS Machine Learning Blog62

    GLM 5.3 上线 Amazon Bedrock

    智谱(Z.ai)的 GLM 5.3 已在 Amazon Bedrock 上线,这是一个 753B 参数的 MoE 模型,面向编码和长程智能体任务,通过全托管 API 提供跨区域推理、提示词缓存和服务层级,目前面向符合条件的企业客户开放。

    推荐理由:原文给出 GLM 5.3 在 Bedrock 上的接入方式与提示词缓存用法,读者可据此评估托管推理对编码与长程智能体工作流的成本影响。

  3. AWS Machine Learning Blog34

    Amazon SageMaker AI 推出 aws-ai-ml 技能,为 Kiro、Claude Code、Codex 等编码智能体提供生成式 AI 推理优化能力

    Amazon SageMaker AI 通过 Agent Toolkit for AWS 推出 aws-ai-ml 技能,让 Kiro、Claude Code、Codex 等支持 MCP 的编码智能体具备推理优化与基准测试能力,可对端点做基准测试、推荐部署配置、对比性能并生成可执行的 SageMaker Python SDK v3 代码。

10月5日周一
10月4日周日
  1. 量子位36

    最火AI岗位FDE:月薪5万,Anthropic、OpenAI、AWS都在抢人

    FDE(Forward Deployed Engineer,前线部署工程师)成为当下最火AI岗位,海外公开薪资中位数约20万美元,国内大厂开出月薪三五万招聘。Anthropic宣布投资1亿美元在2027年底前培训1万名FDE,OpenAI带40亿美元投资成立部署公司,AWS拿出10亿美元组建FDE部门。从业者称沟通需求占工作时间七成以上,开发仅占三成。

  2. Simon Willison36

    Simon Willison:按量付费服务需要默认硬性预算上限,AWS 已推出支出限额

    Simon Willison 呼吁按量付费的 API 和服务默认设置硬性预算上限,即达到每月 $X 后直接切断并返回错误,而非仅发警告邮件。他指出 AWS 已在 9 月 16 日推出月度支出限额功能,项目达到限额后当月暂停,目前仅向部分客户开放;Google Cloud 则在 7 月上线了 Spend Caps。

  3. TechCrunch · AI40

    AWS CEO Matt Garman 回应数据中心争议:不再与政府机构签署 NDA

    Amazon Web Services CEO Matt Garman 表示,公司已停止在与政府机构合作的数据中心项目中签署保密协议(NDA)。他同时反驳数据中心耗水过多、推高电价、污染严重、无益社区四大说法,称直接数据中心用水仅占美国工业用水 0.5%,备用发电机 99.9% 时间闲置。目前全美有超过 100 项数据中心禁令正在审议中。

10月3日周六
  1. Ollama · X38

    .@Cloudflare 的决策模型现已在 Ollama 上提供!决策模型可用于对图像进行分类、为错误报告添加标签,或将支持工单转给合适的团队。Clef (27B):ollama pull clef Clef Flash (9B):ollama pull clef-flash

    .@Cloudflare 的决策模型现已在 Ollama 上提供! 决策模型可用于对图像进行分类、为错误报告添加标签,或将支持工单转给合适的团队。 Clef (27B): ollama pull clef Clef Flash (9B): ollama pull clef-flash

  2. MIT Technology Review · AI12

    用自主 AI 重新定义企业智能:MIT Technology Review 报告解析“智能体转型”

    MIT Technology Review 发布报告,提出企业 AI 正从工具转向“智能体转型”(agentic shift),核心是同步重构架构与运营模式。报告称 2026 年全球 AI 投资将达 2.5 万亿美元,同比增长 44%,但多数企业仍未靠 AI 实现收入增长。报告建议以流程重构先于模型选型,并建设可组合、主权可控的数据底座,让数据在本地即可被 AI 智能体调用。

  3. Cursor · X40

    Cursor Rollouts 发现回归问题时会创建 issue,并可启动云端代理进行修复

    Rollouts 发现回归问题时,会找出导致问题的 PR 并创建 issue。点击一次即可启动云端代理进行修复。 Rollouts 使用额度包含在内,有效期至 10 月 3 日。 @cursor_ai 的帖子原文:推出 Rollouts。Rollouts 会编写监控计划,然后在变更部署时进行监控。部署会经过验证,因此能在用户看到回归问题之前发现它们。

  4. AWS Machine Learning Blog38

    用 Amazon Quick 和 Adjudicated Query 模式批量核查数千份租约合规性

    AWS 提出 Adjudicated Query 设计模式,让业务用户在 Amazon Quick 聊天界面提问合规问题,实际判定交由确定性规则引擎完成。该模式通过完整性回执确保合规、违约、模糊、不可读记录之和等于扫描总数,避免记录被静默跳过,适用于租约合规、制裁筛查、保险理赔等高风险场景。

10月2日周五
  1. Google AI · X58

    谷歌发射「Project Suncatcher」原型卫星,在轨测试 TPU

    Google AI 宣布,Project Suncatcher 是一项探索未来能否将机器学习基础设施部署在太空中的登月级计划;该项目已将一颗原型卫星送入轨道。这次任务由 Google 与 Planet 合作打造,搭乘 SpaceX 的 Transporter-18 拼车发射任务升空,将收集 Google TPU 应对太空飞行物理压力和极端环境的数据。Google 表示,近地轨道可能提供近乎持续的阳光,太阳能发电量最高可达地球上的 8 倍。

  2. Google Research62

    Google 发布基于 TEE 的新一代联邦学习系统,Gboard 已采用

    Google Research 发布新一代联邦学习系统,利用可信执行环境(TEE)为数据匿名化提供可验证、可审计的保证,Gboard 已采用该系统上线英语和日语下一词预测模型,隐私保证更强且准确率提升。

    推荐理由:Google 公布基于 TEE 的新一代联邦学习系统,并给出 Gboard 已上线的实际部署结果,可了解隐私计算在端侧训练中的工程路径。

  3. NVIDIA Blog60

    NVIDIA DGX Spark 推出 64GB 版本,支持双机集群扩展本地 AI

    NVIDIA 将于本月通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 64GB 统一内存版 DGX Spark,10 月 23 日开售,起售价 4,999 美元,保留 GB10 Grace Blackwell 超级芯片、DGX OS 和完整 NVIDIA AI 软件栈,支持最高 1000 亿参数模型在设备本地运行。

    推荐理由:原文给出 64GB 新配置的售价、上市时间和双机集群方式,读者可据此判断本地跑大模型的硬件门槛。

  4. The Verge · AI38

    微软用“仿生学”把数据中心藏进树林,能平息社区反对吗?

    微软宣布以“仿生学”方式改造数据中心,通过增加花园和本地树种、投资受损生态系统修复,把设施“融入自然景观”,并计划将这类方案推广到美国与德国 20 多个站点。微软称已在荷兰一处数据中心试点,2022 年曾为建数据中心在圣安东尼奥砍伐 2600 多棵树,引发当地争议。