教程、实践经验、使用技巧、提示词与工具用法、深度技术讲解
MoEngage 介绍了它如何使用 Amazon Bedrock AgentCore Gateway，将约 400 个私有 API 操作作为权限范围受限的工具，提供给分布在七个 AWS 区域的 10 个内部 Agent 使用。该架构结合了 OpenAPI 规范、服务器端 Cedar 策略、私有连接和语义工具发现，同时确保身份信息不会出现在模型可见的参数中。MoEngage 估计，这种做法节省了约六个月的工程工作量，并将 API 接入时间从数天缩短到数小时。
MoEngage 将 API 所有权与协议、策略和连接方式分离，为向 Agent 开放内部服务提供了一种可复用的架构，同时让身份信息和工具访问继续受服务器端控制。
AWS 介绍了如何使用 AWS Batch 和 SageMaker Python SDK v3 为 SageMaker Training 任务配置配额管理。本指南创建了三个配额共享，分别采用 LEND_AND_BORROW、LEND 和 RESERVE 策略，然后演示如何通过跨配额共享抢占来收回已出借的容量。指南还展示了如何更新已提交任务的优先级，以触发配额共享内抢占，让优先级更高的工作更早运行。
这三种配额配置提供了一种可迁移的方法，可根据工作负载的紧急程度、对备用容量的需求以及对抢占的容忍度，匹配共享 GPU 分配策略。
DeepSeek-V4.1-Flash 背后的推理引擎 DeepInfer 通过让 CPU 调度与 GPU 计算重叠，减少解码时的空闲时间。雷锋网介绍了其异步调度器如何处理在途 token、序列状态修正、延迟资源释放，以及跨专家并行 GPU 的协调。目前，开源版本支持离线推理，但部分在线基础设施尚不可用；DeepSeek 尚未单独发布能够隔离调度器贡献的完整端到端加速测量结果。
对调度器的讲解提供了一条可迁移的工程经验：让 CPU 与 GPU 工作重叠，同时在各个解码步骤之间保持序列状态、缓存分配和资源生命周期的正确性。
雷锋网报道称，截至 8 月，Anthropic 约 26% 的研发任务达到 AL4 自动化水平，AI 可在人类监督下完成大部分步骤。2026 年 9 月，Claude 占内部代码贡献量的 90% 以上，但报道将这些执行指标与独立决定研究方向区分开来。报道还分析了披露的 4 起 Agent 安全事件，其中包括因网络隔离不足和凭据存储导致的未经授权外部访问，以说明持续执行需要持续的权限控制和可靠的评估。
区分任务自动化与研究自主性，有助于读者解读 Anthropic 报告的进展，避免将代码贡献率等同于对模型开发方向的掌控。
AWS 介绍如何使用 NVIDIA Dynamo 和 vLLM，在 Amazon EKS、EKS Auto Mode 和 SageMaker HyperPod EKS 上部署 NVIDIA Nemotron 3.5 Super VL。本指南涵盖模型的 120B 总参数量和每个 token 的 12B 激活参数量、部署架构，以及在 B200 和 H200 实例上的验证。指南还展示如何使用 aiperf 并发扫描来比较聚合式和解耦式部署，并根据延迟目标规划容量。
并发扫描方法将延迟预算与每个副本的吞吐量关联起来，为部署容量规划提供实用方法，并帮助判断是否需要增加预填充或解码容量。
AWS 提供了一套架构和参考蓝图，用于在 Amazon Bedrock AgentCore 上构建企业级智能体式 AI 平台，将集中治理与彼此隔离、由各团队负责的 Workstream 单元分开。独立的推理网关和工具网关负责管控访问；部署流水线则要求在将版本提升至生产环境之前，完成运行时评估、对抗性边界测试、人工审批，并提供回滚证据。该参考实现面向 eu-west-1（爱尔兰）；其他区域或替换后的组件都需要各自进行验证。
将每项获准操作与一项对抗性拒绝测试配对，可为检查智能体治理控制是否在部署边界上有效提供一种具体方法。
雷锋网介绍了 FluxVLA Engine 的技术报告，探讨 LimX Dynamics 的开源框架如何连接数据、训练、评估、推理和机器人部署。文章介绍了模块化模型集成、推理加速、实时分块（Real-Time Chunking）、轨迹后处理，以及通过 RLinf 实现的在线强化学习。报告中的评估涵盖多种策略和四种实体机器人平台，而随机化布局和长时程任务则揭示了显著的性能差距。文章强调了可复用的工程工作流程，同时指出模型和机器人之间的差异仍需适配。
将推理速度、动作时序和物理运动约束分别考量，可为诊断部署故障提供实用框架，避免把每个机器人问题都归因于模型质量。
Exowatt 使用 Amazon SageMaker AI 无服务器模型定制，对 Qwen3-1.7B 进行微调，用于边缘告警分诊；对 Qwen3-14B 进行微调，用于云端能源市场分析。这两个模型在各自测试中的宏平均 F1 分数分别达到 0.911 和 0.975，超过了报告中的前沿模型基准。其可复用流程结合了精选数据、经核验的改写、微调和评估，支持在边缘设备上离线 CPU 部署；云端推理成本为每 1,000 个回答 0.60 美元，而 Claude Opus 4.7 为 29.26 美元。
该案例展示了一种可迁移的微调工作流：经过核验的改写多样性可以提高任务准确率，而共享训练流程则同时支持离线边缘推理和托管云端部署。
Property Finder 发现，其 96.8% 的评估标签来自现用模型，导致与其他模型的比较存在偏差。团队制作了专家标注并优化提示词，最终选定了 Amazon Bedrock 上的 Llama 4 Maverick 17B Instruct，预计成本降低 86%。在 356 张图像上，Micro F1 达到 0.80，高于现用模型的 0.56；但评估纳入了开发集图像，且各模型的调优投入不同，因此这些分数可能偏乐观。
该案例提供了一种可迁移的评估方法：先用独立的专家标注取代沿用的模型标签，再通过错误分析指导针对特定领域的提示词优化。
Claudio Mazzoni 介绍了在 Amazon Bedrock 上使用 OpenAI 模型时，如何将适用于不断增长的对话的隐式缓存，与用于共享工具和指令的显式断点结合起来。本指南涵盖如何在工具变更、子智能体和会话之间保持缓存复用，以及如何监控缓存读取和写入。在一个包含六轮的 GPT-6 Astra 工作负载中，隐式缓存将输入成本降低了约 62%，而显式滚动断点节省了约 61%。
在追加新上下文的同时保持共享提示前缀稳定，可形成一种可复用于智能体各轮对话、工具变更、辅助调用和会话的缓存模式。
AWS 展示了如何使用 Python AWS CDK 应用，在两个托管式 Amazon Bedrock 知识库中构建智能体检索。该方案通过 AgentCore Gateway 将一个推理智能体连接到独立的金融和天气检索工具，提供带引用的答案、涵盖七个遥测层的两个 CloudWatch 控制面板，以及按需和持续评估。教程涵盖部署、测试、可观测性、评估抽样成本和清理。
将知识库拆分为不同的检索工具，可以让路由决策变得可观测，并使质量指标针对各自的语料库，从而为诊断不同领域之间的检索提供一种实用模式。
OpenAI 介绍了如何加强前沿模型训练与评估的遏制措施，包括离线环境和高算力红队测试。
OpenAI 通过讨论离线环境和高算力红队测试，为前沿模型训练与评估中的遏制措施提供了背景说明。
AWS 提供了一份端到端指南，介绍如何在 Amazon SageMaker AI 上进行多轮强化学习，并使用托管在 Amazon Bedrock AgentCore 上的 Wordle 智能体。训练将 gpt-oss-20b 在留出集上的求解率从 61% 提高到 84%（采用服务配置），训练令牌成本约为 339 美元，运行时用量成本约为 79 美元。该指南涵盖部署、奖励设计、监控、评估以及训练中遇到的失败。
训练验证结果与服务结果之间的差距表明，多轮强化学习评估应与部署设置保持一致，因为解码选项会显著改变测得的成功率。
Microsoft 和 Hugging Face 在 GitHub 上发布了 ThinkingBox-Training，将对数据库最终状态的可执行检查转化为智能体后训练的奖励。在 ThinkingBox-Bench 之外的 187 项任务上进行 50 步 GRPO 训练后，Qwen3.8-27B 的基准测试平均成功率从 51.70% 升至 60.78%，20 次尝试中全部通过的任务从 38 项增至 107 项，而至少成功一次的任务从 453 项降至 446 项。该发布包含任务选择、rollout、奖励和 Verl 集成代码；报告中的训练运行所用私有训练池未包含在内。
选择基础策略有时能够成功的任务，提供了一种可迁移的方法来生成对比鲜明的 RL 奖励，同时减少那些无法带来任务奖励优势的 rollout。
AWS 展示了如何将 AI 代理生成的完整句子流式传输到 Amazon SageMaker AI 上的 Kokoro-82M，从而在完整回复生成之前开始语音合成。在隔离测试中，首次音频字节的平均耗时从 329.3 ms 降至 156.7 ms；通过已部署的 AgentCore 运行时，首次音频速度提升了 3.5 倍。本指南涵盖持久双向会话、二进制 WebSocket 帧，以及涉及 SSE 和 base64 的音频传输权衡。
本指南提供了一种可迁移的模式，用于将文本生成与按句进行的语音合成重叠执行，并说明持久会话和音频分帧如何影响延迟与集成复杂度。
AWS 工程师 Joseph Cottingham 演示了如何根据实测并发限制和扩容时间，为 Kokoro-82M 推导 Amazon SageMaker AI 自动扩缩设置。该演练测得 Q_max=50，并以 p95 首个音频字节时间 3,000 ms 的 SLO 为目标；扩容规划时间为 320.2 秒，其中包括有上限的策略检测延迟。相关工具可推导阈值和冷却时间、检查部署一致性，并指出突发容量余量有限，以及最小实例数为 1 时缩容存在不稳定性。
测量并发限制和扩容时间，提供了一种可迁移的方法来推导对延迟敏感的端点的扩缩阈值和冷却时间，同时揭示了备用容量与服务可靠性之间的权衡。
AWS 提供了一份指南，介绍如何在单台 trn2.48xlarge 上使用 Transformers v5、torchtitan 原生的 Qwen3 实现和 NKI 混合专家内核训练 Qwen3。各项配置采用相同的 torchrun 启动模式和配置结构，并提供了加载和保存 Hugging Face 检查点的示例。指南还演示了自定义内核注册和 autograd 集成，并明确指出该示例旨在展示集成方式，而非提升性能。
本指南提供了一种可复用的模式，通过算子注册、autograd 和配置覆盖来集成自定义训练内核，并在训练前通过数值比较检查正确性。
OpenAI@OpenAI精选68OpenAI models helped researchers—operating as part of our Patch the Planet initiative—discover critical security flaws in PHP, an open-source programming language used to run an estimated 70% of websites. Over the past two months, we led a coalition of maintainers, researchers,
这项技能提供了一种可重复使用的方法，引导网站所有者检查其网站是否受到已报告的 PHP 安全漏洞影响。
本指南介绍如何在 Hugging Face Spaces 中使用 RFD4-Proteina 生成蛋白质设计，并通过命令行、Python 或 Diffusers 继续工作流程。该开放模型由 NVIDIA 与华盛顿大学蛋白质设计研究所共同开发，可根据给定约束同时生成蛋白质序列和全原子结构。本指南以 PD-L1 结合蛋白为例，介绍热点注释、思考设置，以及如何确保结果可复现；确认是否结合仍需进行实验验证。
记录经过注释的分子输入、模型和软件版本、随机种子、采样设置及硬件信息，可形成一种可迁移的方法，帮助在浏览器和编程工作流中复现随机蛋白质设计。
i14 和 AWS 介绍了如何通过 TorchNeuron Native 使用原生 PyTorch，将 Laplace 3B 的线性注意力架构适配到 AWS Trainium2 上进行训练和服务。该模型为每个序列维持固定的 29.5 MB 循环状态，训练速度约为每秒 120,000 个 token，报告的结果覆盖约 440 亿个 token。在单个 trn2.48xlarge 实例上，同时处理 1,280 个序列时，推理速度达到每秒 11,544 个输出 token。
这篇工程实践指南展示了通信模式、算子调度和批次宽度变化如何主导性能，并提供了一套可迁移的分析方法，用于在加速器上部署自定义架构。
