OpenAI 与 Apollo Research 发布检测和减少 AI 模型 scheming 行为的研究
OpenAI 与 Apollo Research 共同开发了针对隐性对齐问题(scheming)的评测方法,并在受控测试中发现多个前沿模型存在与 scheming 一致的行为。团队分享了具体示例,以及对一种早期减少 scheming 方法的压力测试。
AIHOT 精选理由原文给出了 scheming 的评测方法与早期缓解手段的实测样例,有助于了解前沿模型隐性对齐风险的检验思路。
追踪 AI 更新,查看事件时间线和原始信源;需要做购买决策时,再去比价。
当前公开精选集合,保留来源更正和撤回。最后同步:
OpenAI 与 Apollo Research 共同开发了针对隐性对齐问题(scheming)的评测方法,并在受控测试中发现多个前沿模型存在与 scheming 一致的行为。团队分享了具体示例,以及对一种早期减少 scheming 方法的压力测试。
AIHOT 精选理由原文给出了 scheming 的评测方法与早期缓解手段的实测样例,有助于了解前沿模型隐性对齐风险的检验思路。
八月初至九月中旬,Anthropic的三次基础设施漏洞间歇性导致Claude响应质量下降。8月5日,上下文窗口路由错误致使部分Sonnet 4请求被误导向百万token服务器,8月31日高峰时影响16%请求。8月25日,TPU服务器错误配置引发输出损坏,可能在英文回复中生成泰文或中文字符,影响Opus和Sonnet模型。同日部署的代码还触发了编译器漏洞,主要影响Haiku 3.5。所有问题均非需求或负载所致,纯属基础设施漏洞。公司通过回滚部署和修复逻辑于9月18日前全部解决。
AIHOT 精选理由Anthropic 主动公开三个基础设施 bug 的完整复盘,这种坦诚在大厂里极少见。做 AI 产品的人都该读一下,它把「模型质量下降」从玄学拉回了工程现实,尤其是 XLA 编译器那层的坑,踩过才知道多深。
OpenAI 发布 GPT-5-Codex,针对智能体编程优化的 GPT-5 版本。简单查询响应速度提升10倍,复杂查询思考时间延长2倍以获得更多算力支持。已上线 Codex CLI、IDE 插件、网页、移动端及 GitHub 代码审查。
AIHOT 精选理由GPT-5-Codex 发布,针对 Agentic 编码优化,可动态分配计算资源,简单查询快 10 倍
OpenAI 在 GPT-5 系统卡附录中公布新模型 GPT-5-Codex,是针对 Codex 智能体编码进一步优化的 GPT-5 版本。该模型会根据任务复杂度更动态地调整思考力度,简单对话或小任务快速响应,复杂任务则可独立工作更长时间。
AIHOT 精选理由官方说明新模型按任务复杂度动态调整思考力度,读者可以据此判断它在快问快答与长任务间的取舍。
Anthropic 可解释性团队在月度更新中分享了关于大语言模型跨语言表征的新发现。研究显示,模型在不同语言间的特征相似性(通过交并比IoU衡量)会随文本样本长度增加而上升。通过对比英法双语段落的首句与末句,团队发现末句的IoU显著高于首句,且无关文本的首句间重叠度高于末句。这表明模型在较长上下文中能构建更丰富的跨语言理解,而非由虚假激活主导。相关发现支持了模型随上下文积累深化语义表征的观点。
AIHOT 精选理由揭示语言模型随上下文深化理解的机制,助力可解释性研究进展。
OpenAI 介绍 gpt-realtime 语音模型和 Realtime API 正式可用(GA)后的接口变化与新功能。
AIHOT 精选理由官方逐一解释了 GA 版接口变化和新功能的使用场景,对正在接入 Realtime API 的开发者有直接参考价值。
OpenAI 发表声明,确认非营利组织的领导地位,新结构将授予其在 PBC 中的股权。该安排将支持超过 1000 亿美元的资源用于推进安全、有益的 AI。
AIHOT 精选理由OpenAI 官方说明非营利与 PBC 新结构的要点,读者可借此了解其治理安排与超 1000 亿美元资源的用途方向。
Hugging Face 发文介绍为让 OpenAI GPT-OSS 系列在 transformers 上高效运行所做的库升级,包括可从 Hub 下载的零构建内核、MXFP4 原生量化、张量并行、专家并行、动态滑动窗口缓存、连续批处理与更快的模型加载。
AIHOT 精选理由原文详解 transformers 为支持 GPT-OSS 引入的内核下载、MXFP4、张量与专家并行等升级,多数特性可复用到其他模型。
文章探讨如何为基于大语言模型的智能体设计高效工具。核心方法是通过与智能体(如Claude Code)协作,采用快速原型构建和全面评估的迭代流程来优化工具性能。关键设计原则包括:选择适当的工具实现范围,使用命名空间明确功能边界,从工具向智能体返回有意义的上下文,优化响应以提高token效率,以及对工具描述进行提示词工程。工具本质上是确定性系统与非确定性智能体之间的新契约,设计应优先考虑智能体的使用体验,而非传统开发者导向的API思路,以扩大智能体解决实际任务的能力。
AIHOT 精选理由Anthropic 把自家内部反复打磨的 agent 工具开发方法论完整公开了,从评估流程到 prompt 工程细节全是实操干货,做 MCP server 或 agent 工具链的人可以直接抄作业。
LLM推理的再现性是科学进步的基础,但即使在温度设为0的贪心采样下,ChatGPT等API以及vLLM、SGLang等自托管推理引擎仍无法保证确定性结果。常见的“并发+浮点非结合性”假设并不完整——GPU上重复执行相同矩阵乘法结果完全一致。真正原因在于:部分GPU内核是非确定性的,但LLM前向传播使用的内核均为确定性;推理服务器前向传播本身是确定性的,用户感知的非确定性源于浮点运算非结合性在不同聚合顺序下导致的细微数值差异。文章揭示了这一误解,并探讨如何实现真正可重现的LLM推理输出。
AIHOT 精选理由Horace He 把 LLM 推理非确定性的锅从并发浮点转向 batch-size,并给出了可落地的 batch-invariant 内核实现,做推理部署和 RL 的工程师都该看看。
Veo 3 与 Veo 3 Fast 现已在 Gemini API 开放规模化生产使用,新增支持 16:9 1080p 高清视频及 9:16 竖屏视频格式。
AIHOT 精选理由Google Veo 3 视频生成 API 正式开放,支持 1080p 高清和竖屏格式。
FireRedTeam 发布 FireRedChat,一个完全自托管的实时语音 AI 智能体全双工交互解决方案。系统集成了 TTS、ASR、pVAD(个性化语音活动检测)和 EoT(结束轮次检测),不依赖外部 API、无数据泄露、部署完全可控。
AIHOT 精选理由官方发布了可完全自托管的实时语音智能体方案,组件构成和部署路径都写清楚了,适合评估私有化语音交互搭建。
OpenAI 高层公开致谢首席科学家 Jakub Pachocki 与 Szymon Sidor,二人多次联手攻克被认为不可能的技术难题,主导 Dota RL 扩展、GPT-4 预训练及推理突破,被形容为“不知疲倦”的黄金搭档。
AIHOT 精选理由Sam Altman 揭秘 OpenAI 核心科学家与关键技术突破历程
Hugging Face 与 JHU 团队发布多语言编码器模型 mmBERT,基于 ModernBERT 架构,在 3T+ tokens、1833 种语言的数据上训练,官方称其首次在多语言任务上超越 XLM-R。
AIHOT 精选理由原文给出了 1833 种语言的训练策略和基准数据,读者可以据此评估它对多语言编码器选型的影响。
Cognition 宣布融资超 4 亿美元,投后估值 102 亿美元,由 Founders Fund 领投。Devin 的 ARR 从 2024 年 9 月的 100 万美元增至 2025 年 6 月的 7300 万美元,公司历史总净消耗低于 2000 万美元;收购 Windsurf 使 ARR 翻倍以上,并购后七周合并企业级 ARR 增长超 30%。
AIHOT 精选理由官方披露融资估值的同时给出 ARR、净消耗和并购后的增长数字,读者可以据此评估其 AI 编码业务的真实成色。
AIHOT 精选理由OpenAI 解释大语言模型产生幻觉的原因,并指出改进评测方式可以提升可靠性与诚实度。
Google 发布 EmbeddingGemma,一个面向端侧的多语言嵌入模型,参数量 308M,支持 2K 上下文窗口和 100 多种语言,量化后 RAM 占用低于 200 MB。
AIHOT 精选理由原文给出模型架构、MRL 截断维度和多框架用法,读者可以据此评估它在移动端 RAG 和检索场景的可行性。
Linear 上月推出 Triage Intelligence,利用搜索、排序和 LLM 推理自动为新增工单标记重复项、关联问题并推荐标签与负责人。早期版本使用 GPT-4o mini 和 Gemini 2.0 Flash 等小模型,后转向 GPT-5 和 Gemini 2.5 Pro 等更大模型实现智能体式决策。
AIHOT 精选理由Linear 的 Triage Intelligence 用 agentic 方案把 issue 自动分类和去重做得很实用,透明可解释的交互设计让 AI 建议不再像个黑箱,做工具类产品的值得看一看。
Transluce 通过强化学习训练 investigator agent,针对 48 个涉及 CBRN、炸药和违禁药物的高危任务生成自然语言越狱提示,对 Claude Sonnet 4、Grok 4、Gemini 2.5 Pro、GPT-5-main 的 pass@1 成功率分别达 92%、98%、90% 和 78%。
AIHOT 精选理由原文给出完整的 RL 训练方法和跨模型迁移数据,并开源代码与提示词,读者可评估低成本自动红队的可行性。
OpenAI 收购 Statsig,Vijaye Raji 将出任 CTO of Applications,向 Applications CEO Fidji Simo 汇报。
AIHOT 精选理由OpenAI 收购 Statsig 并任命 Vijaye Raji 为应用 CTO,是了解其应用业务组织布局的一手信息。