OpenAI 发布 Operator System Card 说明多层安全防护
OpenAI 发布 Operator 的 System Card,介绍其基于既有安全框架的多层防护方式。文档涵盖防提示词工程和越狱、隐私与安全保护的产品与模型层缓解措施,以及外部红队测试、安全评估和持续改进安全措施的工作。
AIHOT 精选理由原文概述了 Operator 在防提示词注入、隐私保护和外部红队测试上的多层安全安排,可帮助读者了解其防护框架。
追踪 AI 更新,查看事件时间线和原始信源;需要做购买决策时,再去比价。
当前公开精选集合,保留来源更正和撤回。最后同步:
OpenAI 发布 Operator 的 System Card,介绍其基于既有安全框架的多层防护方式。文档涵盖防提示词工程和越狱、隐私与安全保护的产品与模型层缓解措施,以及外部红队测试、安全评估和持续改进安全措施的工作。
AIHOT 精选理由原文概述了 Operator 在防提示词注入、隐私保护和外部红队测试上的多层安全安排,可帮助读者了解其防护框架。
AIHOT 精选理由这是OpenRouter在2025年初推出的搜索API,当时让开发者能更方便地在请求中整合实时信息,现在看已经算不上新鲜事,但对当时需要这个功能的人来说还算实用。
LlamaIndex 推出 AgentWorkflow,一个基于其 Workflow 抽象的智能体系统构建与编排框架。它负责智能体间协调、状态维护和实时事件流监控,支持 FunctionAgent 与 ReActAgent 两种类型、全局 Context 状态管理,以及通过 InputRequiredEvent 集成人工审批,官方提供了单智能体和多智能体研究报告系统的代码示例。
AIHOT 精选理由官方介绍了 AgentWorkflow 的多智能体协作、内置状态管理和事件流监控能力,并附可直接运行的代码示例,适合评估是否引入现有 Agent 开发流程。
OpenAI 官网发布公告,宣布 The Stargate Project(星际之门项目)。本次抓取的 feed 仅包含标题,正文细节未提供。
OpenAI 宣布为 Stargate 基础设施项目寻找覆盖数据中心全产业链的合作伙伴,包括电力、土地、建设和设备等环节,以推进其 AGI 基础设施目标。意向企业可通过 openai.com/form/stargate-infrastructure 提交合作意向。
AIHOT 精选理由OpenAI 官方说明 Stargate 的合作伙伴方向,读者可以了解其数据中心基础设施合作覆盖哪些环节。
Modal 宣布 Sandboxes 正式可用,这是安全运行 LLM、用户或第三方来源不可信代码的隔离执行环境。它提供 exec API,可在运行时用与 Functions 相同的 Image API 动态配置任意语言依赖,支持文件系统快照以持久化和多 Sandbox 扇出,并复用 Functions 基础设施带来快速冷启动、GPU 和全球区域选择。
AIHOT 精选理由Modal 官方宣布 Sandboxes 正式可用,给出 exec API、动态镜像和 SWE-bench 7 分钟跑完 Verified 等实测数字,可据此评估智能体代码执行方案。
DeepSeek-R1 发布,性能对标 OpenAI o1 正式版。模型遵循 MIT License 开放 API,训练技术同步公开。
AIHOT 精选理由虽已是旧闻,但 DeepSeek-R1 作为首个开源对齐 o1 的模型,其训练技术至今仍有参考价值,做推理方向的值得回溯。
DeepSeek 推出新模型 DeepSeek-R1,可通过指定 model=deepseek-reasoner 调用。该模型为推理模型,详细更新与调用指南已分别发布。
AIHOT 精选理由R1 的 API 开放让开发者能直接调用推理能力,对需要深度思考的应用是个关键接入点,成本比同类更低。
Claude Platform 版本说明页面列出 Claude API、客户端 SDK 和 Claude Console 的变更,最新在前。
AIHOT 精选理由该页面集中列出 Claude API、SDK 和 Console 的版本变更与破坏性改动,开发者可据此安排迁移和评估新模型价格。
Anthropic可解释性团队分享了稀疏自编码器与交叉编码器训练方法的最新改进。主要更新包括采用JumpReLU激活函数、调整损失函数以增强稀疏性并减少“死特征”,以及详细的参数初始化与优化设置。团队基于Rajamanoharan等人(2024)的技术,但修改了梯度流动方式和稀疏性惩罚项。关键超参数包括λ_S约10、λ_P为3×10⁻⁶,并采用线性预热策略。这些改进旨在为外部研究团队提供一个有效的训练起点,相关成果将在未来几个月内进一步发表。
AIHOT 精选理由为AI可解释性研究者提供实用训练技巧,助力模型透明化。
Aim Labs(Cato)披露 Cursor IDE 的高危漏洞 CurXecute(CVE-2025-54135,评分 8.6),外部托管的一条提示词注入可静默改写 ~/.cursor/mcp. 并以用户权限执行任意命令,实现 RCE。
AIHOT 精选理由原文给出完整的提示词注入到 RCE 攻击链细节和漏洞机理,读者可以据此审视 MCP 类 Agent 的运行时防护。
Answer.AI 团队对 AI 软件工程师 Devin 进行了为期一个月的深度测试。尽管早期在 API 集成等简单任务中表现尚可,但在扩展至新项目创建、研究及代码修改等 20 项真实任务时,结果令人失望:仅 3 项成功,14 项失败,且无法预测成败规律。Devin 常陷入技术死胡同、生成过度复杂的“面条代码”,或在面对不可行任务时产生幻觉并浪费大量时间。文章指出其实际表现远低于宣传预期,难以替代人类开发者。
AIHOT 精选理由来自知名 AI 评测机构的详实一手数据,揭示了明星产品 Devin 在真实工作流中的局限性,为评估当前自主编程 Agent 的实际成熟度提供了重要参考。
ARC Prize 联合创始人宣布将 ARC Prize 升级为 501(c)(3) 非营利基金会,Greg Kamradt 出任主席并加入董事会,目标是让 ARC-AGI 成为衡量 AGI 进展的学术、政策与行业标准。
AIHOT 精选理由官方回顾了 ARC Prize 2024 的参赛与评测数据,并给出 ARC-AGI-2、3 的发布节奏和新基金会架构,读者可据此跟进后续基准演进。
Sam Altman在ChatGPT两周年之际回顾OpenAI九年历程:从坚信AGI可能实现,到2022年意外推出ChatGPT并引爆前所未有的增长曲线。他坦承过去两年从零构建公司的混乱压力,以及被董事会突然解雇的危机教训。如今周活用户已达3亿,在迈向AGI的道路上,他既感激这段经历,也承认未来仍充满未知。
AIHOT 精选理由Sam Altman 反思创业历程,预测 2025 年 AI Agent 将实质性改变企业产出
升级版 Claude 3.5 Sonnet 在软件工程评估基准 SWE-bench Verified 上取得 49% 的解决率,超越此前最佳模型的 45%。该基准通过真实 GitHub 问题测试 AI 模型完成软件工程任务的能力,要求模型在给定环境中理解、修改并测试代码,最终通过原始单元测试验证。Claude 团队构建的智能体设计简洁,仅包含提示词、Bash 工具和编辑工具,赋予模型充分的自主判断空间,以灵活步骤解决问题。目前尚无模型在该基准上突破 50% 的解决率。
AIHOT 精选理由Anthropic 把自家 SWE-bench agent 的 prompt、工具设计和踩坑经验全公开了,做 coding agent 的人可以直接抄作业,比看十篇二手解读都管用。
Hugging Face 推出 smolagents,一个以代码形式编写动作的简单智能体库。原文正文缺失,仅标题可确认发布信息,详情以博客原文为准。
AIHOT 精选理由DeepSeek-V3 是 2024 年底国产模型的一次真正跃迁,首次亮剑就逼近闭源顶尖,开源权重更是直接改变了开发者生态。时隔一年半回头看,它仍是理解 DeepSeek 路径的起点。
xAI 宣布完成 60 亿美元 C 轮融资,资金将用于加速 Grok 等 AI 模型研发及扩建算力基础设施。此次融资进一步推高公司估值,加剧与 OpenAI、Anthropic 等竞争对手在生成式 AI 领域的军备竞赛。
AIHOT 精选理由xAI 完成 60 亿美元 C 轮融资,AI 基础设施竞赛白热化
OpenAI 推出针对 o1 模型的新对齐策略 deliberative alignment,直接教模型安全规范,并让模型在推理过程中对这些规范进行推理,以提升语言模型的安全性。
AIHOT 精选理由OpenAI 自己阐述了 o1 的对齐策略思路,读者可以了解推理能力如何被用于安全规范。
ARC Prize 官方测试报告显示,OpenAI o3 在 ARC-AGI-1 Semi-Private 评测中以 $10k 算力上限取得 75.7%,高算力(172 倍)配置达 87.5%,Public Eval 高算力为 82.8%、低算力为 91.5%。
AIHOT 精选理由ARC Prize 官方第一手测试数据,给出 o3 在 ARC-AGI 各算力档位的得分、成本和机制解读。