OpenAI 发布 GPT-2 最大版本 1.5B 参数模型及代码与权重
OpenAI 发布 GPT-2 分阶段发布的最终版本,即 1.5B 参数的最大版本,同时公开代码和模型权重以帮助检测 GPT-2 模型的输出。OpenAI 表示自 8 月以来已有更大的语言模型发布,但坚持按原计划完成分阶段发布,为社区提供一个完整的分阶段发布流程案例,并继续与 AI 社区探讨负责任发布。
AIHOT 精选理由OpenAI 以完整分阶段发布作为案例放出 1.5B 版本,读者可借此了解负责任发布的实际过程。
追踪 AI 更新,查看事件时间线和原始信源;需要做购买决策时,再去比价。
当前公开精选集合,保留来源更正和撤回。最后同步:
OpenAI 发布 GPT-2 分阶段发布的最终版本,即 1.5B 参数的最大版本,同时公开代码和模型权重以帮助检测 GPT-2 模型的输出。OpenAI 表示自 8 月以来已有更大的语言模型发布,但坚持按原计划完成分阶段发布,为社区提供一个完整的分阶段发布流程案例,并继续与 AI 社区探讨负责任发布。
AIHOT 精选理由OpenAI 以完整分阶段发布作为案例放出 1.5B 版本,读者可借此了解负责任发布的实际过程。
OpenAI 训练了一对神经网络,用类人机器手还原魔方。神经网络完全在仿真环境中训练,使用与 OpenAI Five 相同的强化学习代码,并配合一种名为 Automatic Domain Randomization(ADR)的新技术。系统能应对训练中从未见过的情况,例如被长颈鹿玩偶戳碰,说明强化学习不只能用于虚拟任务,也能解决需要极高灵巧度的现实世界问题。
AIHOT 精选理由原文说明了 ADR 方法与全仿真训练思路,可帮助读者理解强化学习从虚拟任务走向真实机械手操作的技术路径。
OpenAI 用人类反馈微调 774M 参数 GPT-2,在多项任务上匹配了外部标注者的偏好。摘要任务用了 6 万条人工标注,风格续写等较简单任务只需 5 千条;标注者偏好摘要整句照抄原文,导致模型学会照抄。OpenAI 表示此举意在让安全技术更接近'机器与人对话'这一通用任务。
AIHOT 精选理由原文给出人类偏好微调 GPT-2 的任务结果与标注成本,并暴露标注偏好与作者意图不一致的问题。
OpenAI 报告在新构建的模拟躲猫猫环境中,智能体通过多智能体对抗训练自发学会逐步复杂的工具使用。智能体形成了六种不同的策略与反策略,其中一些是团队事先不知道环境支持的。作者认为这种自监督涌现的复杂性表明,多智能体共同适应未来可能产生极复杂且智能的行为。
AIHOT 精选理由原文记录了多智能体在躲猫猫环境中自发形成的六种策略与反策略,可帮助读者理解多智能体协同如何催生复杂行为。
进化策略是一种在目标函数解析形式未知或无法直接计算梯度时,用于优化模型参数的黑箱优化算法。它作为随机梯度下降的替代方案,适用于多种优化场景。文章介绍了模拟退火、爬山法、Nelder-Mead方法等经典进化策略,并探讨了该方法在深度强化学习中的应用。通过评估目标函数值而非依赖梯度信息,进化策略为复杂优化问题提供了有效路径。
AIHOT 精选理由这篇五年前的进化策略入门,至今仍是理解黑箱优化的最佳起点,Lilian Weng的笔法清晰,做RL的朋友可以当字典翻。
OpenAI 发布 774M 参数的 GPT-2 语言模型,此前已于 2 月发布 124M 小型版、5 月分阶段发布 355M 中型版,并与合作伙伴及 AI 社区研究了模型的滥用风险与社会效益。同时发布一份开源法律协议以便组织间建立模型共享合作,并发布关于与 AI 研究社区协调发布规范经验的技术报告。
AIHOT 精选理由原文交代了 GPT-2 分阶段发布策略的推进节奏,并附带模型共享法律协议与发布规范报告,可了解负责任发布实践。
Microsoft 向 OpenAI 投资 10 亿美元,支持其构建具有广泛分配经济收益的 AGI。双方将在 Microsoft Azure 内共同开发可扩展至 AGI 的软硬件平台和新的 Azure AI 超算技术,Microsoft 将成为 OpenAI 的独家云服务商。
AIHOT 精选理由OpenAI 官方说明这笔 10 亿美元投资的具体用途和合作范围,可了解双方在 Azure 上共建 AGI 平台的安排。
OpenAI Five 在周末的决赛中连赢两局击败 Dota 2 世界冠军战队 OG,成为首个战胜电竞世界冠军的 AI,也是 AI 首次在直播比赛中战胜电竞职业选手。此前 OpenAI Five 与 DeepMind 的 AlphaStar 都曾在私下对局中战胜优秀职业选手,但在公开职业比赛中落败。
AIHOT 精选理由原文记录了 AI 首次在公开直播比赛中击败电竞世界冠军的节点,并交代了与此前私下对局结果的对比背景。
OpenAI 发布 Spinning Up in Deep RL,一套旨在让任何人学会成为深度强化学习熟练从业者的教育材料。资源包含清晰的 RL 代码示例、教育性练习、文档和教程。
AIHOT 精选理由OpenAI 自家发布的深度强化学习教育资源,代码示例、练习和教程齐全,适合想系统入门深度 RL 的开发者按图索骥。
OpenAI Five 本周在温哥华 The International 2018 上与顶级 Dota 2 选手对战两场皆负,但两局前 20-35 分钟都保持较大获胜机会。
AIHOT 精选理由OpenAI 官方复盘 OpenAI Five 在 The International 的两场失利,指出前期 20-35 分钟保持优势这一具体表现。
OpenAI Five 在三局两胜的比赛中战胜由 Blitz、Cap、Fogged、Merlini 和 MoonMeander 组成的队伍,其中四人曾打过职业 Dota。比赛面向现场观众并有 10 万人同时在线观看直播。
AIHOT 精选理由原文记录了 OpenAI Five 击败高分段 Dota 战队的比赛结果,可作为 AI 在复杂即时对战场景进展的早期事件参考。
OpenAI 训练的智能体仅从单条人类演示出发,在 Montezuma's Revenge 上取得 74500 分的高分,超过此前已发表的最好结果。算法做法是从演示中精心挑选的状态开始连续游戏,使用 PPO 优化游戏得分进行学习,PPO 也是支撑 OpenAI Five 的同一强化学习算法。
AIHOT 精选理由原文说明从单条人类演示中选取起始状态再用 PPO 优化得分的算法思路,读者可以理解这一强化学习方法的可迁移做法。
OpenAI 用结合 Transformer 与无监督预训练的通用、任务无关系统,在多项语言任务上取得 SOTA 结果,并开源发布该系统。OpenAI 表示这一结果验证了监督学习与无监督预训练结合的有效性,希望推动在更大、更多样数据集上的后续研究。
AIHOT 精选理由原文说明了方法组合与开放发布,读者可以据此理解无监督预训练思路在多项语言任务上的效果。
OpenAI 发布分析,显示自 2012 年以来最大 AI 训练所用算力以 3.4 个月翻倍的速度指数增长,远超摩尔定律 2 年的翻倍周期。该指标累计增长超过 300,000 倍,而 2 年翻倍同期只带来 7 倍增长。文中指出算力提升是 AI 进展的关键组成,若趋势延续,需为远超当今系统能力的影响做好准备。
AIHOT 精选理由OpenAI 用自己的分析给出 2012 年以来最大 AI 训练算力 3.4 个月翻倍、增长超 30 万倍的数据,读者可据此对照摩尔定律理解算力趋势。
该文章系统梳理了策略梯度算法的发展脉络,深入解析其工作原理,并详细介绍了从基础到前沿的多种算法,包括PPO、SAC、TD3、IMPALA等主流方法。文章自2018年起持续更新,陆续新增了D4PG、SVPG、PPG等新算法,并补充了关于PPO的最新讨论。文中还提供了韩语及中文等多个语言版本的翻译,便于不同读者参考。
AIHOT 精选理由这篇是当年策略梯度方法的“圣经”级综述,现在看虽然有些过时,但想理解PPO、SAC的来龙去脉还得从这儿啃起。
OpenAI 联合 Future of Humanity Institute、Centre for the Study of Existential Risk。
AIHOT 精选理由OpenAI 与多家机构联合发布预测 AI 恶意用途的论文,为理解 AI 安全威胁和防范思路提供了系统性参考。
人类与机器的"融合"并非未来奇点,而是已悄然开始数年的渐进过程。智能手机、社交媒体算法和搜索引擎已在控制人类行为与思维,我们正与AI进入共同进化阶段:AI影响人类,人类改进AI。随着算力和AI人才呈双指数级增长,超级智能与脑机接口将比预期更快到来。与其对抗或被淘汰,深度融合或许是避免物种冲突的最佳路径,但全球需立即开始严肃协调应对。
AIHOT 精选理由Sam Altman 经典长文阐述人机融合已启动,AGI 时代需全球协调应对
OpenAI 表示其 Dota 2 结果显示,在足够算力下自我博弈(self-play)可让机器学习系统从远低于人类水平跃升到超人水平。该系统在一个月内从勉强匹敌高分段选手进步到击败顶级职业选手,此后仍在继续提升;自我博弈系统中的数据会随智能体变强而自动改善,不受监督深度学习训练数据集质量上限的约束。
AIHOT 精选理由OpenAI 借 Dota 2 结果说明自我博弈为何能突破监督学习的数据上限,对理解强化学习路线有参考价值。
OpenAI 打造出一个在标准赛事规则下、Dota 2 1v1 比赛中战胜世界顶尖职业选手的 bot。该 bot 通过自我对弈从零学会游戏,不使用模仿学习或树搜索,OpenAI 称这是迈向在涉及真实人类的复杂场景中达成明确目标的 AI 系统的一步。
AIHOT 精选理由原文说明 bot 从零自学习、不用模仿学习和树搜索,读者可据此理解其在复杂真实环境中的方法论意义。
OpenAI 发布一类新的强化学习算法 Proximal Policy Optimization(PPO),性能与当时最先进方法相当或更好,同时实现和调参更简单。因易用且表现良好,PPO 已成为 OpenAI 内部默认的强化学习算法。
AIHOT 精选理由OpenAI 官方宣布 PPO 算法开源,并说明其成为内部默认强化学习算法的原因,可帮助读者了解该方法的定位。