OpenAI 发布 Neural MMO:大规模多智能体游戏环境
OpenAI 发布 Neural MMO,一个面向强化学习智能体的大规模多智能体游戏环境,支持在持久、开放式的任务中容纳数量可变的大量智能体。该平台引入多个智能体与物种,带来更好的探索、差异化的生态位形成以及整体能力的提升。
OpenAI 发布 Neural MMO,一个面向强化学习智能体的大规模多智能体游戏环境,支持在持久、开放式的任务中容纳数量可变的大量智能体。该平台引入多个智能体与物种,带来更好的探索、差异化的生态位形成以及整体能力的提升。
OpenAI 于 2 月 2 日举办了首届 Spinning Up 研讨会,这是其新教育计划的一部分。
OpenAI 发表论文指出,长期 AI 安全研究需要社会科学家参与,才能确保 AI 对齐算法在真实人类参与的场景下有效。论文认为,将先进 AI 系统与人类价值观对齐,需要解决人类理性、情绪与偏见等心理学层面的诸多不确定性。OpenAI 计划招聘社会科学家全职投入这一方向,以推动机器学习与社会科学的进一步合作。
OpenAI 首期 Fellows 项目结业,每位学员在 6 个月学徒期内从机器学习初学者成长为 OpenAI 的核心贡献者。
OpenAI 发现梯度噪声尺度这一统计指标能预测神经网络训练在多种任务上的可并行性。由于复杂任务的梯度噪声更大,未来更大的 batch size 可能变得有用,从而消除 AI 系统继续扩展的一项潜在限制。该结果表明神经网络训练并非神秘技艺,而是可以被严谨化和系统化。
OpenAI 发布训练环境 CoinRun,用于衡量智能体将经验迁移到新情境的能力,并已帮助厘清强化学习领域一个长期存在的难题。该环境在复杂度上取得平衡:比《刺猬索尼克》等传统平台游戏更简单,但仍对当前最先进算法构成值得挑战的泛化测试。
OpenAI 发布 Spinning Up in Deep RL,一套面向任何人的深度强化学习教育资源,目标是让人学会成为熟练的深度强化学习实践者。该资源包含清晰的 RL 代码示例、教学练习、文档和教程。
OpenAI 开发了一种基于能量的模型,仅需五次演示即可学会识别并生成以 2D 点集表达的 near、above、between、closest、furthest 等概念。该模型还展现出跨域迁移能力:在 2D 粒子环境中学会的概念可用于解决 3D 物理机器人任务。
OpenAI 提出 Random Network Distillation(RND),一种基于预测的奖励方法,通过好奇心鼓励强化学习智能体探索环境,首次在 Montezuma's Revenge 上超过人类平均水平。
OpenAI 提出一种名为迭代放大(iterated amplification)的 AI 安全技术,通过把任务分解为更简单的子任务来指定超出人类规模的复杂行为与目标,而非依赖标注数据或奖励函数。该构想仍处早期阶段,目前仅在简单的玩具算法领域完成实验,OpenAI 认为它可能成为可扩展的 AI 安全方案。
OpenAI 开放 OpenAI Scholars 2019 申请,这是该项目的第二批,面向代表性不足群体提供 6–10 个津贴与导师指导名额,入选者可全职学习深度学习 3 个月并开源一个项目。
OpenAI 开始接受 2019 年 Fellows 和 Interns 申请,其中 Fellows 为冬季项目、Interns 为夏季项目。申请通道现已开放,具体岗位与截止时间未在公告中说明。
OpenAI Scholars 2018 首届学员已完成该项目并提交最终项目。这是 OpenAI Scholars 的首批学员,项目至此收官。
OpenAI Five 本周在温哥华 The International 上对阵顶尖 Dota 2 选手,两局均告负,但在两局的前 20–35 分钟都保持了较高的取胜机会。
OpenAI Five 在基准测试中以三局两胜击败由 Blitz、Cap、Fogged、Merlini 和 MoonMeander 组成的 99.95 百分位 Dota 玩家队伍,其中四人有过职业 Dota 经历。比赛在直播观众面前进行,同时在线观看人数达 10 万。
推荐理由:OpenAI Five 在公开直播中三局两胜击败 99.95 百分位人类队伍,可据此了解当时 AI 在复杂实时游戏中的表现边界。
OpenAI 训练了一只类人机械手,使其能以空前的灵巧度操作物理物体。该研究来自 OpenAI,原文未披露具体训练方法与技术细节。
OpenAI 首届 Scholars 项目正在进行中,一批经验丰富的软件开发者正转型为机器学习从业者。该项目进展现已对外公开,可随时关注这批学者的学习与实践动态。
OpenAI Five Benchmark 比赛已结束。OpenAI 公布了这场 Dota 2 人机对抗基准赛的结果。
OpenAI 提出可逆生成模型 Glow,采用可逆 1x1 卷积,在简化架构的同时扩展了此前的可逆生成模型工作。该模型能生成逼真的高分辨率图像,支持高效采样,并可发现用于操控数据属性的特征。OpenAI 已发布模型代码和在线可视化工具。
OpenAI 训练智能体仅凭单次人类演示就在 Montezuma's Revenge 上取得 74,500 分的高分,超过此前所有已发表结果。其算法从演示中精心挑选状态出发,让智能体依次游玩一系列游戏,并用 PPO 优化游戏得分来学习,PPO 也是支撑 OpenAI Five 的同一强化学习算法。
推荐理由:OpenAI 用单次人类演示让智能体在 Montezuma's Revenge 上取得 74,500 分,可了解其基于 PPO 的简单方法。
OpenAI 宣布由五个神经网络组成的 OpenAI Five 已开始击败 Dota 2 业余人类队伍。该团队由五个神经网络构成,此次披露仅给出这一结果,未提供更多技术细节。
推荐理由:OpenAI 官方披露五个神经网络组成的 OpenAI Five 已能击败 Dota 2 业余人类队伍,可了解早期多智能体协作的进展。
OpenAI 首届 Retro Contest 已完成,该比赛探索能从前序经验中泛化的算法。
OpenAI 在一系列多样语言任务上取得当时最优结果,方法结合了 Transformer 与无监督预训练,并同步公开这套可扩展、与任务无关的系统。OpenAI 表示,这一结果说明监督学习方法与无监督预训练搭配效果很好,希望推动在更大、更多样数据集上继续探索这一思路。
推荐理由:OpenAI 用 Transformer 加无监督预训练在多项语言任务上取得当时最优结果,并公开了这套与任务无关的系统。
OpenAI 开放 Fellows 2018 秋季班申请,该项目提供为期 6 个月、带薪酬的 AI 研究学徒岗位。
OpenAI 发布强化学习游戏研究平台 Gym Retro 的完整版,公开可用的游戏数量从约 70 款 Atari 游戏和 30 款 Sega 游戏扩展到覆盖多种模拟器的 1000 款以上。OpenAI 同时发布了用于向该平台添加新游戏的工具。
推荐理由:OpenAI 把强化学习游戏平台 Gym Retro 的游戏规模从约百款扩到 1000 款以上,并公开了添加新游戏的工具。
OpenAI 发布一项分析,指出自 2012 年以来最大规模 AI 训练所用算力呈指数增长,翻倍周期为 3.4 个月,而摩尔定律的翻倍周期为 2 年。该指标自 2012 年以来增长超过 300,000 倍,若按 2 年翻倍则仅增长 7 倍。OpenAI 表示算力提升是 AI 进展的关键组成部分,若这一趋势延续,值得为远超当前能力的系统做准备。
推荐理由:OpenAI 用 3.4 个月翻倍这一量化指标,给出 AI 训练算力增速与摩尔定律的对比参照。
OpenAI 提出一种 AI 安全技术,训练智能体就话题相互辩论,由人类判断胜负。该方法旨在借助辩论提升 AI 系统的安全性。
OpenAI 发布实验性元学习方法 Evolved Policy Gradients(EPG),通过进化学习智能体的损失函数,使其能在新任务上快速训练。用 EPG 训练的智能体在测试时可完成训练范围之外的基础任务,例如学会导航到房间中与训练时放置位置相反一侧的物体。
OpenAI 推出 Retro Contest 迁移学习竞赛,用于衡量强化学习算法从既往经验中泛化的能力。竞赛聚焦迁移学习,考察算法能否将先前经验迁移到新任务。
OpenAI 于 3 月 3 日举办首届黑客松,共有 100 名人工智能社区成员参与。
OpenAI 开发出可扩展元学习算法 Reptile,通过反复采样任务、执行随机梯度下降并将初始参数朝该任务最终参数更新。Reptile 是 Shortest Descent 算法在元学习场景的应用,数学上与一阶 MAML 相似,只需对 SGD 或 Adam 等优化器进行黑盒访问,计算效率与性能相近。
OpenAI 推出 Scholars 计划,为来自 underrepresented 群体的个人提供 6–10 份津贴和导师指导,支持其全职学习深度学习 3 个月并开源一个项目。
OpenAI 发布八个模拟机器人环境,以及 Hindsight Experience Replay 的 Baselines 实现,均为过去一年研究开发。这些环境已用于训练可在实体机器人上运行的模型,OpenAI 同时发布了一系列机器人研究课题请求。
OpenAI 将于 3 月 3 日(周六)在旧金山 Mission District 办公室举办一场 hackathon,活动包含演讲环节。
OpenAI 宣布迎来新的捐赠者,并对这些新捐赠者表示欢迎。原文未披露捐赠者身份、捐赠金额或资金用途等具体信息。
OpenAI 与 Future of Humanity Institute、Centre for the Study of Existential Risk、Center for a New American Security。
推荐理由:OpenAI 与多家机构联合预测 AI 被恶意利用的路径,并给出预防与缓解思路。
OpenAI 设计了一种让 AI 互相教学的方法,所选取的示例同时也能被人类理解。该方法会自动挑选最具信息量的示例来教授某个概念,例如用最能描述"狗"这一概念的图像,实验显示它对 AI 教学有效。
OpenAI 构建了一套实体消歧系统,通过神经网络判断一个词是否属于约 100 个自动发现的“类型”(非互斥类别),从而自动确定该词指代哪个对象。
OpenAI 发布 Requests for Research 2.0,公开了 7 个在其研究过程中出现的未解问题。该批次问题面向研究社区征集解法,具体方向与参与方式未在原文中展开。
OpenAI 发布面向块稀疏权重神经网络的高度优化 GPU 内核,按所选稀疏度可比 cuBLAS 或 cuSPARSE 快数个数量级。该内核已用于文本情感分析以及文本和图像生成建模,并取得当时最优结果。