OpenAI 用能量函数模型学习概念
OpenAI 开发了一种基于能量的模型，仅需五次演示即可学会识别并生成以 2D 点集表达的 near、above、between、closest、furthest 等概念。该模型还展现出跨域迁移能力：在 2D 粒子环境中学会的概念可用于解决 3D 物理机器人任务。
#数据/训练
#数据/训练
今日 1 条OpenAI NewsAI 评分3434
OpenAI News精选AI 评分8282 OpenAI 用无监督学习提升语言理解能力
OpenAI 在一系列多样语言任务上取得当时最优结果，方法结合了 Transformer 与无监督预训练，并同步公开这套可扩展、与任务无关的系统。OpenAI 表示，这一结果说明监督学习方法与无监督预训练搭配效果很好，希望推动在更大、更多样数据集上继续探索这一思路。
推荐理由：OpenAI 用 Transformer 加无监督预训练在多项语言任务上取得当时最优结果，并公开了这套与任务无关的系统。
OpenAI News精选AI 评分7575 OpenAI 分析：2012 年以来最大 AI 训练算力每 3.4 个月翻倍
OpenAI 发布一项分析，指出自 2012 年以来最大规模 AI 训练所用算力呈指数增长，翻倍周期为 3.4 个月，而摩尔定律的翻倍周期为 2 年。该指标自 2012 年以来增长超过 300,000 倍，若按 2 年翻倍则仅增长 7 倍。OpenAI 表示算力提升是 AI 进展的关键组成部分，若这一趋势延续，值得为远超当前能力的系统做准备。
推荐理由：OpenAI 用 3.4 个月翻倍这一量化指标，给出 AI 训练算力增速与摩尔定律的对比参照。
OpenAI NewsAI 评分2626 OpenAI 发布 Evolved Policy Gradients 元学习方法
OpenAI 发布实验性元学习方法 Evolved Policy Gradients（EPG），通过进化学习智能体的损失函数，使其能在新任务上快速训练。用 EPG 训练的智能体在测试时可完成训练范围之外的基础任务，例如学会导航到房间中与训练时放置位置相反一侧的物体。
OpenAI NewsAI 评分2020 OpenAI 启动 Retro Contest 迁移学习竞赛
OpenAI 推出 Retro Contest 迁移学习竞赛，用于衡量强化学习算法从既往经验中泛化的能力。竞赛聚焦迁移学习，考察算法能否将先前经验迁移到新任务。
OpenAI NewsAI 评分3434 OpenAI 提出通过教学实现可解释机器学习的方法
OpenAI 设计了一种让 AI 互相教学的方法，所选取的示例同时也能被人类理解。该方法会自动挑选最具信息量的示例来教授某个概念，例如用最能描述"狗"这一概念的图像，实验显示它对 AI 教学有效。
OpenAI NewsAI 评分2222 OpenAI 用神经网络自动发现类型实现实体消歧
OpenAI 构建了一套实体消歧系统，通过神经网络判断一个词是否属于约 100 个自动发现的“类型”（非互斥类别），从而自动确定该词指代哪个对象。
OpenAI NewsAI 评分2020 OpenAI 发布块稀疏 GPU 内核
OpenAI 发布面向块稀疏权重神经网络的高度优化 GPU 内核，按所选稀疏度可比 cuBLAS 或 cuSPARSE 快数个数量级。该内核已用于文本情感分析以及文本和图像生成建模，并取得当时最优结果。
OpenAI NewsAI 评分3030 OpenAI 研究：元学习让机器人摔跤手快速击败更强对手
OpenAI 展示，在模拟机器人摔跤任务中，元学习智能体能够快速击败更强的非元学习智能体，并能适应物理故障。
OpenAI News精选AI 评分6262 OpenAI 发现自博弈让模拟 AI 自行学会身体技能
OpenAI 发现自博弈能让模拟 AI 自行发现擒抱、闪避、假动作、踢球、接球和扑球等身体技能，而无需在设计环境时预先考虑这些技能。自博弈还能让环境难度始终与 AI 的当前水平相匹配。结合此前的 Dota 2 自博弈结果，OpenAI 表示越来越相信自博弈将成为未来强大 AI 系统的核心组成部分。
推荐理由：OpenAI 用自博弈让模拟 AI 自行涌现出擒抱、假动作等身体技能，可与 Dota 2 结果对照理解自博弈的训练思路。
OpenAI NewsAI 评分4242 OpenAI 用参数噪声改进强化学习探索
OpenAI 发现向强化学习算法的参数中加入自适应噪声，往往能提升性能。这种探索方法实现简单，且极少导致性能下降，因此值得在任何问题上尝试。
OpenAI News精选AI 评分6262 OpenAI 开源 Baselines 项目，首批发布 DQN 及三个变体
OpenAI 开源内部项目 OpenAI Baselines，目标是以与已发表结果相当的性能复现强化学习算法。算法将在未来数月内陆续发布，今天的首批发布包含 DQN 及其三个变体。
推荐理由：OpenAI 开源内部复现强化学习算法的 Baselines 项目，首批放出 DQN 及其三个变体，可了解其复现思路与后续发布节奏。
OpenAI NewsAI 评分5050 OpenAI 无监督情感神经元：仅预测下一字符即可学到情感表征
OpenAI 开发了一个无监督系统，仅通过预测 Amazon 评论文本中的下一个字符进行训练，却学到了出色的情感表征。该系统由此形成了可解释的"情感神经元"，无需任何情感标注数据。
OpenAI NewsAI 评分5050 OpenAI 研究：进化策略可作为强化学习的可扩展替代方案
OpenAI 发现，已有数十年历史的进化策略（ES）在现代强化学习基准（如 Atari/MuJoCo）上性能可与标准强化学习（RL）相媲美，同时规避了 RL 的诸多不便。该研究将 ES 定位为强化学习的一种可扩展替代方案。
OpenAI NewsAI 评分1212 OpenAI 谈深度学习基础设施
深度学习是一门经验科学，团队基础设施的质量是进展的倍增器。OpenAI 指出，如今的开源生态让任何人都能搭建出色的深度学习基础设施。
OpenAI NewsAI 评分2020 OpenAI 谈生成模型：四个项目与生成模型的现状与未来
OpenAI 介绍了四个围绕生成模型的项目，生成模型是机器学习中无监督学习技术的一个分支。文章同时解释了生成模型是什么、为何重要，以及它们可能的发展方向。