使用 CLIPSeg 进行零样本图像分割
Hugging Face 发布指南，介绍如何通过 transformers 使用零样本图像分割模型 CLIPSeg。该模型基于冻结的 CLIP 加 Transformer 解码器，在 PhraseCut 数据集（超 34 万条短语）上训练，支持文本或图像作为提示词，输出 352 x 352 像素的粗略分割掩码，可用于机器人感知、图像修复等任务，并可在 Segments.ai 上进一步精修。
#OpenAI
#OpenAI
今日 1 条Hugging Face BlogAI 评分4040
OpenAI News精选AI 评分6262 OpenAI 发布 Point-E：从复杂提示词生成 3D 点云
OpenAI 发布 Point-E，一个可根据复杂提示词生成 3D 点云的系统。
Hugging Face Blog精选AI 评分6262 图解 RLHF：从预训练、奖励模型到 PPO 微调
Hugging Face 博客图解 RLHF 的完整流程，将其拆为预训练语言模型、收集人类偏好数据训练奖励模型、用 PPO 微调语言模型三个核心步骤。
推荐理由：把 RLHF 拆成预训练、奖励模型、PPO 微调三步，并梳理了 TRL、TRLX、RL4LMs 等开源工具与主要论文，便于建立整体认识。
OpenAI NewsAI 评分1010 OpenAI 超算团队工程师 Christian Gibson 谈后端系统细节
OpenAI 超算团队工程师 Christian Gibson 分享了对后端系统细节的探索。他隶属于 OpenAI 的 Supercomputing 团队。
OpenAI News精选AI 评分8888 OpenAI 发布对话式模型 ChatGPT
OpenAI 训练并发布名为 ChatGPT 的模型，以对话方式与用户交互。官方称对话格式使其能回答追问、承认自身错误、质疑错误前提并拒绝不当请求。
推荐理由：OpenAI 官方发布 ChatGPT，说明其对话式交互与追问、纠错、拒绝不当请求等能力。
OpenAI News精选AI 评分6262 OpenAI 的 DALL·E API 进入公开测试
OpenAI 宣布 DALL·E API 即日起开放公开测试，开发者可以开始用它构建应用。原文未披露具体定价、调用限制或可用模型版本。
推荐理由：OpenAI 官方开放 DALL·E API 公测，开发者可据此判断图像生成能力接入自家应用的门槛变化。
Hugging Face Blog精选AI 评分6262 用 Transformers 微调 Whisper 实现多语言 ASR
Hugging Face 发布教程，逐步讲解如何用 Transformers 在任意多语言 ASR 数据集上微调 Whisper，涵盖模型原理、Common Voice 数据准备、特征提取器与 tokenizer 配置、训练评估和 Gradio 演示。
推荐理由：完整给出用 Transformers 微调 Whisper 的代码流程，并以 8 小时印地语数据把 WER 从 63.5% 降到 32.0% 作为可参照结果。
OpenAI News精选AI 评分7878 OpenAI 宣布 DALL·E 取消等待名单，新用户可直接使用
OpenAI 宣布 DALL·E 不再需要等待名单，新用户可以直接开始创作。官方表示，部署中积累的经验以及对安全系统的改进，使更广泛的开放成为可能。
推荐理由：OpenAI 官方说明 DALL·E 取消等待名单，并交代安全系统改进是放开可用性的前提。
OpenAI News精选AI 评分7878 OpenAI 开源语音识别模型 Whisper
OpenAI 宣布训练并开源名为 Whisper 的神经网络，称其在英语语音识别上接近人类水平的鲁棒性与准确率。
推荐理由：OpenAI 开源语音识别模型 Whisper，读者可了解其在英语语音识别上的鲁棒性与准确率定位。
OpenAI NewsAI 评分3535 OpenAI 的对齐研究思路
OpenAI 正在提升 AI 系统从人类反馈中学习、并协助人类评估 AI 的能力，目标是构建一个足够对齐的 AI 系统，再由它帮助解决其余所有对齐问题。
OpenAI NewsAI 评分4242 OpenAI 推出新版内容审核工具 Moderation 端点
OpenAI 发布新版内容审核工具 Moderation 端点，改进此前的内容过滤器，即日起免费向 OpenAI API 开发者开放。
OpenAI News精选AI 评分8888 OpenAI 开放 DALL·E 测试版，将邀请 100 万候补用户
OpenAI 宣布 DALL·E 进入测试版，将在未来几周从候补名单中邀请 100 万人使用。用户可用每月重置的免费积分生成图像，也可按 115 次生成 15 美元的价格购买额外积分。
推荐理由：OpenAI 公布 DALL·E 测试版开放规模与积分定价，可据此了解早期图像生成产品的使用门槛。
OpenAI NewsAI 评分4242 OpenAI 改进 DALL·E 2：减少偏见并提升安全性
OpenAI 为 DALL·E 2 部署了一项新技术，使其生成的人物图像能更准确地反映世界人口的多样性，以减少偏见并提升安全性。
OpenAI News精选AI 评分6262 OpenAI 公布 DALL·E 2 研究预览：超 3000 名艺术家接入创作流程
OpenAI 公布 DALL·E 2 研究预览进展，来自 118 个以上国家的 3000 多名艺术家已将 DALL·E 纳入自己的创作流程。OpenAI 表示，早期访问组的艺术家帮助发现了 DALL·E 的新用途，并在其决定 DALL·E 功能时提供了关键意见。
推荐理由：官方披露 DALL·E 2 研究预览的艺术家使用规模，可了解早期创作者如何把它接入创作流程。
OpenAI NewsAI 评分4242 DALL·E 2 的预训练缓解措施
为向更广泛受众开放 DALL·E 2，OpenAI 在预训练阶段采取缓解措施，以降低强大图像生成模型带来的风险。为此，OpenAI 设置了多种防护栏，防止生成图像违反其内容政策。
OpenAI News精选AI 评分7171 OpenAI 用 Video PreTraining 训练神经网络玩 Minecraft
OpenAI 提出 Video PreTraining（VPT），在大量无标注的人类 Minecraft 游戏视频上训练神经网络，仅使用少量标注的承包商数据。经微调后，模型能学会制作钻石工具，这一任务通常需要熟练人类花费 20 分钟以上、约 24000 次操作。模型使用键盘按键和鼠标移动的原生人类接口，具有较强通用性，是迈向通用计算机操作智能体的一步。
推荐理由：OpenAI 用大量无标注人类游戏视频预训练网络，展示从少量标注数据到通用计算机操作智能体的路径。
OpenAI News精选AI 评分6262 OpenAI 训练批评写作模型帮助人类发现摘要缺陷
OpenAI 训练了批评写作模型，用于描述摘要中的缺陷。人类评估者在看到模型批评后，发现摘要缺陷的频率明显提高。研究还显示，模型越大自我批评能力越强，规模对批评写作的提升大于对摘要写作的提升，这为用 AI 系统辅助人类监督 AI 系统提供了可能。
推荐理由：OpenAI 用自训练模型写批评来辅助人类发现摘要缺陷，并给出模型规模与批评能力的关系。
OpenAI NewsAI 评分2626 训练大型神经网络的技术
大型神经网络是近期许多 AI 进展的核心，但训练它们是一项艰巨的工程与研究挑战，需要协调一整个 GPU 集群来完成单次同步计算。
OpenAI NewsAI 评分2222 OpenAI、Cohere 与 AI21 Labs 发布大语言模型部署最佳实践
Cohere、OpenAI 和 AI21 Labs 共同制定了一套初步的大语言模型最佳实践，适用于任何开发或部署大语言模型的组织。
OpenAI NewsAI 评分3535 OpenAI Codex 通过 API 为 70 款应用提供支持
OpenAI Codex 现已通过 OpenAI API 为 70 款不同应用提供支持，覆盖多种使用场景。
OpenAI News精选AI 评分6767 OpenAI 更新 DALL·E 2 研究预览，每周新增最多 1000 名候补用户
OpenAI 更新 DALL·E 2 研究预览进展，早期用户迄今已生成超过 300 万张图像，并帮助改进了安全流程。OpenAI 表示将开始每周从候补名单中新增最多 1000 名用户。
推荐理由：官方披露 DALL·E 2 研究预览的早期使用规模与每周放量节奏，可了解其安全流程的迭代方式。
OpenAI NewsAI 评分2222 OpenAI 领导团队人事调整
OpenAI 宣布多项高管职位变动，称此次调整反映了公司近期进展，并将确保继续推进下一阶段重大里程碑。
OpenAI NewsAI 评分2424 OpenAI 如何衡量 Goodhart 定律
OpenAI 探讨了 Goodhart 定律在 AI 目标优化中的体现：当一个度量指标变成目标时，它就不再是好的度量。OpenAI 指出，在优化难以衡量或衡量成本高昂的目标时，必须应对这一问题。
OpenAI News精选AI 评分6565 OpenAI 发布 GPT-3 与 Codex 新版本，新增编辑与插入能力
OpenAI 发布 GPT-3 和 Codex 的新版本，可在已有文本中编辑或插入内容，而不再只是续写现有文本。
推荐理由：OpenAI 官方说明 GPT-3 与 Codex 新增编辑和插入能力，可了解其从续写扩展到改写已有文本。
OpenAI NewsAI 评分2626 OpenAI 分享语言模型安全与滥用问题的经验教训
OpenAI 分享了在已部署模型的安全与滥用问题上的最新思考，希望帮助其他 AI 开发者应对同类问题。
OpenAI NewsAI 评分1515 OpenAI 征集大语言模型经济影响研究意向
OpenAI 发起意向征集，邀请研究者申请参与大语言模型经济影响的研究。该征集面向有意研究 LLM 经济影响的各方，具体参与方式和研究范围尚未在文中披露。
OpenAI News精选AI 评分7575 OpenAI 构建 Lean 神经定理证明器，求解部分形式化数学奥赛题
OpenAI 构建了一个面向 Lean 的神经定理证明器，能够求解多道高难度高中数学奥赛题，包括来自 AMC12 和 AIME 竞赛的题目，以及两道改编自 IMO 的问题。
推荐理由：OpenAI 用神经网络定理证明器在 Lean 中求解 AMC12、AIME 及两道 IMO 改编题，可了解形式化数学推理的早期进展。
OpenAI News精选AI 评分7878 OpenAI 发布 InstructGPT，成为 API 默认语言模型
OpenAI 训练出比 GPT-3 更能遵循用户意图的语言模型 InstructGPT，同时更真实、毒性更低，采用对齐研究中的人类反馈方法。这些模型现已作为 OpenAI API 的默认语言模型部署。
推荐理由：OpenAI 官方说明 InstructGPT 通过人类反馈训练，在遵循用户意图、真实性和毒性控制上优于 GPT-3，并已成为 API 默认模型。
OpenAI News精选AI 评分6060 OpenAI API 新增 text and code embeddings 端点
OpenAI 在 API 中推出 embeddings 新端点，用于自然语言和代码任务。该端点支持语义搜索、聚类、主题建模和分类等场景。
推荐理由：OpenAI 在 API 中新增 embeddings 端点，读者可了解它支持语义搜索、聚类、主题建模与分类等任务。
OpenAI News精选AI 评分6262 OpenAI 发布 WebGPT：通过网页浏览提升语言模型事实准确率
OpenAI 对 GPT-3 进行微调，使其能借助基于文本的网页浏览器更准确地回答开放式问题。该工作名为 WebGPT，目标是提升语言模型回答的事实准确率。
推荐理由：OpenAI 用文本浏览器微调 GPT-3 提升开放问答事实准确率，可了解早期联网检索思路。
OpenAI NewsAI 评分5050 OpenAI 推出 GPT-3 微调功能：一条命令即可定制
OpenAI 为 GPT-3 推出微调功能，开发者用一条命令即可针对自己的应用定制模型。该功能面向应用场景的个性化需求，降低了定制 GPT-3 的操作门槛。
OpenAI NewsAI 评分2222 OpenAI 推出 Residency 人才培养项目
OpenAI 宣布推出 OpenAI Residency，作为其支持和培养 AI 人才努力的一部分。该项目面向 AI 人才发展，具体申请条件、时间安排与名额等细节未在公告中披露。
OpenAI News精选AI 评分6767 OpenAI API 取消等待名单，全面开放
OpenAI 宣布其 API 不再需要等待名单即可使用，官方称更广泛的可用性得益于安全方面的进展。
推荐理由：OpenAI 官方宣布 API 取消等待名单，读者可据此了解其开放范围与安全进展的关系。
OpenAI News精选AI 评分7070 OpenAI 训练系统解小学数学应用题，准确率约为微调 GPT-3 的两倍
OpenAI 训练了一个求解小学数学应用题的系统，准确率接近微调 GPT-3 模型的两倍。该系统解出的题目数量约为真实儿童的 90%：在一组来自其数据集的测试题上，9-12 岁儿童小样本得分 60%，该系统在同一批题目上得分 55%。
推荐理由：OpenAI 用小学数学应用题对比自家系统与微调 GPT-3 及 9-12 岁儿童的成绩，可看推理能力当时的水平参照。
Hugging Face BlogAI 评分2222 用遥感（卫星）图像与描述文本微调 CLIP
一个分布式团队用 RSICD、UCM 和 Sydney 三个遥感数据集对 OpenAI 的 CLIP 进行微调，使其能按文本描述检索卫星图像。训练采用对比学习，并配合图像增强与基于 Marian MT 回译的文本增强来抑制过拟合。微调后的模型已开放下载，并提供在线 demo 供试用。
OpenAI NewsAI 评分5858 OpenAI 用人类反馈总结书籍
OpenAI 发布文章介绍用人类反馈总结书籍，目标是扩展人类对 AI 系统在难以评估任务上的监督。材料仅提供摘要，未给出具体方法、数据或结果细节。
OpenAI NewsAI 评分1818 Helen Toner 加入 OpenAI 董事会
OpenAI 宣布任命 Helen Toner 为董事会成员。Helen Toner 此前任职于 Georgetown 安全与新兴技术中心（CSET），长期研究 AI 政策与治理。
OpenAI News精选AI 评分6262 OpenAI 发布 Triton 1.0：面向神经网络的 GPU 编程语言
OpenAI 发布 Triton 1.0，这是一门开源的类 Python 编程语言，让没有 CUDA 经验的研究者也能编写高效的 GPU 代码，多数情况下能达到专家水准。Triton 1.0 以开源形式发布。
推荐理由：OpenAI 官方发布 Triton 1.0，说明无 CUDA 经验的研究者也能写出接近专家水平的 GPU 代码。
OpenAI NewsAI 评分3636 OpenAI 研究：用精选数据集微调可改善语言模型行为
OpenAI 研究发现，通过在小型精选数据集上微调，可以改善语言模型在特定行为价值观方面的表现。
OpenAI NewsAI 评分2222 OpenAI Scholars 2021 毕业项目发布
OpenAI 宣布 2021 届 OpenAI Scholars 已完成为期六个月的导师计划，并在 OpenAI 提供的津贴与支持下完成了开源研究项目。