BigCode 发布 StarCoder：15B 参数开源代码大模型
Hugging Face 与 ServiceNow 联合主导的 BigCode 发布 StarCoder 与 StarCoderBase，两个代码大模型基于 GitHub 上许可宽松的数据训练，覆盖 80 多种编程语言，参数量约 15B、训练 1 万亿 token。
推荐理由：官方给出 StarCoder 的参数量、训练数据与 HumanEval 对比表，可据此判断开源代码模型当时的位置。
模型发布
全部主题新模型的发布、开源与迭代：大模型厂商的旗舰更新、开源权重放出、性能与价格变化的第一时间记录。
最新精选
第 201–213 条 · 共 213 条Hugging Face Blog精选AI 评分7878
OpenAI News精选AI 评分9393 OpenAI 发布多模态大模型 GPT-4
OpenAI 发布 GPT-4，称其为扩大深度学习规模的最新里程碑。GPT-4 是一个大型多模态模型，接受图像和文本输入、输出文本，在多项专业和学术基准上达到人类水平表现，但在许多真实场景中能力仍不及人类。
推荐理由：OpenAI 官方给出 GPT-4 的多模态输入形态与基准表现，可据此了解其能力定位。
OpenAI News精选AI 评分8989 OpenAI 发布 GPT-4
OpenAI 发布 GPT-4，可用于创意与技术写作任务。它能在写歌、写剧本等场景中生成、编辑内容，并与用户反复迭代，还能学习用户的写作风格。
推荐理由：官方给出 GPT-4 在创意与技术写作上的生成、编辑与风格学习能力，可据此判断写作类任务的可用边界。
Hugging Face Blog精选AI 评分6262 Kakao Brain 联合 Hugging Face 开源 ViT 与 ALIGN 模型及 COYO 数据集
Kakao Brain 与 Hugging Face 发布开源图文数据集 COYO（7 亿对）以及基于它训练的 ViT 和 ALIGN 模型，这是 ALIGN 模型首次免费开源，也是 ViT 和 ALIGN 首次附带训练数据集发布。
推荐理由：Kakao Brain 把 ViT 与 ALIGN 连同训练数据一起开源，读者可据此判断视觉语言模型复现的门槛变化。
OpenAI News精选AI 评分8888 OpenAI 发布对话式模型 ChatGPT
OpenAI 训练并发布名为 ChatGPT 的模型，以对话方式与用户交互。官方称对话格式使其能回答追问、承认自身错误、质疑错误前提并拒绝不当请求。
推荐理由：OpenAI 官方发布 ChatGPT，说明其对话式交互与追问、纠错、拒绝不当请求等能力。
OpenAI News精选AI 评分7878 OpenAI 开源语音识别模型 Whisper
OpenAI 宣布训练并开源名为 Whisper 的神经网络，称其在英语语音识别上接近人类水平的鲁棒性与准确率。
推荐理由：OpenAI 开源语音识别模型 Whisper，读者可了解其在英语语音识别上的鲁棒性与准确率定位。
Hugging Face Blog精选AI 评分7878 Hugging Face 发布 176B 参数开源多语言模型 BLOOM
Hugging Face 发布 BLOOM，一个 176B 参数的多语言大语言模型，可生成 46 种自然语言和 13 种编程语言的文本，由 70 多个国家 1000 多名研究者协作完成，在法国 Jean Zay 超算上训练 117 天。
推荐理由：BLOOM 以 176B 参数覆盖 46 种自然语言，并公开训练中间检查点，可据此了解开放大模型在透明度上的做法。
OpenAI News精选AI 评分6565 OpenAI 发布 GPT-3 与 Codex 新版本，新增编辑与插入能力
OpenAI 发布 GPT-3 和 Codex 的新版本，可在已有文本中编辑或插入内容，而不再只是续写现有文本。
推荐理由：OpenAI 官方说明 GPT-3 与 Codex 新增编辑和插入能力，可了解其从续写扩展到改写已有文本。
OpenAI News精选AI 评分7878 OpenAI 发布 InstructGPT，成为 API 默认语言模型
OpenAI 训练出比 GPT-3 更能遵循用户意图的语言模型 InstructGPT，同时更真实、毒性更低，采用对齐研究中的人类反馈方法。这些模型现已作为 OpenAI API 的默认语言模型部署。
推荐理由：OpenAI 官方说明 InstructGPT 通过人类反馈训练，在遵循用户意图、真实性和毒性控制上优于 GPT-3，并已成为 API 默认模型。
OpenAI News精选AI 评分8282 OpenAI 发布 CLIP：用自然语言连接文本与图像
OpenAI 发布名为 CLIP 的神经网络，通过自然语言监督高效学习视觉概念。CLIP 只需提供待识别视觉类别的名称，即可应用于任意视觉分类基准，类似 GPT-2 和 GPT-3 的零样本能力。
推荐理由：OpenAI 官方介绍 CLIP 用自然语言监督学习视觉概念，可零样本迁移到任意分类基准。
OpenAI News精选AI 评分8383 OpenAI 发布 DALL·E：从文本生成图像
OpenAI 训练了一个名为 DALL·E 的神经网络，可根据自然语言文本描述生成图像，覆盖自然语言可表达的多种概念。
推荐理由：OpenAI 官方公布 DALL·E，说明其可由自然语言描述生成图像，是文生图方向的早期节点。
OpenAI News精选AI 评分7070 OpenAI 发布 GPT-2 最大版本 1.5B 及代码与模型权重
OpenAI 发布 GPT-2 分阶段发布的最后一个版本，即参数量 1.5B 的最大版本，同时开放代码和模型权重，以便检测 GPT-2 模型的输出。OpenAI 表示，尽管自 8 月以来已有更大的语言模型发布，仍按原定分阶段发布计划推进，为社区提供一个完整分阶段发布流程的测试案例，并希望它对未来强大模型的开发者有用。
推荐理由：OpenAI 按分阶段发布计划放出 GPT-2 最大版本及权重，可作为完整分阶段发布流程的参考案例。
OpenAI News精选AI 评分7676 OpenAI 发布 774M 参数 GPT-2 并公开模型共享协议
OpenAI 发布 774M 参数的 GPT-2 语言模型，此前已先后放出 124M 小模型和 355M 中模型。OpenAI 同时发布一份开源法律协议，便于机构之间建立模型共享合作，并发布技术报告介绍与更广泛 AI 研究社区协调发布规范的经验。
推荐理由：OpenAI 分阶段放出 GPT-2 最大版本，并公开模型共享法律协议，可观察大模型发布节奏与协作机制。