OpenAI 安全与安保实践更新
OpenAI 发布安全与安保实践更新。原文未披露具体措施、模型版本或时间表等细节。
全部AI 动态
全部动态
今日 29 条OpenAI NewsAI 评分1717
Hugging Face BlogAI 评分2222 Hugging Face 与 TruffleHog 合作，为平台仓库扫描密钥泄露
Hugging Face 宣布与 Truffle Security 合作，将开源密钥扫描工具 TruffleHog 集成进平台。其自动化扫描流水线现包含恶意软件、pickle 文件和密钥三类扫描，每次推送都会用 trufflehog filesystem 命令检查新增或修改文件，发现已验证密钥即邮件通知用户。
OpenAI NewsAI 评分2929 亚利桑那州立大学全校采用 ChatGPT 推进个性化教育
亚利桑那州立大学与 OpenAI 合作，在全校范围引入 ChatGPT，用于个性化学习、推进科研并帮助学生适应未来。该校将 ChatGPT 融入教学与研究场景，探索 AI 在高等教育中的落地方式。
OpenAI NewsAI 评分2222 OpenAI 如何助力 Upwork 将 AI 投入实际工作
Upwork 正将 AI 用于团队协作、运营和产品开发。OpenAI 与 Upwork 合作，把 AI 融入其内部工作流程与产品能力建设。
OpenAI NewsAI 评分4242 Zico Kolter 加入 OpenAI 董事会
Zico Kolter 加入 OpenAI 董事会，其在 AI 安全与对齐领域的专业能力将用于强化公司治理。他还将加入安全与安保委员会。
Hugging Face Blog精选AI 评分6262 Hugging Face 收购 XetHub，将用自研存储后端替换 Git LFS
Hugging Face 宣布收购西雅图公司 XetHub，其创始团队此前在 Apple 构建并扩展内部 ML 基础设施，团队共 12 人。XetHub 的技术让 Git 能扩展到 TB 级仓库，HF CTO Julien Chaumond 表示该团队将帮助 Hub 把存储后端从 Git LFS 换成自研的更好版本。
推荐理由：Hugging Face 官方披露收购 XetHub 的动机与存储后端替换计划，可了解 Hub 未来在超大模型与数据集上的版本管理方向。
OpenAI NewsAI 评分1313 OpenAI 与 Rakuten 如何用 API 结合数据释放客户价值
Rakuten 将数据与 AI 结合，用于挖掘客户洞察并释放客户价值。该实践通过 API 把数据接入 AI 能力，属于 OpenAI 客户案例。
OpenAI NewsAI 评分3838 OpenAI 与洛斯阿拉莫斯国家实验室宣布研究合作
OpenAI 与洛斯阿拉莫斯国家实验室达成研究合作，共同开发安全评估方法，用于评估和衡量前沿模型相关的生物能力与风险。
Hugging Face BlogAI 评分2222 Banque des Territoires x Polyconseil x Hugging Face：用主权数据方案升级法国校园环保项目 EduRénov
Banque des Territoires（CDC 集团）、Polyconseil 与 Hugging Face 合作，为法国校园生态改造项目 EduRénov 打造基于 RAG 的主权数据方案，首阶段已完成。该方案用于优化 BdT 对地方政府的支持流程，目标覆盖 10,000 个学校设施改造项目、5 年内实现 40% 节能，CDC 为此投入 20 亿欧元贷款和 5000 万欧元前期工程资金。
OpenAI NewsAI 评分2222 OpenAI 与 TIME 达成战略内容合作
OpenAI 与 TIME 达成战略内容合作，将接入 TIME 101 年的档案内容，用于增强模型回答并提供 Time.com 报道链接。
OpenAI News精选AI 评分6262 OpenAI 收购 Rockset
OpenAI 宣布收购 Rockset。该消息由 OpenAI 官方发布，具体交易金额与整合细节尚未在现有材料中披露。
推荐理由：OpenAI 官方宣布收购 Rockset，可据此观察其在数据检索与实时分析方向的布局。
OpenAI NewsAI 评分1515 OpenAI 通过网络安全资助计划赋能防御者
OpenAI 公布网络安全资助计划，聚焦创新研究与 AI 在网络安全领域的整合。该计划旨在赋能防御者，具体资助金额、入选项目数量及申请条件尚未披露。
Hugging Face BlogAI 评分2222 Hugging Face 与 Argilla 回顾 Data Is Better Together 计划并公布后续方向
Hugging Face 与 Argilla 合作的 Data Is Better Together 计划已产出 DIBT/10k_prompts_ranked 数据集，由 385 余人参与完成 1 万条合成与人工提示词的质量排序，并被用于训练 SPIN 等新模型。
Hugging Face BlogAI 评分1212 Prezi 如何借助 Hugging Face Hub 与专家支持计划加速多模态 ML 路线图
视觉沟通软件公司 Prezi 加入 Hugging Face Expert Support Program，将更小、更高效的开源模型整合进其 ML 工作流。Prezi 旗舰产品 Prezi AI 结合视觉模型、文本模型和 VLM，专家建议在素材检索流程中加入开源 re-ranker 模型，以更低成本、更快速度找到最佳图文素材。
OpenAI NewsAI 评分3838 OpenAI 任命退役美国陆军上将 Paul M. Nakasone 为董事会成员
OpenAI 任命退役美国陆军上将 Paul M. Nakasone 加入董事会，他将加入董事会的安全与安保委员会。Nakasone 为持续扩大的董事会带来网络安全方面的经验。
OpenAI News精选AI 评分8080 OpenAI 与 Apple 宣布合作，将 ChatGPT 集成进 Apple 体验
OpenAI 与 Apple 宣布达成合作，将 ChatGPT 集成到 Apple 的各项体验中。该消息由 OpenAI 官方发布，未披露集成的具体形式、上线时间或覆盖范围。
推荐理由：OpenAI 官方宣布与 Apple 合作，读者可据此了解 ChatGPT 进入 Apple 生态的官方口径。
OpenAI NewsAI 评分2626 OpenAI 任命 Sarah Friar 为 CFO、Kevin Weil 为 CPO
OpenAI 宣布 Sarah Friar 出任首席财务官（CFO），Kevin Weil 出任首席产品官（CPO）。Sarah Friar 此前任 Nextdoor CEO，Kevin Weil 曾在 Planet 与 Twitter 任职。
Mistral AIAI 评分1212 Mistral AI 举办微调黑客松，6 月 5 日至 30 日开放报名
Mistral AI 于 6 月 5 日至 30 日举办线上微调黑客松，参赛项目须使用其全新微调 API，提交截止 6 月 30 日。前三名各获 2500 欧元 Mistral API 额度，入选者可申请 100 美元免费额度，需在 6 月 10 日前填写表单。评审按影响力、技术实现、创意和展示各占 25% 打分，团队最多 4 人。
Hugging Face Blog精选AI 评分6262 Hugging Face 披露 Spaces secrets 遭未授权访问并更新安全措施
Hugging Face 本周检测到 Spaces 平台遭未授权访问，涉及 Spaces secrets，怀疑部分 secrets 可能被未授权读取。作为处置，官方已撤销这些 secrets 中的部分 HF token 并邮件通知相关用户，建议用户刷新密钥或 token 并改用细粒度访问 token。
推荐理由：官方披露 Spaces secrets 遭未授权访问及已采取的处置措施，可了解平台安全策略的调整方向。
OpenAI NewsAI 评分4040 OpenAI 打击隐蔽影响力行动中的 AI 欺骗性使用
OpenAI 终止了与隐蔽影响力行动相关的账号，并称这些账号未因使用其服务而获得显著受众增长。
OpenAI NewsAI 评分3434 OpenAI 推出 OpenAI for Nonprofits 计划
OpenAI 推出面向非营利组织的新计划 OpenAI for Nonprofits，为这类机构提供 ChatGPT Team 和 Enterprise 的折扣价格，以提升其工具的可及性。
Mistral AI精选AI 评分6262 Mistral AI 发布非生产许可 MNPL，Codestral 率先采用
Mistral AI 推出非生产许可 MNPL，允许开发者将技术用于非商业用途并支持研究工作，要求基于其成果开展商业业务的一方以公平可持续的方式合作。Codestral 于同日在该许可下发布。Mistral 表示将继续以 Apache 2.0 发布模型和代码，并逐步整合 Apache 2.0 与 MNPL 两条产品线。
推荐理由：Mistral 推出 MNPL 非生产许可，读者可了解其如何在开放原则与商业可持续之间划界。
OpenAI NewsAI 评分3131 OpenAI 与 The Atlantic 达成内容与产品合作，将新闻引入 ChatGPT
The Atlantic 宣布与 OpenAI 达成战略内容与产品合作，成为 OpenAI 体系内的优质新闻来源，其文章将可在 ChatGPT 等 OpenAI 产品中被发现。作为合作方，The Atlantic 还将参与塑造未来实时发现产品中新闻的呈现方式。
OpenAI NewsAI 评分2222 OpenAI 与 Vox Media 达成内容与产品合作
OpenAI 与 Vox Media 达成一项多层面协议，Vox Media 的内容将用于增强 ChatGPT 的输出，Vox Media 则将基于 OpenAI 的技术开发产品，以更好地服务其受众和广告主。
OpenAI NewsAI 评分3636 OpenAI 与 News Corp 达成多年全球合作，用优质新闻内容增强生成式 AI 产品
OpenAI 与 News Corp 宣布达成一项多年全球合作伙伴关系，将把 News Corp 的优质新闻内容引入 OpenAI 的生成式 AI 产品与平台。
OpenAI NewsAI 评分1313 OpenAI 的安全实践
OpenAI 阐述了其安全实践的核心立场：通用人工智能有望惠及生活几乎方方面面，因此必须以负责任的方式开发和部署。
Hugging Face BlogAI 评分4242 Hugging Face 在 AMD Instinct MI300 GPU 上的支持与优化
Hugging Face 宣布 AMD Instinct MI300 已在 Hugging Face 平台获得一等公民级集成，用户无需改动代码即可通过 transformers 和 text-generation-inference 在 Azure ND MI300x V5 虚拟机上部署模型。
Hugging Face BlogAI 评分4242 Hugging Face 与微软深化合作：Azure 一键部署 Llama 3、Mistral 7B 等开源模型
Hugging Face 与微软在 Microsoft Build 上宣布深化战略合作，将 Llama 3、Mistral 7B、Command R Plus、Qwen 1.5 110B 等热门开源大模型加入 Azure Model Catalog 的 Hugging Face Collection，支持从 Azure AI Studio 一键部署。
OpenAI NewsAI 评分4040 OpenAI 与 Reddit 达成合作，将 Reddit 内容引入 ChatGPT
OpenAI 与 Reddit 达成合作，将 Reddit 的独特内容带入 ChatGPT 及 OpenAI 旗下产品。
OpenAI News精选AI 评分7575 Ilya Sutskever 将离开 OpenAI，Jakub Pachocki 被任命为首席科学家
OpenAI 宣布 Ilya Sutskever 将离开公司，同时任命 Jakub Pachocki 为首席科学家。
OpenAI NewsAI 评分1515 OpenAI 谈数据与 AI：推出面向创作者和内容方的 Media Manager
OpenAI 发布 Media Manager，面向创作者和内容方，并阐述其在 AI 时代处理数据的思路。此时距 ChatGPT 上线刚过一年，AI 正改变人们的生活、工作和学习方式，也引发了关于数据的重要讨论。
OpenAI NewsAI 评分4242 OpenAI 推出内容溯源新技术并加入 C2PA 指导委员会
OpenAI 推出新技术，帮助研究人员识别由其工具生成的内容，同时加入 Coalition for Content Provenance and Authenticity（C2PA）指导委员会，以推动行业标准建设。
OpenAI NewsAI 评分4040 OpenAI 与 Stack Overflow 达成 API 合作
Stack Overflow 与 OpenAI 宣布达成 API 合作，将这一技术知识平台与 OpenAI 的大语言模型结合，为开发者提供支持。Stack Overflow 称其拥有全球领先的高技术内容知识平台，OpenAI 则拥有最受欢迎的 AI 开发 LLM 模型。
OpenAI NewsAI 评分5050 OpenAI 封禁与"Spamouflage"行动关联的账号
OpenAI 封禁了一批与源自中国的"Spamouflage"行动关联的账号，该行动利用 AI 研究社交媒体活动、生成帖文并调试一个此前未被报道的网站。
OpenAI NewsAI 评分3838 OpenAI 封禁伊朗相关影响力账号网络 IUVM
OpenAI 封禁了与伊朗背景行动 "IUVM" 相关的账号，该网络利用 AI 生成并翻译亲伊朗、反以色列和反美的网站内容。
OpenAI News精选AI 评分6060 OpenAI 封禁以色列相关影响力行动 Zero Zeno 账号
OpenAI 封禁了一批与一个此前未被报道的以色列来源行动相关的账号，该行动被其命名为 Zero Zeno。这些账号使用 AI 生成反哈马斯、反卡塔尔、亲以色列、反印度人民党以及亲以色列总工会（Histadrut）的内容。
推荐理由：OpenAI 披露其封禁的以色列相关影响力行动，可了解平台对 AI 生成政治内容的处置口径。
OpenAI NewsAI 评分5555 OpenAI 封禁俄罗斯相关影响力行动 Doppelganger 的账号
OpenAI 封禁了与俄罗斯相关的影响力行动 Doppelganger 关联的账号，该行动利用 AI 生成反乌克兰的社交媒体评论、翻译和网站文案，涉及多种语言。
OpenAI NewsAI 评分5858 OpenAI 封禁与俄罗斯相关行动 Bad Grammar 关联的账号
OpenAI 封禁了一批与代号 Bad Grammar 的俄罗斯来源行动相关的账号，该行动此前未被公开报道。这些账号利用 AI 生成英语和俄语的 Telegram 评论，涉及乌克兰、摩尔多瓦、波罗的海国家和美国政治议题。
OpenAI NewsAI 评分2424 OpenAI 将《金融时报》内容引入 ChatGPT
OpenAI 与《金融时报》达成合作，将后者的新闻内容引入 ChatGPT，双方还将为 FT 读者共同开发新的 AI 体验。
OpenAI NewsAI 评分00 OpenAI 加速救命疗法的开发
OpenAI 正在加速救命疗法的开发。