Hugging Face 为数据集推出 SQL Console
Hugging Face Hub 为数据集上线 SQL Console,用户可在浏览器中直接对数据集运行 SQL 查询。该控制台由 DuckDB WASM 驱动,100% 本地运行,支持完整 DuckDB 语法、结果导出为 parquet 及公开数据集查询链接分享。内存上限约 3GB,暂不支持 hf:// 协议。
Hugging Face Hub 为数据集上线 SQL Console,用户可在浏览器中直接对数据集运行 SQL 查询。该控制台由 DuckDB WASM 驱动,100% 本地运行,支持完整 DuckDB 语法、结果导出为 parquet 及公开数据集查询链接分享。内存上限约 3GB,暂不支持 hf:// 协议。
OpenAI 发布安全与安保实践更新。原文未披露具体措施、模型版本或时间表等细节。
HuggingChat 发布 Community Tools,用户可以把 Hugging Face 上任意公开 Space 变成模型可直接调用的工具,并借此扩展了图像理解、视频生成和文本转语音等多模态能力。
Hugging Face 发布 Accelerate 1.0.0 首个候选版本,可通过 pip install --pre accelerate 或 Docker 镜像试用。
OpenAI 发布 o1 模型,官方页面标题为 Introducing OpenAI o1,正文内容未能抓取。
OpenAI 发布 o1-mini,官方将其定位为在推理能力上兼顾成本效率的模型。目前公开信息仅有这一标题式说明,具体能力与定价细节尚未给出。
推荐理由:OpenAI 官方发布 o1-mini,读者可据此了解其在推理能力与成本之间的定位。
OpenAI 发布 o1 贡献说明。原文未提供更多细节。
经济学家 Tyler Cowen 解读 OpenAI o1 如何解答复杂的经济学问题。该模型通过推理能力处理经济领域的复杂提问。
Cognition 联合创始人兼 CEO Scott Wu 解释了 OpenAI o1 如何以更接近人类的方式做出编程决策。
量子物理学家 Mario Krenn 使用 OpenAI o1 帮助回答生命中最重大的问题。该模型被用于回应量子物理领域的疑问。
遗传学家 Catherine Brownstein 展示了 OpenAI o1 如何加速罕见医学难题的诊断流程。该演示聚焦于将 o1 用于基因数据分析,以缩短罕见病的诊断周期。
Ada 借助 GPT-4 提升客户服务标准。该平台将 GPT-4 用于客户服务场景,以改善自动化支持的质量。
Hugging Face 宣布与 Truffle Security 合作,将开源密钥扫描工具 TruffleHog 集成进平台。其自动化扫描流水线现包含恶意软件、pickle 文件和密钥三类扫描,每次推送都会用 trufflehog filesystem 命令检查新增或修改文件,发现已验证密钥即邮件通知用户。
Hugging Face 的 LeRobot 项目提出 LeRobotDataset 格式,用视频编码存储机器人数据集的视觉模态,平均体积仅为原始版本的 14%,最佳情况下可低至 0.2%,同时保持完整训练能力。解码单帧耗时与加载压缩图片相当,连续多帧解码仅需其 25%-50%。该格式轻量、易分享,并原生集成 Hub,还提供可视化工具浏览数据集。
亚利桑那州立大学与 OpenAI 合作,在全校范围引入 ChatGPT,用于个性化学习、推进科研并帮助学生适应未来。该校将 ChatGPT 融入教学与研究场景,探索 AI 在高等教育中的落地方式。
Hugging Face 博客盘点了 Hub 上 5 个常被忽视的工具:ZeroGPU、多进程 Docker、Gradio API、Webhooks 和 Nomic Atlas。
Hugging Face 在 Transformers 中推出 DataCollatorWithFlattening,使无 padding 的打包指令微调与 Flash Attention 2 兼容,训练吞吐最高提升 2 倍。
推荐理由:官方给出打包训练与 Flash Attention 2 兼容的实现方式和吞吐、显存实测数据,可据此评估自家训练流程的改造空间。
Upwork 正将 AI 用于团队协作、运营和产品开发。OpenAI 与 Upwork 合作,把 AI 融入其内部工作流程与产品能力建设。
OpenAI 宣布 GPT-4o 现已支持微调。该消息来自 OpenAI 官方发布,正文内容未能获取。
Hugging Face 发布教程,介绍如何用 TGI 和 Deep Learning Containers 在 Google Cloud Vertex AI 上部署 Meta Llama 3.1 405B。
Indeed 借助 OpenAI 为其全球最大求职网站提供情境化职位匹配,每月服务超 3.5 亿独立访客,连接逾 350 万雇主和超 3200 万个职位。Indeed 上每三秒就有一人成功入职。
OpenAI 与 The Met 服装学院合作推出“Sleeping Beauties: Reawakening Fashion”展览,借助 AI 挖掘艺术与创意潜力,让时尚藏品以新方式呈现。
Hugging Face 复现 Google 的 Infini-Attention 发现,随着记忆压缩次数增加,模型性能持续下降,且 90% 的调试时间花在收敛问题上。
OpenAI 发布 SWE-bench Verified,这是 SWE-bench 中经人工验证的子集,用于更可靠地评估 AI 模型解决真实软件问题的能力。
Hugging Face 发布 ggml 入门指南,介绍这个用 C/C++ 编写、专注 Transformer 推理的开源机器学习库。
阿布扎比技术创新研究院(TII)发布 Falcon Mamba 7B,这是首个通用大规模纯 Mamba 模型,采用 TII Falcon Mamba 7B License 1.0 开放获取,已在 Hugging Face 生态上线。
推荐理由:TII 发布首个纯 Mamba 架构的 7B 开源模型,并给出与同规模 Transformer 的基准对比和长序列内存数据。
Hugging Face 在 Transformers 中推出统一的工具调用 API,同一套代码可在 Mistral、Cohere、NousResearch 和 Llama 等模型家族间通用,几乎无需针对模型做改动。
推荐理由:Hugging Face 把工具调用统一进 chat template,读者可据此判断跨模型复用同一套代码的可行边界。
Zico Kolter 加入 OpenAI 董事会,其在 AI 安全与对齐领域的专业能力将用于强化公司治理。他还将加入安全与安保委员会。
Hugging Face 宣布收购西雅图公司 XetHub,其创始团队此前在 Apple 构建并扩展内部 ML 基础设施,团队共 12 人。XetHub 的技术让 Git 能扩展到 TB 级仓库,HF CTO Julien Chaumond 表示该团队将帮助 Hub 把存储后端从 Git LFS 换成自研的更好版本。
推荐理由:Hugging Face 官方披露收购 XetHub 的动机与存储后端替换计划,可了解 Hub 未来在超大模型与数据集上的版本管理方向。
OpenAI 发布 GPT-4o 系统卡,用于说明该模型在安全与风险方面的评估情况。原文正文未能抓取,具体评估内容与结论暂无法确认。
Rakuten 将数据与 AI 结合,用于挖掘客户洞察并释放客户价值。该实践通过 API 把数据接入 AI 能力,属于 OpenAI 客户案例。
Mistral AI 宣布在 La Plateforme 上支持对 Mistral Large 2 和 Codestral 等旗舰及专用模型进行定制,可通过 base prompt、few-shot prompting 或微调实现,并支持自带数据集。
OpenAI 在 API 中推出结构化输出(Structured Outputs),模型输出现在可以可靠地遵循开发者提供的 JSON Schema。
推荐理由:OpenAI 官方说明 API 新增结构化输出,模型输出可稳定遵循开发者提供的 JSON Schema。
Hugging Face 与 Albumentations AI 合作推出面向文档图像的 TextImage 数据增强流程,可同时修改图像内容与文本标注。该流程支持随机插入、删除、交换及停用词替换等文本增强,并配合黑化与 inpaint 保持文本质量,还可用任意文本合成新样本。初始版本中的同义词替换因耗时过高已被移除。
Hugging Face 梳理了截至 2024 年 8 月 6 日 Hub 上的安全功能:面向所有用户的细粒度 Token、2FA、GPG commit signing、组织访问控制和自动化安全扫描(ClamAV 恶意软件扫描、picklescan 与 trufflehog 密钥扫描)。
Google 在 Gemma 2 发布一个月后扩充 Gemma 模型系列,新增 2.6B 参数的 Gemma 2 2B(含 base 与指令微调版)、安全分类器 ShieldGemma 以及稀疏自编码器套件 Gemma Scope。
推荐理由:Google 一次补齐 Gemma 2 的小尺寸、安全分类器和可解释性工具,读者可据此判断端侧部署与内容审核的可用选项。
Hugging Face 展示了如何借助 Diffusers 库中的 Quanto 量化工具降低 Transformer 扩散管线的显存占用。以 PixArt-Sigma、Stable Diffusion 3 和 Aura Flow 为例,将扩散主干与文本编码器量化为 FP8 后,SD3 推理显存从 16.403 GB 降至约 8.2 GB,质量几乎无损、延迟略有上升。
Hugging Face 面向 Enterprise Hub 组织推出 NVIDIA NIM API(serverless),可在 Hugging Face Hub 上以无服务器方式对 Llama、Mistral 等开源模型运行推理,接口标准化于 OpenAI API。
Hugging Face 提出 LAVE(LLM-Assisted VQA Evaluation),用 Llama-2-Chat-7b 以 1-3 分制对答案打分,在 Docmatix 的 200 张图像子集上评测 MPLUGDocOwl1.5 的零样本表现。
Mistral AI 发布 Mistral Large 2,模型规模 123B 参数,支持 128k 上下文窗口和数十种语言,可在单节点上实现大吞吐推理。官方称其在 MMLU 上预训练版本准确率达 84.0%,代码与推理表现大幅超过上一代 Mistral Large,并与 GPT-4o、Claude 3 Opus、Llama 3 405B 相当。
推荐理由:Mistral Large 2 以 123B 参数实现单节点推理,并给出与 GPT-4o、Claude 3 Opus、Llama 3 405B 的同管线对比数据。