跳到正文

#开源生态

今日 4 条
7月29日周二
7月25日周五
7月23日周三
7月22日周二
  1. Hugging Face Blog60

    NVIDIA NIM 支持在 Hugging Face 上部署超 10 万个 LLM

    NVIDIA 宣布 NIM 推理微服务现可在 Hugging Face 上快速部署超过 10 万个 LLM。NIM 提供单个 Docker 容器,自动识别模型架构与量化格式(如 FP16、FP8、INT4),并在 NVIDIA TensorRT-LLM、vLLM 和 SGLang 之间选择推理后端,无需手动配置。

    推荐理由:NIM 单个容器即可自动识别模型格式并选择 TensorRT-LLM、vLLM 或 SGLang 后端,读者可据此判断部署流程能省掉多少手工调优。

7月17日周四
7月15日周二
  1. Mistral AI78

    Mistral 发布 Voxtral 语音理解模型,24B 与 3B 双版本开源

    Mistral AI 发布 Voxtral 语音理解模型,提供 24B 和 3B 两种尺寸,均以 Apache 2.0 许可开源并上线 API。模型支持 32k token 上下文,可处理最长 30 分钟音频转写或 40 分钟音频理解,具备原生多语言、音频问答与摘要、语音触发函数调用等能力,API 定价为每分钟 $0.001。

    推荐理由:Mistral 开源语音理解模型,给出两种尺寸、Apache 2.0 许可与 API 定价,读者可据此评估自部署与调用成本。

7月11日周五
7月10日周四
  1. Hugging Face Blog65

    Hugging Face 发布 ScreenEnv,在 Docker 中部署全栈桌面智能体

    Hugging Face 发布 ScreenEnv,一个可在 Docker 容器中创建隔离 Ubuntu 桌面环境的 Python 库,用于测试和部署 GUI 智能体(Computer Use 智能体)。

    推荐理由:ScreenEnv 把桌面智能体的运行环境封装进 Docker,并同时提供 MCP 与直接 API 两种接入方式,读者可据此判断现有智能体架构能否低成本迁移。

7月9日周三
  1. Hugging Face Blog62

    Hugging Face 与 Pollen Robotics 发布开源机器人 Reachy Mini,399 美元起

    Hugging Face 与 Pollen Robotics 发布开源机器人 Reachy Mini,Lite 版 399 美元、带板载计算与电池的无线版 499 美元,均需另付税费和运费,预计约 90 天发货。

    推荐理由:官方给出开源桌面机器人的两档配置、价格与 Python SDK,可据此判断入门机器人 AI 实验的成本与上手门槛。

7月8日周二
7月3日周四
  1. Mistral AI38

    Mistral AI 推出 AI for Citizens 计划,助力各国政府掌控 AI 未来

    Mistral AI 推出 AI for Citizens 协作计划,帮助各国政府和公共机构战略性地运用 AI 改造公共服务、推动创新。该计划已与法国、卢森堡、新加坡、荷兰、英国、瑞士等国政府、国防部队及公共部门机构合作,提供开源模型、自托管部署、数据主权保障及定制化研发,以替代"一刀切"的封闭 AI 方案。

7月1日周二
6月28日周六
6月26日周四
6月23日周一
6月19日周四
  1. Hugging Face Blog62

    在消费级硬件上用 QLoRA 微调 FLUX.1-dev

    Hugging Face 发布教程,介绍用 diffusers 库以 QLoRA 在单张 GPU 上微调 FLUX.1-dev,峰值显存约 10GB 以下。在 RTX 4090 上,QLoRA 峰值显存约 9GB,标准 BF16 LoRA 需 26GB,700 步训练约 41 分钟。

    推荐理由:给出在单张消费级 GPU 上微调 FLUX.1-dev 的完整配置与显存对比,方法可直接复用。

6月16日周一
6月12日周四
6月10日周二
6月6日周五
6月4日周三
6月3日周二
  1. Hugging Face Blog71

    H Company 发布 GUI 自动化 VLM 系列 Holo1 与基准 WebClick

    H Company 发布 Holo1 系列 Action VLM 及多模态定位基准 WebClick,模型已开源在 Hugging Face。该系列包含 Holo1-3B 和 Holo1-7B,其中 7B 在常见 UI 定位基准上平均准确率达 76.2%,为小尺寸模型中最高。

    推荐理由:Holo1 开源了 GUI 定位模型与配套基准,读者可据此评估浏览器自动化在成本与精度上的取舍。

5月28日周三
5月25日周日
5月23日周五
5月21日周三
  1. Mistral AI73

    Mistral AI 发布智能体编码模型 Devstral,Apache 2.0 开源

    Mistral AI 与 All Hands AI 合作发布面向软件工程任务的智能体 LLM Devstral,以 Apache 2.0 许可开源,在 SWE-Bench Verified 上得分 46.8%,比此前开源 SoTA 模型高出 6 个百分点以上。

    推荐理由:Mistral 与 All Hands AI 合作的智能体编码模型,给出 SWE-Bench Verified 成绩与本地部署门槛,便于判断开源编码模型的当前水平。

  2. Hugging Face Blog41

    Falcon-Arabic:阿拉伯语语言模型的突破

    阿联酋技术创新研究院(TII)发布 Falcon-Arabic,一款基于 Falcon 3 架构的 7B 参数多语言模型,支持阿拉伯语、英语等多种语言,上下文长度达 32,000 tokens。该模型在 OALL v2 基准上超越同规模阿拉伯语 LLM,甚至优于参数量达其 4 倍的模型,并在 Arabic MMLU、Exams、MadinahQA、Aratrust 等任务上领先。