跳到正文

#部署/工程

今日 3 条
11月19日周三
11月17日周一
11月13日周四
11月11日周二
11月5日周三
  1. Google Research62

    Google 发布 Project Suncatcher 太空 AI 基础设施系统设计预印本

    Google 公布名为 Project Suncatcher 的研究计划,设想由太阳能卫星组成星座、搭载 Google TPU 并通过自由空间光链路互联,相关预印本论文探讨了卫星间高带宽通信、轨道动力学和辐射对计算的影响。

    推荐理由:Google 公开了太空 AI 数据中心的系统设计与关键挑战,读者可了解其轨道、通信和 TPU 抗辐射的初步验证结果。

10月30日周四
10月29日周三
  1. Hugging Face Blog62

    Hugging Face 长文分析全球算力格局如何向中国倾斜

    Hugging Face 发布长文分析全球 AI 算力格局的变化,指出中国开源权重模型的推理已开始由华为昇腾、寒武纪等国产芯片承载,部分模型开始用国产芯片训练。

    推荐理由:梳理美国出口管制与中国国产芯片、开源模型之间的因果链,并给出从硬件到软件栈的替代进展时间线。

10月28日周二
10月24日周五
  1. Mistral AI60

    Mistral AI 发布 AI Studio 生产平台

    Mistral AI 发布企业级生产平台 Mistral AI Studio,由 Observability、Agent Runtime 和 AI Registry 三大支柱组成,覆盖评估、反馈闭环、版本溯源与治理。

    推荐理由:Mistral 把自家大规模系统的可观测、执行与治理能力打包成企业平台,可了解生产级 AI 的落地路径。

10月16日周四
10月15日周三
10月14日周二
10月13日周一
  1. OpenAI News72

    OpenAI 与 Broadcom 达成战略合作,部署 10 吉瓦 OpenAI 自研 AI 加速器

    OpenAI 与 Broadcom 宣布多年期合作,将部署 10 吉瓦由 OpenAI 设计的 AI 加速器,并共同开发下一代系统与以太网方案,计划到 2029 年支撑可扩展、高能效的 AI 基础设施。

    推荐理由:OpenAI 与 Broadcom 联合设计加速器并规划 10 吉瓦部署,可观察其自研芯片与算力扩张路径。

10月11日周六
10月6日周一
10月2日周四
9月29日周一
9月23日周二
  1. OpenAI News62

    OpenAI、Oracle 与 SoftBank 为 Stargate 新增五个 AI 数据中心站点

    OpenAI、Oracle 与 SoftBank 宣布为 Stargate 新增五个 AI 数据中心站点,推进总额 5000 亿美元、10 吉瓦的美国基础设施扩建,用于支撑下一代 AI 并创造数万个就业岗位。

    推荐理由:OpenAI 与 Oracle、SoftBank 公布 Stargate 新增五个数据中心站点,可了解 5000 亿美元、10 吉瓦级美国 AI 基建的推进节奏。

9月22日周一
9月19日周五
9月17日周三
9月11日周四
  1. Hugging Face Blog62

    Hugging Face 详解 transformers 为 gpt-oss 引入的六项优化技巧

    Hugging Face 发布博客,介绍为支持 OpenAI gpt-oss 系列而在 transformers 中引入的多项升级,包括可从 Hub 下载的零构建内核、MXFP4 量化、张量并行、专家并行、动态滑动窗口层与缓存、连续批处理与 Paged Attention,以及更快的模型加载。

    推荐理由:Hugging Face 官方拆解了为 gpt-oss 引入的六项 transformers 升级,读者可据此了解这些优化如何迁移到其他模型。

9月2日周二
  1. Mistral AI62

    Mistral 为 Le Chat 上线自定义 MCP 连接器与 Memories 记忆功能

    Mistral 在 Le Chat 中发布 20 多个基于 MCP 的安全连接器目录(beta),覆盖数据、生产力、开发、自动化与商务等类别,支持接入 Databricks、Snowflake、GitHub、Atlassian、Asana、Outlook、Box、Stripe、Zapier 等工具,并允许添加自定义 MCP 连接器或连接任意远程 MCP 服务器。

    推荐理由:官方给出连接器目录、自定义 MCP 与记忆功能的开放范围,读者可据此判断企业工作流接入方式。

8月18日周一
8月13日周三
  1. Hugging Face Blog60

    Arm 与 ExecuTorch 0.7 默认启用 KleidiAI,让旧款 Arm 设备也能跑生成式 AI

    Arm 与 ExecuTorch 0.7 beta 将默认启用 KleidiAI,为基于最新 Arm CPU 架构以及大量旧款手机的设备带来自动加速,Android 与跨平台开发者无需改代码即可通过 ExecuTorch 和 XNNPack 获得优化。

    推荐理由:Arm 与 ExecuTorch 团队说明了 KleidiAI 默认启用后,旧款 Arm 设备也能跑起端侧 LLM 的路径与实测数据。

8月8日周五
7月31日周四
7月30日周三
7月25日周五
7月23日周三
7月22日周二
  1. OpenAI News62

    OpenAI 与 Oracle 达成 4.5 GW Stargate 数据中心合作

    OpenAI 与 Oracle 达成协议,将在美国开发 4.5 GW 的额外 Stargate 数据中心容量。OpenAI 称该投资将创造就业、加速美国再工业化,并推进美国在 AI 领域的领先地位,同时是 Stargate 这一 AI 基础设施平台的重要里程碑。

    推荐理由:OpenAI 与 Oracle 的 4.5 GW 数据中心合作,是观察 Stargate 算力扩张节奏的一个具体节点。

  2. Hugging Face Blog60

    NVIDIA NIM 支持在 Hugging Face 上部署超 10 万个 LLM

    NVIDIA 宣布 NIM 推理微服务现可在 Hugging Face 上快速部署超过 10 万个 LLM。NIM 提供单个 Docker 容器,自动识别模型架构与量化格式(如 FP16、FP8、INT4),并在 NVIDIA TensorRT-LLM、vLLM 和 SGLang 之间选择推理后端,无需手动配置。

    推荐理由:NIM 单个容器即可自动识别模型格式并选择 TensorRT-LLM、vLLM 或 SGLang 后端,读者可据此判断部署流程能省掉多少手工调优。

7月15日周二
7月10日周四