跳到正文
原文
Hugging Face Blog·· 2024-10-22精选AI 评分75

Transformers.js v3 发布:支持 WebGPU、新量化格式与 120 个架构

Transformers.js v3: WebGPU Support, New Models & Tasks, and More…

AI 导读

Hugging Face 发布 Transformers.js v3,新增 WebGPU 支持,官方称比 WASM 快最多 100 倍,加载模型时设置 device: 'webgpu' 即可启用。

推荐理由

官方给出 WebGPU 加速、量化格式与 120 个架构支持的具体变化,可据此判断浏览器端推理的可用边界。

来源:Hugging Face Blog · huggingface.co