Hugging Face Blog·· 2024-10-22精选AI 评分75
Transformers.js v3 发布:支持 WebGPU、新量化格式与 120 个架构
Transformers.js v3: WebGPU Support, New Models & Tasks, and More…
AI 导读
Hugging Face 发布 Transformers.js v3,新增 WebGPU 支持,官方称比 WASM 快最多 100 倍,加载模型时设置 device: 'webgpu' 即可启用。
推荐理由
官方给出 WebGPU 加速、量化格式与 120 个架构支持的具体变化,可据此判断浏览器端推理的可用边界。
来源:Hugging Face Blog · huggingface.co