Mistral AI·· 2024-11-07AI 评分40
Mistral AI 推出 Batch API,批量推理成本降低 50%
Mistral Batch API
AI 导读
Mistral AI 在 La Plateforme 上线 Batch API,处理高并发请求的成本比同步 API 调用低 50%。用户上传批量文件、处理完成后下载输出文件即可,适用于情感分析、文档批量摘要与翻译、向量嵌入建索引和数据标注等场景。该 API 覆盖 La Plateforme 上全部模型,每个工作区最多 100 万个进行中的请求,并将陆续登陆其云厂商合作伙伴。
来源:Mistral AI · mistral.ai