快科技 1 月 31 日音问,据英伟达官方网站音问kaiyun体育官方网站全站入口,DeepSeek R1 671b 版块已看成英伟达 NIM(Nvidia Inference Microservices)微劳动的预览版在 build.nvidia.com 平台上发布。
这一微劳动基于单个英伟达 HGX H200 系统,狠恶已毕每秒处分多达 3872 个 token 的高效性能。
诱惑东说念主员现可对该 API 进行测试与本质,瞻望不久后,此 API 将以可下载的 NIM 微劳动表情,清雅成为英伟达 AI Enterprise 软件平台的一部分。
NIM,即 Nvidia Inference Microservices,是一种云原生微劳动技艺,旨在简化生成式 AI 模子在云霄、数据中心及 GPU 加快责任站上的部署历程。
DeepSeek R1 是幻方量化旗下 AI 公司 DeepSeek 所发布的大型模子,其在数学、代码编写、当然言语推理等多项任务上展现出的性能,足以与 OpenAI 的 o1 模子相失色。
kaiyun体育官方网站全站入口