三言科技 1 月 31 日消息,据英伟达官方网站消息,DeepSeek R1 671b 版本已作为英伟达 NIM(Nvidia Inference Microservices)微服务的预览版在 build.nvidia.com 平台上发布。
据英伟达官方公告,6710 亿参数的 DeepSeek R1 模型现可通过 build.nvidia.com 上的 NIM 微服务进行访问,这为开发人员提供了安全试验这些功能的机会,并支持他们构建自己的专用代理。此外,DeepSeek R1 NIM 微服务能够在单个 NVIDIA HGX H200 系统上每秒处理多达3,872 个令牌,极大提升了效率和响应速度。