2023-06-30
(相关资料图)
金山办公与NVIDIA团队合作，通过NVIDIATensorCoreGPU、TensorRT提升图像文档识别与理解的推理效率；借助NVIDIATriton推理服务器的部署，成功优化GPU利用率，提供高推理吞吐量。相比于CPU其pipleline耗时共下降84%；采用NVIDIATriton推理服务器部署，其部署成本节省了23%。
云掌财经 2023-06-30 14:35:25
(相关资料图)
金山办公与NVIDIA团队合作，通过NVIDIATensorCoreGPU、TensorRT提升图像文档识别与理解的推理效率；借助NVIDIATriton推理服务器的部署，成功优化GPU利用率，提供高推理吞吐量。相比于CPU其pipleline耗时共下降84%；采用NVIDIATriton推理服务器部署，其部署成本节省了23%。
