想问下该框架正常推理速度是多少,我们已经int8量化,并部署在AGX orin上跑,我们看模型推理速度是50ms,前后处理加起来差不多50ms。想请教下怎么优化帧数
想问下该框架正常推理速度是多少,我们已经int8量化,并部署在AGX orin上跑,我们看模型推理速度是50ms,前后处理加起来差不多50ms。想请教下怎么优化帧数