推理速度快了这么多，。。。。。

[xiyangyang99]

A100上推理速度10ms！！！！！

[warmshao]

可能是因为这个 rolpotamias/WiLoR#17 👀

[ruoyiqiao]

但是测试发现推理时间大概是 80ms（3090），而日志是显示为 10ms，感觉这个可能只是 yolo 的开销? 🤔 @warmshao

[hughkhu]

但是测试发现推理时间大概是 80ms（3090），而日志是显示为 10ms，感觉这个可能只是 yolo 的开销? 🤔 @warmshao

same problem

[warmshao]

这是一个对原项目的简单封装成python包以方便使用，唯一加速的地方是把原仓库的softmax原生实现改成F.scaled_dot_product_attention，我自己的电脑是可以实现加速，如果变慢请检查torch+cuda是否安装正确