改成lora微调,GPU试过 5880、A6000、A800,在模型生成回复步骤非常慢,GPU利用率和功耗都是三分之一左右,偶尔会有一两秒利用率和功耗飙升。请问老哥这正常吗
改成lora微调,GPU试过 5880、A6000、A800,在模型生成回复步骤非常慢,GPU利用率和功耗都是三分之一左右,偶尔会有一两秒利用率和功耗飙升。请问老哥这正常吗