感觉模型在胡说八道,同一台手机同一个模型,在口袋AI(pocketAI)里表现挺好的,但是在这个demo里就胡说八道/重复输出相同的内容 我用llama.cpp直接写的demo也是这样,不知道是为什么
感觉模型在胡说八道,同一台手机同一个模型,在口袋AI(pocketAI)里表现挺好的,但是在这个demo里就胡说八道/重复输出相同的内容
我用llama.cpp直接写的demo也是这样,不知道是为什么