你在解决什么问题?(必填)
1 针对一些对于模型幻觉 严苛容忍度较低的场景,是否增加强制要求模型回答 比如来自于知识库 同时输出答案必须标明 信源, 增加node 校验信源 是否格式正确.以及信源是否真实存在(防止模型捏造),以及提供后置 llm as a judge 的审核机制 来审核模型回答是否合格 或者按需借鉴 deepconf 的思想 增加token 置信度的检验,这种可选择的严苛场景机制 有利于一些业务场景的使用,或者是否
你期望它怎么工作?(必填)
一些场景 极大减少幻觉率
你试过的替代方案?(选填)
No response
你在解决什么问题?(必填)
1 针对一些对于模型幻觉 严苛容忍度较低的场景,是否增加强制要求模型回答 比如来自于知识库 同时输出答案必须标明 信源, 增加node 校验信源 是否格式正确.以及信源是否真实存在(防止模型捏造),以及提供后置 llm as a judge 的审核机制 来审核模型回答是否合格 或者按需借鉴 deepconf 的思想 增加token 置信度的检验,这种可选择的严苛场景机制 有利于一些业务场景的使用,或者是否
你期望它怎么工作?(必填)
一些场景 极大减少幻觉率
你试过的替代方案?(选填)
No response