Skip to content

[Feature] 增加知识库可信度校验 #305

Description

@SuperCoderMan521

你在解决什么问题?(必填)

1 针对一些对于模型幻觉 严苛容忍度较低的场景,是否增加强制要求模型回答 比如来自于知识库 同时输出答案必须标明 信源, 增加node 校验信源 是否格式正确.以及信源是否真实存在(防止模型捏造),以及提供后置 llm as a judge 的审核机制 来审核模型回答是否合格 或者按需借鉴 deepconf 的思想 增加token 置信度的检验,这种可选择的严苛场景机制 有利于一些业务场景的使用,或者是否

你期望它怎么工作?(必填)

一些场景 极大减少幻觉率

你试过的替代方案?(选填)

No response

Metadata

Metadata

Assignees

No one assigned

    Labels

    enhancementNew feature or request

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions