大模型道德审查和法律声明会包含严苛甚至是指控性质的法律声名或道德声明,这会对用户心理造成影响(尤其是未成年用户或者需要情感支持的精神患者)。
例如中国的Kimi模型在一般情况下会回复““在任何情况下,我们都应该遵守当地的法律规定,尊重道德和伦理标准。不恰当的行为或言论可能会侵犯他人的权益,违反法律,甚至可能带来不良后果。确保安全、规范运行和履行职责是每个人在社会中应尽的责任。监督和问责机制也是维护社会秩序和公正的重要手段。”
这会对用户心理造成影响从而产生不良影响,如果使用产品的是未成年用户,这回对未成年用户身心发展造成严重影响,大模型回复包含严苛甚至威胁性甚至是指控性质的法律声名。
- 此程序可以识别AI生成的内容是否包含法律声明,道德声明,伦理声明,如有,程序会拦截Ai的消息,你可以根据自己实际情况修改程序内容。
- 如果遇到无法拦截的内容,自行添加关键词到Data.txt。
这个只是基于关键词检测到,目前正在训练模型,未来可能会发布基于Ai检测的,大模型道德伦理法律声明过滤器。
