语言 AI 原来知道自己的回答是不是正确
发布时间：2022-07-22 07:00:30 所属栏目：动态 来源：互联网
导读：语言 AI，具备了人类的自我审视能力：最近，一个来自加州大学伯克利分校和霍普金斯大学的学术团队研究表明：它不仅能判断自己的答案正确与否，而且经过训练，还能预测自己知道一个问题答案的概率。 所以第一个问题是，语言 AI 能否对自己的答案进行校准？
|
语言 AI，具备了人类的自我审视能力：最近，一个来自加州大学伯克利分校和霍普金斯大学的学术团队研究表明：它不仅能判断自己的答案正确与否，而且经过训练，还能预测自己知道一个问题答案的概率。 所以第一个问题是，语言 AI 能否对自己的答案进行校准？为了证明这个问题，研究团队为 AI 准备了 5 个选择题： 答案选项，以 A、B、C 的形式给出。如果 AI 模型答案的正确率超过偶然几率，那么就证明 AI 模型给出的答案是经过校准的。 而测试的结果是，语言 AI 给出的答案，正确率明显超过任意选项的偶然几率。也就是说，语言 AI 模型可以对自己的答案进行很好的校准。 但研究团队发现，语言 AI 的校准能力，是建立在选项答案明确的前提下的。如果在选项中加入一个“以上都不是”的不确定选项，就会损害语言 AI 的校准能力。 （编辑：云计算网_泰州站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
浙公网安备 33038102330476号