终于不瞎编了！AI学会了“谷歌一下”，回答问题正确率达90%|DeepMind

明敏 发自 凹非寺
量子位 | 公众号 QbitAI

语言模型总是给出“驴唇不对马嘴”的答案&＃xff0c;已经成为它最饱受诟病的问题之一。

现在&＃xff0c;DeepMind想到了一个解决办法——

让模型像人类一样&＃xff0c;学会“谷歌一下”&＃xff0c;回答问题同时还能给出论据。

这个模型名叫GopherCite&＃xff0c;当你问它&＃xff1a;

GopherCite是如何找到论据来源的&＃xff1f;

它会回答&＃xff1a;

通过谷歌搜索检索相关文档。

同时还给出了答案的依据&＃xff0c;援引自DeepMind发布这项研究的页面。

而且遇到实在不懂的问题&＃xff0c;它还会说“I don’t know.”&＃xff0c;不会强行给一个错误答案。

训练结果显示&＃xff0c;该模型在自然问题数据集、ELI5数据集上的正确率分别可以达到90%、80%&＃xff0c;接近人类水平。

用强化学习训练AI查谷歌

首先我们来看一下GopherCite的效果如何。

当被问道&＃xff1a;

在Scooby Doo中&＃xff0c;Scooby是什么动物&＃xff1f;

GopherCite回答道&＃xff1a;

一只大丹犬。

摘自维基百科Scooby-Doo。这是周六早上播出的系列青少年动画片&＃xff0c;主角包括弗雷德·琼斯等&＃xff0c;以及一只名叫Scooby-Doo、会说话的大丹犬。

不难看出&＃xff0c;在学会找论据后&＃xff0c;AI给出的回答靠谱多了。

事实上&＃xff0c;GopherCite的前辈——超大语言模型Gopher&＃xff0c;此前回答问题时的表现就要差劲很多。

Gopher是DeepMind在去年年底发布的NLP模型&＃xff0c;包含2800亿参数。

它基于Transformer架构&＃xff0c;在10.5TB大小的MassiveText语料库上进行训练。

在这里&＃xff0c;DeepMind举了一个例子来说明。

让Gopher和GopherCite回答同一个问题&＃xff1a;

普莱西德湖一共举办过几次冬奥会&＃xff1f;

Gopher回答&＃xff08;是错的&＃xff09;&＃xff1a;

普莱西德湖在1932年、1936年、1980年举办过冬奥会。

但GopherCite就答对了&＃xff1a;

两次。

并给出了严谨的理由&＃xff1a;

援引自美国主办奥运会城市史。1932年、1980年在普莱西德湖举办过冬季奥运会&＃xff1b;1936年、1984年在洛杉矶举办过夏季奥运会。

那么GopherCite的具体工作原理是怎样的呢&＃xff1f;

在Gopher的基础上&＃xff0c;研究人员开发了一种奖励机制&＃xff0c;也就是用上强化学习。

在收到问题后&＃xff0c;模型会访问谷歌搜索的API来找到相关的网页&＃xff0c;获取top-K结果。

&＃xff08;top-K操作&＃xff0c;即从分数集合中找到k个最大或最小元素&＃xff0c;是一个重要的机器学习模型组件&＃xff0c;被广泛用于信息检索和数据挖掘中。&＃xff09;

然后它会根据问题来生成一些答案&＃xff0c;答案数量N会大于K。

这些答案同时会带有自己的证据&＃xff0c;即从网页上搜索到的包含答案的文段。

接下来&＃xff0c;系统会对这些答案进行打分&＃xff0c;最终输出得分最高的答案。

在推理过程中&＃xff0c;模型采样会按照循环在文档上不断迭代&＃xff0c;每个循环都会从单个文档中尽可能多地显示上下文内容&＃xff0c;然后对文本重新排序并返回给上一步。

此外&＃xff0c;这个模型还会计算最终生成答案的质量&＃xff0c;如果生成答案太差&＃xff0c;它就会选择不回答。

结果显示&＃xff0c;在自然问题数据集上&＃xff0c;GopherCite回答70%的问题时&＃xff0c;正确率达到90%。

在ELI5Filtered数据集上回答70%的问题时&＃xff0c;正确率为80%左右。

DeepMind表示这种训练模式和LaMDA有些类似。

LaMDA是谷歌在去年I/O大会上发布的一个对话模型&＃xff0c;它能够在“听懂”人类指令的基础上&＃xff0c;对答如流并保证逻辑、事实正确。

不同的是&＃xff0c;LaMDA有时会直接给人分享问题的相关链接&＃xff0c;而GopherCite可以直接摘出相关论据文段。

另外&＃xff0c;OpenAI最近也开发了一个网页版GPT &＃xff08;WebGPT&＃xff09;&＃xff0c;同样也是用类似的方法来校正GPT-3。

DeepMind表示&＃xff0c;WebGPT是通过多次访问网页来组织答案&＃xff0c;GopherCite则是侧重于读取长文段。

还是会有失误

虽然懂得援引资料了&＃xff0c;但是GopherCite有时还是会生搬硬套。

比如当你问它“喝了红牛会怎么样&＃xff1f;”&＃xff0c;它的回答是“翅膀”。

这是源于红牛的广告语&＃xff1a;“它会给你翅膀”。

显然让它理解比喻还是有点困难……

也有网友吐槽说&＃xff0c;可能人类自己去谷歌搜索会更快&＃xff08;&＃xff09;。

你觉得呢&＃xff1f;

参考资料&＃xff1a;
https://deepmind.com/research/publications/2022/GopherCite-Teaching-Language-Models-To-Support-Answers-With-Verified-Quotes