我看ChatGPT

ChatGPT出现后惊喜或惊醒了很多人。惊喜是因为没想到大型语言模型&＃xff08;LLM,Large Language Model&＃xff09;效果能好成这样&＃xff1b;惊醒是顿悟到我们对LLM的认知及发展理念&＃xff0c;距离世界最先进的想法&＃xff0c;差得有点远。我属于后知后觉的那批人&＃xff0c;前两天才按照导师的安排调研了相关技术和应用&＃xff0c;以及和我国的差距&＃xff0c;写篇博客总结一下我的一些想法。

实话实说&＃xff0c;国内在大型语言模型和智能对话相关技术方面&＃xff0c;此刻&＃xff0c;距离国外最先进技术的差距进一步加大了。技术领先或技术差距这事情&＃xff0c;我觉得要动态地以发展的眼光来看。在208年Bert&＃xff08;一种大规模预训练语言模型&＃xff09;出现之后的一到两年间&＃xff0c;其实国内在这块的技术追赶速度还是很快的&＃xff0c;也提出了一些很好的人工智能改进模型&＃xff0c;差距拉开的分水岭应该是在 GPT 3.0出来之后&＃xff0c;也就是2020年年中左右。在当时&＃xff0c;其实只有很少的人觉察到&＃xff1a;GPT 3.0它不仅仅是一项具体的技术&＃xff0c;其实体现的是大型语言模型应该往何处去的一个发展理念。自此之后&＃xff0c;差距拉得越来越远&＃xff0c;ChatGPT只是这种发展理念差异的一个自然结果。所以&＃xff0c;我个人认为&＃xff0c;抛开是否有财力做超大型LLM这个因素&＃xff08;因为OpenAI训练ChatGPT花费是120亿美金左右&＃xff09;。如果单从技术角度看&＃xff0c;差距主要来自于对LLM的认知以及未来应往何处去的发展理念的不同。

国内被国外技术甩得越来越远&＃xff0c;这个是事实&＃xff0c;不承认也不行。前阵子网上很多人担忧说国内AI现在处于“危急存亡之秋”&＃xff0c;我觉得倒也不至于这么严重。君不见&＃xff0c;这个世界上&＃xff0c;具备这么超前眼光的只有OpenAI一家吗&＃xff1f;包括Google在内&＃xff0c;其实对于LLM发展理念的理解&＃xff0c;明显都落后OpenAI一个身位。现实是OpenAI表现过于优秀&＃xff0c;把所有人都甩开了&＃xff0c;不仅仅是国内。

我觉得&＃xff0c;OpenAI对LLM在理念及相关技术方面&＃xff0c;领先国外的Google、DeepMind大约半年到一年的时间&＃xff0c;领先国内大概两年到三年左右的时间。在大型语言模型这个事情上&＃xff0c;感觉梯队很明显&＃xff0c;谷歌应该是排在第二位&＃xff0c;最能体现谷歌技术眼光的是PaLM和Pathways&＃xff0c;推出时间大概在22年2月到4月间&＃xff0c;同一时期&＃xff0c;OpenAI推出的却是InstructGPT&＃xff0c;从这里就可以看出谷歌和OpenAI的差距了。至于2月8号谷歌推出的聊天机器人Bard&＃xff0c;是为了和微软的搜索引擎Bing 竞争&＃xff0c;有点赶鸭子上架的味道&＃xff0c;当然结果也没有达到谷歌投资者的合理预期&＃xff0c;扯远了。说到DeepMind之前的重心一直在强化学习攻克游戏和AI预测蛋白质结构这些方面&＃xff0c;切入大型语言模型其实很晚&＃xff0c;应该是21年才开始重视这个方向&＃xff0c;目前也处于追赶状态。Meta就更不用说了&＃xff0c;重心一直不在LLM上&＃xff0c;还在元宇宙概念里挣扎着&＃xff0c;目前感觉也发力开始追赶。这还是目前做得最好的一批机构&＃xff0c;尚且如此&＃xff0c;更何况国内呢&＃xff1f;我觉得情有可原。至于OpenAI关于大型语言模型的理念是什么&＃xff0c;我在本文的最后一部分&＃xff0c;会谈谈我的一些想法。

那么LLM技术出现后&＃xff0c;对于整个人工智能语言模型研究有什么影响呢&＃xff1f;我觉得主要有两点。

影响一&＃xff1a;中间任务的消亡

自然语言模型是一个宏观研究领域的统称&＃xff0c;里面有五花八门具体的子领域与子方向&＃xff0c;如果仔细分析&＃xff0c;从任务的性质角度&＃xff0c;可以把这些任务分成两大类&＃xff1a;一类可以叫做“中间任务”&＃xff0c;一类可以称为“最终任务”。

典型的中间任务包括&＃xff1a;中文分词、词性标注、NER、句法分析、指代消解、语义Parser等&＃xff0c;这类任务一般并不解决应用中的实际需求&＃xff0c;大多数是作为那些解决实际需求任务的中间阶段或者辅助阶段存在的&＃xff0c;比如几乎没有需求说&＃xff0c;我要一个句法Parser&＃xff0c;把这个句子的句法分析树给用户看看&＃xff0c;用户不需要看到这些NLP的中间阶段处理结果&＃xff0c;他只关心某个具体任务你有没有干好。“最终任务”包括比如文本分类、文本相似性计算、机器翻译、文本摘要等等&＃xff0c;有很多。这类任务的特点是每个子领域都解决某个实际需求&＃xff0c;任务结果基本能直接呈现给用户&＃xff0c;比如用户确实存在给你一句英文&＃xff0c;告诉他中文是什么的需求。

按理说&＃xff0c;“中间任务”就不应该出现&＃xff0c;而之所以会存在&＃xff0c;这是技术发展水平不够高的一种体现。在技术发展早期阶段&＃xff0c;因为当时的技术相对落后&＃xff0c;很难一步做好有难度的最终任务。比如机器翻译&＃xff0c;早期技术要做好机器翻译是很困难的&＃xff0c;于是科研人员就把难题分而治之&＃xff0c;分解成分词、词性标注、句法分析等各种中间阶段&＃xff0c;先把每个中间阶段做好&＃xff0c;然后再拼起来完成最终任务&＃xff0c;这也是没办法的事情。

但是自从Bert&＃xff0f;GPT出现之后&＃xff0c;其实就没有必要做这些中间任务了&＃xff0c;因为通过大量数据的预训练&＃xff0c;Bert&＃xff0f;GPT已经把这些中间任务作为语言学特征&＃xff0c;吸收到了几千亿的训练参数里&＃xff0c;此时我们完全可以端到端地直接解决那些最终任务&＃xff0c;而无须对这种中间过程专门建模。这里可能争议最大的是中文分词&＃xff0c;其实道理也是一样的&＃xff0c;哪些字应该组成一个词&＃xff0c;这个其实你不用管&＃xff0c;让LLM自己当特征去学就行了&＃xff0c;只要对于解决任务有帮助&＃xff0c;它自然会去学该学的合理分词方式&＃xff0c;也未必一定要和我们人类理解的分词规则相同。

基于以上认知&＃xff0c;其实在Bert/GPT一出现&＃xff0c;你就应该得出这类NLP的中间阶段的任务&＃xff0c;会逐步退出历史舞台这个结论。

影响二&＃xff1a;不同研究方向技术路线的统一

在说明具体影响前&＃xff0c;我们先讨论下另外一种自然语言模型任务划分方式&＃xff0c;这对于理解后面内容有帮助。如果对“最终任务”进一步进行分类&＃xff0c;又大致可以分为两大不同类型的任务&＃xff1a;自然语言理解类任务和自然语言生成类任务。如果排除掉“中间任务”的话&＃xff0c;典型的自然语言理解类任务包括文本分类、句子关系判断、情感倾向判断等&＃xff0c;这种任务本质上都是分类任务&＃xff0c;就是说输入一个句子&＃xff08;文章&＃xff09;&＃xff0c;或者两个句子&＃xff0c;模型参考所有输入内容&＃xff0c;最后给出属于哪个类别的判断。自然语言生成也包含很多NLP研究子方向&＃xff0c;比如聊天机器人、机器翻译、文本摘要、问答系统等。生成类任务的特点是给定输入文本&＃xff0c;对应地&＃xff0c;模型要生成一串输出文本。这两者的差异主要体现在输入输出形式上。

自从Bert/GPT模型诞生后&＃xff0c;出现了明显的技术统一趋向。首先&＃xff0c;NLP中不同的子领域&＃xff0c;其特征抽取器都逐渐从LSTM/CNN统一到Transformer上。其实&＃xff0c;自Bert公开后不久&＃xff0c;就应该意识到&＃xff0c;这必然会成为技术趋势。不仅统一了自然语言模型诸多领域&＃xff0c;也正在逐步地替换图像处理各种任务中被广泛使用的CNN等其它模型的进程之中&＃xff0c;类似的&＃xff0c;多模态模型目前也基本都采用了Transformer模型。这种Transformer从NLP出发&＃xff0c;攻城略地逐步统一AI越来越多领域的趋势&＃xff0c;起始于2020年底出现的Vision Transformer (ViT) &＃xff0c;之后蓬勃发展&＃xff0c;到目前已大获成功&＃xff0c;且其继续向更多领域拓展的势头会越来越迅猛。

谈完了对于对于AI发展的影响&＃xff0c;下面再认真讨论一下对于国内研究者ChatGPT带来的巨大冲击。其实&＃xff0c;基于上面的论述&＃xff0c;影响也是这两点。

影响一&＃xff1a;很多语言模型子领域不再具备独立研究价值

就语言模型&＃xff08;NLP&＃xff09;领域而言&＃xff0c;这次范式转换&＃xff0c;意味着很多目前独立存在的NLP研究领域&＃xff0c;将被纳入LLM的技术体系&＃xff0c;进而不再独立存在&＃xff0c;逐步消失。尽管NLP中很多“中间任务”&＃xff0c;继续作为独立研究领域存在不再必要&＃xff0c;但是大多数“最终任务”&＃xff0c;仍然是以独立研究领域存在的&＃xff0c;只是切换成在“预训练&＃43;fine-tuning”框架下&＃xff0c;面对领域独有问题&＃xff0c;陆续提出新的改进方案。

目前研究表明&＃xff0c;很多NLP任务&＃xff0c;随着LLM模型规模增长&＃xff0c;效果会大幅提升。据此&＃xff0c;我觉得可得到如下推论&＃xff1a;大多数某领域所谓“独有”的问题&＃xff0c;大概率只是缺乏领域知识导致的一种外在表象&＃xff0c;只要领域知识足够多&＃xff0c;这个所谓领域独有的问题&＃xff0c;就可以被很好地解决掉&＃xff0c;其实并不需要专门针对某个具体领域问题&＃xff0c;冥思苦想去提出专用解决方案。也许AGI的真相超乎意料地简单&＃xff1a;你只要把这个领域更多的数据交给LLM&＃xff0c;让它自己学习更多知识即可。

在这个背景下&＃xff0c;同时&＃xff0c;ChatGPT证明了我们现在是可以直接去追求理想LLM模型的&＃xff0c;那么&＃xff0c;未来的技术发展趋势应该是&＃xff1a;追求规模越来越大的LLM模型&＃xff0c;通过增加预训练数据的多样性&＃xff0c;来涵盖越来越多的领域&＃xff0c;LLM自主从领域数据中通过预训练过程学习领域知识&＃xff0c;随着模型规模不断增大&＃xff0c;很多问题随之得到解决。研究重心会投入到如何构建这个理想LLM模型&＃xff0c;而非去解决某个领域的具体问题。这样&＃xff0c;越来越多NLP的子领域会被纳入LLM的技术体系&＃xff0c;进而逐步消失。

我认为&＃xff0c;判断某个具体领域是否该立即停止独立研究&＃xff0c;其判断标准可采取以下两种方法&＃xff0c;占其一即可&＃xff1a;第一&＃xff0c;判断某个任务&＃xff0c;是否LLM的研究效果超过人类表现&＃xff0c;对于那些LLM效果超过人类的研究领域&＃xff0c;已无独立研究的必要。举个例子&＃xff0c;GLUE与SuperGLUE测试集合里的很多任务&＃xff0c;目前LLM效果已超过人类表现&＃xff0c;与这个数据集合密切相关的研究领域&＃xff0c;其实就没有继续独立存在的必要。第二&＃xff0c;对比两种模式的任务效果&＃xff0c;第一种模式是用较大的领域专用数据进行Fine-tuning&＃xff0c;第二种是few-shot prompting或instruct-based方法。如果第二种方法效果达到或超过第一种方法&＃xff0c;则意味着这个领域没有继续独立存在的必要性。如果用这个标准来看&＃xff0c;其实很多研究领域&＃xff0c;目前fine-tuning效果还是占优的&＃xff08;因为这种模式领域训练数据量大&＃xff09;&＃xff0c;看似还可独立存在。但是考虑到很多任务随着模型规模增大&＃xff0c;few shot prompting效果持续增长&＃xff0c;随着更大模型的出现&＃xff0c;这个拐点很可能短期就会达到。

如果上述猜测成立&＃xff0c;将意味着如下残酷事实&＃xff1a;对于很多ai搞自然语言处理领域的研究人员&＃xff0c;将面临往何处去的选择&＃xff0c;是继续做领域独有问题呢&＃xff1f;还是放弃这种看似前途不大的方式&＃xff0c;转而去建设更好的LLM&＃xff1f;如果选择转向去建设LLM&＃xff0c;又有哪些机构有能力、有条件去做这个事情呢&＃xff1f;你对这个问题的回答会是什么呢&＃xff1f;

影响二&＃xff1a;更多NLP之外的研究领域将被纳入LLM技术体系

如果站在AGI的视角&＃xff0c;参照之前描述的理想LLM模型&＃xff0c;它所能完成的任务&＃xff0c;不应局限于NLP领域&＃xff0c;或某一两个学科领域&＃xff0c;理想中的LLM应该是领域无关的通用人工智能模型&＃xff0c;它现在在某一两个领域做得好&＃xff0c;不代表只能做这些任务。ChatGPT的出现&＃xff0c;证明了现在这个时期&＃xff0c;我们去追求AGI是有可行性的&＃xff0c;而现在是抛开“领域学科”这个思维束缚的时候了。

ChatGPT除了展示出以流畅的对话形式解决各种NLP任务外&＃xff0c;也具备强大的代码能力。很自然的&＃xff0c;之后越来越多其它的研究领域&＃xff0c;也会被逐步纳入LLM体系中&＃xff0c;成为通用人工智能的一部分。

LLM从NLP向外进行领域拓展&＃xff0c;一个自然的选择就是图像处理及多模态相关任务。目前已经有些工作在尝试把多模态融入&＃xff0c;让LLM成为一个支持多模态输入输出的通用人机接口&＃xff0c;典型的例子包括DeepMind的Flamingo和微软的“Language Models are General-Purpose Interfaces”&＃xff0c;上图展示了这种方式的概念结构。

我的判断是无论是图像还是多模态&＃xff0c;未来被融入LLM成为好用的功能&＃xff0c;可能比我们想象的进度要慢。主要原因在于&＃xff1a;尽管图像领域最近两年也一直在模仿Bert预训练的路子&＃xff0c;尝试引入自监督学习&＃xff0c;释放模型自主从图像数据中学习知识的能力&＃xff0c;典型技术就是“对比学习”和MAE&＃xff0c;这是两条不同的技术路线。然而&＃xff0c;从目前效果来看&＃xff0c;尽管取得了很大的技术进步&＃xff0c;但貌似这条路尚未走通&＃xff0c;这体现在图像领域预训练模型应用到下游任务&＃xff0c;带来的效果收益&＃xff0c;远不如Bert或GPT应用在NLP下游任务那样显著。所以&＃xff0c;图像预处理模型仍需深入探索&＃xff0c;以释放图像数据的潜力&＃xff0c;而这会迟滞它们被统一到LLM大模型的时间。当然&＃xff0c;如果哪天这条路被趟通&＃xff0c;大概率会复现NLP领域目前的局面&＃xff0c;就是图像处理各个研究子领域可能会逐步消失&＃xff0c;被融入到大型LLM中来&＃xff0c;直接完成终端任务。

除了图像与多模态&＃xff0c;很明显&＃xff0c;其它领域也会逐渐被纳入到理想LLM中来&＃xff0c;这个方向方兴未艾&＃xff0c;是具备高价值的研究主题。

、

以上是我对其影响的个人思考&＃xff0c;接下来&＃xff0c;我们可以大胆地预测一下大型语言模型接下来怎么走&＃xff1f;

未来之路&＃xff1a;LLM研究趋势究及值得研点方向

这里列出一些我个人认为比较重要的LLM研究领域&＃xff0c;或值得深入探索的研究方向。

探索LLM模型的规模天花板

尽管继续推大LLM模型的规模&＃xff0c;这事看似没有技术含量&＃xff0c;但是其实这个事情异常重要。我个人判断&＃xff0c;自从Bert出现以来&＃xff0c;到GPT 3&＃xff0c;再到ChatGPT&＃xff0c;大概率这些给人印象深刻的关键技术突破&＃xff0c;核心贡献都来自于LLM模型规模的增长&＃xff0c;而非某项具体技术。说不定&＃xff0c;揭开AGI真正的钥匙就是&＃xff1a;超大规模及足够多样性的数据、超大规模的模型&＃xff0c;以及充分的训练过程。再者&＃xff0c;做超大规模的LLM模型&＃xff0c;对技术团队的工程实现能力要求是非常高的&＃xff0c;也不能认为这事情缺乏技术含量。

那么继续推大LLM模型规模&＃xff0c;有什么研究意义呢&＃xff1f;我觉得有两方面的价值。首先&＃xff0c;如上所述&＃xff0c;我们已知&＃xff0c;对于知识密集型的任务&＃xff0c;随着模型规模越大&＃xff0c;各种任务的效果会越来越好&＃xff1b;而对很多推理类型的有难度的任务&＃xff0c;加上CoT Prompting后&＃xff0c;其效果也呈现出遵循Scaling law的趋向。那么&＃xff0c;很自然的一个问题就是&＃xff1a;对于这些任务&＃xff0c;LLM的规模效应&＃xff0c;能将这些任务解决到何种程度&＃xff1f;这是包括我在内&＃xff0c;很多人关心的问题。其次&＃xff0c;考虑到LLM具备的神奇的“涌现能力”&＃xff0c;如果我们继续增加模型规模&＃xff0c;它会解锁哪些让我们意想不到的新能力呢&＃xff1f;这也是很有意思的问题。考虑到以上两点&＃xff0c;我们仍然需要不断增大模型规模&＃xff0c;看看模型规模对解决各类任务的天花板在哪里。

当然&＃xff0c;这种事情也就只能说说&＃xff0c;对99.99%的从业者来说&＃xff0c;是没有机会和能力做这个事情的。要做这个事情&＃xff0c;对研究机构的财力及投入意愿、工程能力、技术热情&＃xff0c;都有极高的要求&＃xff0c;缺一不可。能做这事情的机构&＃xff0c;粗估下来&＃xff0c;国外不超过5家&＃xff0c;国内不超过3家。

增强LLM的复杂推理能力

正如之前对LLM推理能力的叙述&＃xff0c;尽管LLM在最近一年推理能力得到了很大的提升&＃xff0c;但是很多研究表明&＃xff0c;目前LLM能够解决得比较好的推理问题&＃xff0c;往往都相对简单&＃xff0c;LLM的复杂推理能力仍然薄弱&＃xff0c;比如即使是简单的字符拷贝推理或者加减乘除运算&＃xff0c;当字符串或者数字非常长的时候&＃xff0c;LLM推理能力会极速下降&＃xff0c;再比如行为规划能力等复杂推理能力很弱。总而言之&＃xff0c;加强LLM的复杂推理能力&＃xff0c;应该是LLM未来研究中最重要的环节之一。

前文有述&＃xff0c;加入代码加入预训练&＃xff0c;这是一种直接增强LLM推理能力的方向。这个方向目前研究尚显不足&＃xff0c;更像是实践经验的总结&＃xff0c;探索背后的原理&＃xff0c;并进而引入更多类型除代码外的新型数据来增强LLM的推理能力&＃xff0c;这可能是更本质提升推理能力的方向。

LLM纳入NLP之外更多其它研究领域

目前的ChatGPT擅长NLP和Code任务&＃xff0c;作为通向AGI的重要种子选手&＃xff0c;将图像、视频、音频等图像与多模态集成进入LLM&＃xff0c;乃至AI for Science、机器人控制等更多、差异化更明显的其它领域逐步纳入LLM&＃xff0c;是LLM通往AGI的必经之路。而这个方向才刚刚开始&＃xff0c;因此具备很高的研究价值。

高质量数据工程

对于神经网络模型来说&＃xff0c;数据是其根本&＃xff0c;预训练过程可以理解为从数据中吸取其中所包含知识的过程。因此&＃xff0c;我们需要进一步加强对高质量数据的挖掘、收集及清洗等工作。

关于数据&＃xff0c;需要考虑两个方面&＃xff1a;数据的质量和数量。而根据T5的对比实验&＃xff0c;我们可以得出结论&＃xff1a;在数量和质量两个因素里&＃xff0c;质量优先&＃xff0c;正确的道路应该是在保证数据质量的前提下&＃xff0c;再去增大数据规模。

数据质量&＃xff0c;包括数据的信息含量以及数据的多样性等多个衡量标准&＃xff0c;比如Wiki明显就属于世界知识密度极高的高质量数据&＃xff0c;这是从信息含量来说的&＃xff1b;而增加数据类型的多样性&＃xff0c;无疑是激发LLM各种新能力的根本&＃xff0c;比如加入问答网站的数据&＃xff0c;对于LLM的QA能力提升是有直接帮助的。多样化的数据赋予了LLM更好解决更多不同类型任务的能力&＃xff0c;所以&＃xff0c;这可能是数据质量里最关键的标准。

关于数据数量&＃xff0c;原则上互联网上公开发布的数据都可以纳入LLM模型的预训练过程。那么&＃xff0c;它的极限在哪里&＃xff1f;“Will we run out of data? An analysis of the limits of scaling datasets in Machine Learning” 对此进行了估算&＃xff0c;结论是到2026年左右&＃xff0c;高质量的NLP数据将会用光&＃xff0c;低质量NLP数据会在2030到2050年用光&＃xff0c;而低质量图像数据会在2030到2060年用光。而这意味着&＃xff1a;要么到时我们有新类型的数据源&＃xff0c;要么我们必须增加LLM模型对数据的利用效率。否则&＃xff0c;目前这种数据驱动的模型优化方式将会停止进步&＃xff0c;或者收益减少。

ChatGPT:为什么是OpenAI

为什么是OpenAI作出了ChatGPT&＃xff0c;而不是其它机构呢&＃xff1f;我们在这里可以做个简单分析。

在本文开头&＃xff0c;我们提到了OpenAI看待LLM的理念。OpenAI是怎么看待LLM的呢&＃xff1f;回顾它不断推出的技术&＃xff0c;可以看出&＃xff0c;它其实从GPT 1.0开始&＃xff0c;基本就坚定地把LLM看做是通往AGI的一条必由之路。具体而言&＃xff0c;在OpenAI眼中&＃xff0c;未来的AGI应该长这个样子&＃xff1a;有一个任务无关的超大型LLM&＃xff0c;用来从海量数据中学习各种知识&＃xff0c;这个LLM以生成一切的方式&＃xff0c;来解决各种各样的实际问题&＃xff0c;而且它应该能听懂人类的命令&＃xff0c;以便于人类使用。其实对LLM发展理念的理解&＃xff0c;在前半部分&＃xff0c;就是“构建一个任务无关的超大型LLM&＃xff0c;让它从海量数据中学习各种知识”&＃xff0c;这一点几乎是大家的共识&＃xff0c;能体现出OpenAI眼光的其实是后半部分。

OpenAI的理念比较超前&＃xff0c;对自我定位从一开始就定得比较高&＃xff0c;始终坚定不移地探索上述方式是否可以实现AGI。OpenAI之所以能作出ChatGPT&＃xff0c;胜在一个是定位比较高&＃xff0c;另一个是不受外界干扰&＃xff0c;态度上坚定不移。

我们可以回顾下它走的一些关键路程&＃xff1a;GPT 1.0走的是生成模式的自回归语言模型路线&＃xff0c;比Bert出来的还早些。Bert证明了&＃xff1a;双向语言模型对于很多NLP理解类任务&＃xff0c;效果比自回归这种单向语言模型效果更好。尽管如此&＃xff0c;GPT 2.0并没有因此切换到双向语言模型这条路上&＃xff0c;仍然走文本生成的路&＃xff0c;而且开始尝试零示例&＃xff08;zero shot&＃xff09;prompt和少量示例&＃xff08;few shot&＃xff09;prompt。其实这时候&＃xff0c; OpenAI心目中的AGI已经开始浮出水面&＃xff0c;逐渐显示出轮廓了。只是因为zero shot/few shot效果比Bert&＃43;fine-tuning差的比较远&＃xff0c;所以大家都没太当回事&＃xff0c;甚至不理解它为什么要始终坚持走单向语言模型的路线。这个时候&＃xff0c;我估计即使是OpenAI自己&＃xff0c;也不一定能确保这条路肯定能走通。

但是&＃xff0c;这不妨碍它继续在这条路上往后走。GPT 3.0已经展示出了比较强大的zero shot/few shot prompt能力&＃xff0c;这时候OpenAI心目中的AGI已经完全漏出水面&＃xff0c;轮廓清晰&＃xff0c;而且它的效果也证明了这条路&＃xff0c;是有较大可能走得通的。GPT 3.0是一个决定LLM发展方向的叉路口和分水岭&＃xff0c;与之对应的另外一条路是“Bert&＃43;fine-tuning”模式。在这个岔路口&＃xff0c;不同的从业者选择走上了不同的道路&＃xff0c;后面的技术差距也是从这里开始拉开的。很遗憾地是&＃xff0c;国内很多从业者选择继续在“Bert&＃43;fine-tuning”这条路上往后走&＃xff0c;这也是造成今天落后局面的一个关键时间节点。再往后&＃xff0c;就是InstructGPT和ChatGPT了&＃xff0c;OpenAI通过ChatGPT证明了一点&＃xff1b;虽然我们距离真正的AGI&＃xff0c;可能还有很长的路要走&＃xff0c;但是通过超大LLM走向AGI这条路&＃xff0c;目前看是可行的。