温故知新 | 大模型专题精选第三期

ChatGPT最基本的道理就是，我们原来的人工智能、神经网络的学习方式、纯数学模型不能够解决这些具体的问题。你去搜索一套东西，他找出个东西，关键词都堆在那儿。但是它不能像人一样帮你总结归纳好，变成一个拟人化的问答形式。怎么样让机器谈话更像人，这就要加入一些微调和模型。实际上就是把人类的模型和经验加入到了这样一个系统当中。纯数学模型解决不了这些问题，这是ChatGPT的一个重大的特点。

这里边涉及到了一个理念，就是人类的智能和人工智能之间到底有什么区别？人工智能我们认为它就是把人类智能中可计算的部分，变成了计算机可以做的事。典型的适应领域就是规则要清晰稳定，所以下棋是最容易实现的一种形式......

算法在模拟人脑的信息处理方法并在超越。回顾一下人类的思维特点。人看过一些事情，或者读过的一本书，有时候会健忘，我们对细节的发现实际上是有限的，我们的计算能力和我们的复制能力也有限。

从深度学习算法角度来说，有一个非常有名的机制叫注意力分析。他就是在模拟对事情的注意，他还有一个删选机制，Dropout这个场景非常有效的，深度学习和一些传统的机器学习有很大的区别。传统的机器学习是你要去找特征。

比如说我这个算法里面可能要考虑天气的，考虑风力因素，可能考虑这个场地的因素。但是深度学习它是自动通过算法来帮你搞配置。这也导致了现在深度学习、ChatGPT已经达到1780亿的参数。这是一个非常大的一个机会......

ChatGPT中三个非常重要的技术，一个就是情景学习，第二个是思维链，第三个就是指令学习。

思维链其实是谷歌的研究员发现的。他发现了在原来的语言模型，比如说经过代码预训练之后，这个模型具备一种初步推理的能力。我们可以看左边，传统的方式是给你个情景学习的例子，我们的语言不太能够知道，我应该按第一种方式推出，他也是模仿的推出，但是这个答案是错的。

但是如果我们把这个复杂问题，用这种思维链的方式来展开，就是一步步告诉他怎么做，我们可以看到右边这个，他就可以按照我们推导的这个例子，一步步向前走。

思维链是一个非常重要的技术，因为之前我们的模型是随着参数规模的扩大，它的能力会变得越大，但是边际效应也是会慢慢变弱。但是思维链的出现，它就让我们在同级别的模型对比下，通过思维链的方法解决问题，进一步强化能力......