终于有人将大模型可视化了！

一名来自新西兰的帅气小伙将大模型决策过程可视化了！

在线网址：

https://bbycroft.net/llm

项目简介

llm-viz的主要目标是展示大型语言模型（LLM）的工作流程和内部机制。具体来说，它提供了一个GPT风格网络的工作实现的3D模型，即OpenAI的GPT-2、GPT-3（以及可能的GPT-4）中使用的网络拓扑结构的可视化。通过这个项目，用户可以更直观地理解LLM的内部架构和工作原理。

在llm-viz中，显示的第一个具有工作权重的网络是一个微小的网络，用于对字母A、B和C的小列表进行排序。这个演示示例模型是基于Andrej Karpathy的minGPT实现。渲染器还支持可视化任意大小的网络，尽管对于较大的网络，权重文件可能由于体积庞大（数百MB）而没有被下载。

llm-viz提供了在线体验地址，用户可以在线查看LLM的可视化效果。

线上版本：https://bbycroft.net/llm

如果在线玩感觉不过瘾，可以部署到本地，用户需要先安装依赖项，然后启动开发服务器即可进行本地运行，下面是源码，内附部署教程。

本地部署版本：https://github.com/bbycroft/llm-viz

大模型可视化

在此我们以nano-GPT为例，将推理过程进行了可视化。

左侧的图表展示了模型结构的全面概览，详细描绘了模型的整体框架及其各个组件的组成。

从上图中，我们可以清晰地看到nano-GPT是基于Transformer架构构建的。Transformer架构本质上是一种Encoder-Decoder结构，然而GPT模型独辟蹊径，仅采用了Decoder部分。在Decoder中，每个Token的输出仅依赖于当前输入Token之前的Token信息，因此Decoder主要被应用于文本生成任务，它通过自回归的方式预测下一个可能出现的单词。

当然，有仅采用Decoder的模型，自然也有仅利用Encoder的模型。Bert便是其中的佼佼者。在Encoder中，每个Token的输出都融合了所有输入Token的信息，这使得Encoder在文本理解方面表现尤为出色。

此外，还有一类模型同时使用了Encoder和Decoder，它们构成了典型的seq2seq架构。其中，Encoder负责捕获源序列的内在表示，而Decoder则将这些表示解码为目标序列。这种架构在诸如语言翻译、语音识别等应用中发挥了重要作用。

特别值得一提的是，当您选择模型整体或其中某个组件时，右侧界面将实时播放各个组件处理数据的动画，让您能够直观地了解数据在模型中的流转过程，从而更深入地理解模型的工作原理。

参考论文：

• 神器网址：https://bbycroft.net/llm

• Attention is all you need, https://arxiv.org/pdf/1706.03762.pdf；

• GPT-1，Improving Language Understanding by Generative Pre-Training，https://cdn.openai.com/research-covers/language-unsupervised/language_understanding_paper.pdf；

• NanoGPT，https://github.com/karpathy/nanoGPT；

• MiniGPT，https://github.com/karpathy/minGPT。