你有没有想过，当你在谈天软件上与智能助手对话时，背后究竟发生了什么？
就像邪术一样，它们彷佛理解你的问题，并给出合理的回答。
但有时，它们也会“幻觉”，给出一些奇怪的回答。
这背后的秘密，实在是大模型的文本天生技能。
本日，我们就来揭开这层神秘的面纱，看看AI是如何一步步编织笔墨的邪术。
想象一下，如果有一个图书馆，里面收藏了从古至今所有的书本，这个图书馆便是大模型演习的出发点。
就像邪术师须要研读邪术书来节制邪术，大模型也须要海量的文本数据来学习措辞的奥秘。
这些数据不仅仅是笔墨的堆砌，它们是理解措辞含义的钥匙。
在2013年之前，打算机处理笔墨就像是在二维平面上画画，只能看到笔墨的形状，却触摸不到它们的灵魂。
直到“词向量”这个观点的出身，我们仿佛找到了进入笔墨三维天下的入口。
词向量就像是给每个单词授予了一个坐标，让打算机能够感知单词之间的奇妙联系。
现在，让我们来到大模型的心脏——黑盒子模块。
这个模块就像是一个神秘的预言家，能够预测下一个单词涌现的概率。
它不是大略地预测，而是基于之前学习的海量数据，通过繁芜的打算得出的结论。
黑盒子模块给出的不是一个确定的答案，而是一个概率分布，就像是一张舆图，上面标注了所有可能的路径和它们的可能性。
这个分布见告我们，每个单词成为下一个单词的概率，就像是在笔墨的海洋中航行，探求最可能的航道。
在概率分布的指引下，大模型采取了一种叫做“采样”的邪术。
它不是大略地选择概率最高的单词，而是在所有可能的单词中随机选择，这就引入了随机性，让文本天生充满了不愿定性和惊喜。
文本天生的过程就像是编织一张网，每个单词都是网上的一个结。
从prompt开始，大模型一步步地预测和选择下一个单词，直到形成一段连贯、故意义的文本。
这个过程是动态的，每增加一个单词，网的构培养会发生变革。
正如任何邪术都有其代价，大模型的随机性也带来了它的双刃剑——幻觉。
有时，AI会天生一些看似合理但实则荒谬的文本，这便是所谓的“幻觉”。
它们提醒我们，只管AI技能已经取得了巨大的进步，但它仍旧在学习的路上。
大模型的文本天生技能，就像是一个不断学习和进化的邪术师。
它能够创造出令人惊叹的文本，但偶尔也会“失落手”。理解这些背后的事理，我们就能更好地理解AI的能力和局限，也能更加明智地利用这项技能。
下次当你与智能助手对话时，不妨想一想，这背后是不是也有一个正在努力编织笔墨的邪术师呢？
AI前沿儿早知道
seerboldor·beijing
AI传授教化教研定制开拓