生成式AI中常说的token是什么?嵌入(Embeddings)是什么意思?为什么现在的AI具有生成能力?AI是怎么和你进行对话的?为什么都说提示词很重要?为什么同一段提示词,同一个AI模型/工具,多问几次可能得到截然不同的结果?
要回答以上这些问题,你需要了解大语言模型(LLM)是如何工作的。知其然,也要知其所以然。
步骤1:分词(Tokenize)
面对一个问题,我们人类的习惯性操作是什么?理解问题。LLM也是一样。
LLM在处理输入文本时,首先使用分词器(Tokenizer)将文本分割成若干小的文本块,即tokens。这些tokens由可变数量的字符组成,随后被转换成高维向量的数值表示,也就是嵌入(embeddings),供模型处理。这一步骤是模型理解语言的基础,类似于人类阅读和解析文本的过程。
![image.png image.png](https://data.CIOZJ.COM/UploadFiles/2024/6385691554956311258525322.png)
分词(Tokenize)是LLM工作的第一步,在这个过程中将输入文本转换为模型可以处理的数值表示。这个过程通常包括以下几个步骤:
文本分割:输入文本首先被分割成若干小的文本块(tokens)。每个token可以是一个单词、部分单词或字符序列。分词的方式取决于具体的分词器算法和模型的需求。例如,BERT模型通常使用WordPiece分词方法,而GPT系列模型使用Byte Pair Encoding (BPE)。
Token映射:分割后的tokens被映射到特定的token索引,即整数编码。这些整数编码是模型内部词汇表的一部分。通过这种方式,文本被转换为数值序列,模型可以更高效地进行处理。
嵌入(Embeddings):这些整数编码随后被转换为高维向量,这些向量称为嵌入(embeddings)。嵌入是对文本语义信息的密集表示,捕捉了词汇之间的语义关系和上下文信息。嵌入向量在模型的初始层被计算和优化,以便在后续的模型层中进行处理。
步骤2:预测(Predict)
在完成分词和嵌入后,LLM进入核心的预测阶段。这一过程通过多层神经网络和注意力机制来完成,以确保生成的文本在语法和语义上都是合理的。自注意力机制(Self-Attention)允许模型在生成文本时关注输入序列中的不同部分,从而理解单词之间的依赖关系。例如,Transformer架构通过自注意力机制有效地捕捉长距离依赖关系,并能够高效并行地进行计算。
![image.png image.png](https://data.CIOZJ.COM/UploadFiles/2024/6385691559053967237813631.png)
输入处理:模型接收n个输入tokens的嵌入表示。通过多层的神经网络(通常是基于Transformer架构的层),这些嵌入被处理以捕捉词与词之间的依赖关系和上下文信息。
自注意力机制:在每一层中,模型使用自注意力机制来计算每个token与其他token的关系。自注意力机制允许模型在处理当前token时考虑整个输入序列的上下文。这对于生成连贯和上下文相关的文本至关重要。
前馈神经网络:经过自注意力机制处理的输出被传递给前馈神经网络层,进一步进行非线性变换和特征提取。经过多层的自注意力和前馈处理后,模型生成用于预测的特征表示。
步骤3:概率分布和选择(Probability Distribution & Selection)
在生成文本时,LLM会为每个可能的下一个token计算一个概率分布。然后,模型会选择概率最高的token作为输出,或者通过引入随机性来选择token,从而模拟创造性思维。这种随机性的引入是为了增加模型输出的多样性,避免每次生成相同输入的相同文本。
![image.png image.png](https://data.CIOZJ.COM/UploadFiles/2024/6385691561986193904836345.png)
概率分布计算:模型为每个可能的下一个token计算一个概率分布。这些概率反映了每个token在当前上下文中作为下一个token的可能性。概率分布是通过softmax函数计算的,确保所有可能token的概率之和为1。
选择输出token:根据计算出的概率分布,模型选择一个token作为输出。通常会选择概率最高的token,但为了增加生成文本的多样性和创造性,模型有时会引入随机性。这种随机性可以通过“温度Temperature”参数进行调整,温度越高,生成的文本越随机。
迭代生成:选择的输出token会被加入到输入序列中,模型重新进行上述步骤,以生成下一个token。这种迭代过程一直持续,直到生成完整的句子或文本。
结语
知其然,更要知其所以然。
生成式AI中常说的token是什么?
Token是LLM处理文本的最小单位,可以是一个单词、部分单词或字符序列。分词器将文本分割成tokens,并将其映射为数值表示,供模型处理。
嵌入(Embeddings)是什么意思?
嵌入是将tokens转换为高维向量的过程,这些向量捕捉了词汇之间的语义关系和上下文信息,是模型理解语言的基础。
为什么现在的AI具有生成能力?
LLM通过大规模数据训练和复杂的神经网络结构,能够预测并生成符合上下文的文本。这种能力源自模型对语言模式的深度学习和对上下文的理解。
AI是怎么和你进行对话的?
AI通过接收你的输入,进行分词和嵌入,然后预测下一个可能的token,生成回应文本。这个过程是连续且动态的,确保对话的连贯性和相关性。
为什么都说提示词很重要?
提示词(prompts)是模型生成内容的起点,好的提示词能引导模型生成更符合预期的高质量文本。
为什么同一段提示词,同一个AI模型/工具,多问几次可能得到截然不同的结果?
这是因为模型在选择输出token时引入了随机性,尤其是温度参数较高时。这种随机性模拟了创造性思维,确保生成的文本多样性。
本文作者:木易 来源:AI信息Gap
CIO之家 www.ciozj.com 微信公众号:imciow