绝对位置编码 原理：为每个位置赋予一个唯一的编码向量，该向量与输入序列中的元素相结合，使模型能够区分不同位置的元素。例如，在正弦位置编码中，通过正弦和余弦函数计算不同位置的编码值。 优点 位置信息明确：能直接且明确地将每个位置的绝对信息传递给...

ChatGPT强化学习主要包括以下步骤，涉及SFT模型、RM模型及PPO算法： 带监督的微调（SFT模型）： 数据收集：选择一份提示列表，让一组人工标注人员写下预期的输出响应。提示来源包括标注人员或开发人员直接提供，以及从OpenAI的API...

基于生成文本的指标 困惑度（Perplexity） 原理：衡量语言模型对给定文本序列的预测能力，是对模型预测概率的几何平均倒数。困惑度越低，说明模型对文本的预测越准确，语言理解和生成能力越强。 1})的情况下预测单词(w_{i})的概率。 ...

语言模型的发展主要经历了以下四个阶段： 统计语言模型阶段：20世纪90年代，统计语言模型成为自然语言处理的主要技术。其核心思想是基于马尔可夫假设，通过统计语言序列中词与词之间的频率关系来预测下一个词的出现概率，通常使用固定长度的上下文窗口，如二...

Unigram（一元模型） 定义：单个的词语或者符号。 示例：在句子“我爱自然语言处理”里，unigram 有“我”“爱”“自然”“语言”“处理”。 用途：可用于词频统计，像构建词袋模型就会用到。 Bigram（二元模型） 定义：由两个...

在PyTorch中，常见的梯度下降优化算法有多种： 随机梯度下降（SGD） 原理：每次使用一个样本进行梯度计算和参数更新。 优点：计算速度快，能够处理大规模数据集，容易实现。 缺点：梯度估计方差较大，导致收敛过程可能会有较大波动，有时需要较长时...

计算方式 批量梯度下降（BGD）：每次更新参数时都使用整个训练数据集来计算梯度。具体来说，对于具有(m)个样本的训练集，其梯度计算是对所有样本的损失函数关于参数的偏导数求和，然后再根据梯度更新参数。 随机梯度下降（SGD）：每次更新参数时只使用...

损失函数数学公式用途特性 nn.MSELoss( \text{MSE} = \frac{1}{n} \sum_{i=1}^{n} (y_i - \hat{y}_i)^2 )回归问题，如预测房价、股票价格等。对异常值敏感，会放大预测值和真实值之...

初始化方法函数名原理适用场景优点缺点 零初始化nn.init.zeros_将所有的权重参数初始化为零不适用（极少情况）简单易实现会导致所有神经元学习到相同的特征，造成对称问题，模型无法收敛 随机初始化nn.init.uniform_在指定的均...

在Transformer架构里，Encoder、Decoder、Cross Attention和Self Attention是关键组件， 1. Self Attention Self Attention是Transformer的核心机制，它能够让...