上一篇	下一篇
注意力机制（第1/4集）	待编写

---

一、pytorch 中的多维注意力机制：

在 $NLP$ 领域内，上述三个参数都是 向量 ， 在 $pytorch$ 中参数向量会组成 矩阵 ，方便代码编写。

①结构图

注意力机制结构图如下：

②计算公式详解

计算注意力分数的方式有很多，目前最常用的就是点乘。具体如下：

当向量 $query$ 和 $key$ 长度相同时，即 $q、k_i\in R^{(1\times d)}$ ，则有：注意力分数 $s(q,k_i)=\frac{<q,k_i>}{\sqrt{d_k}}$ ，符号 $<q,k_i>$ 表示点乘/内积运算（向量点乘，结果为标量）。其中 $d_k$ 是 $k_i$ 向量的长度（为什么要在原注意力分数底下除以 $\sqrt{d_k}$ 后面会详解）。

当向量组成矩阵时，假设 $Q\in R^{(n\times d)}$ ， $K\in R^{(m\times d)}$ ， $V\in R^{(m\times v)}$ 。每个矩阵都是由参数行向量堆叠组成。则有：

$$F(Q)=Attention(Q,K,V)=softmax(\frac{Q\cdot K^T}{\sqrt{d_k}})\cdot V$$
其中 $\frac{Q{K}^T}{\sqrt{d}}\in R^{(n\times m)}$ 是注意力分数，， $softmax(\frac{Q{K}^T}{\sqrt{d_k}})\in R^{(n\times m)}$ 是注意力权重， $F(Q)\in R^{(n\times v)}$ 是输出。

这是一种并行化矩阵计算形式，将所有的 $q$ 组合成一个矩阵 $Q$ ，$k$ 和 $v$ 类似，都被组合成了矩阵 $K$ 和 $V$ 。其详细过程如下：

已知 $Q\in R^{(n\times d)}$ ， $K\in R^{(m\times d)}$ ， $V\in R^{(m\times v)}$ ，该尺寸表示有 $n$ 个 $q$ ， $m$ 个 $k$ 和 $m$ 个 $v$ 。则：

$$\begin{gathered} Q\times K^T= \\ \left[\begin{array}{c}\left[\begin{array}{ccc}\cdots & q_1& \cdots \end{array}\right]\\ \left[\begin{array}{ccc}\cdots & q_2& \cdots \end{array}\right]\\ ⋮\\ \left[\begin{array}{ccc}\cdots & q_n& \cdots \end{array}\right]\end{array}\right]●\left[\begin{array}{cccc}\left[\begin{array}{c}⋮\\ k_1\\ ⋮\\ ⋮\end{array}\right]& \left[\begin{array}{c}⋮\\ k_2\\ ⋮\\ ⋮\end{array}\right]& \cdots & \left[\begin{array}{c}⋮\\ k_m\\ ⋮\\ ⋮\end{array}\right]\end{array}\right]=\left[\begin{array}{cccc}{q}_1\cdot k_1& q_1\cdot k_2& \cdots & q_1\cdot k_m\\ q_2\cdot k_1& q_2\cdot k_2& \cdots & q_2\cdot k_m\\ ⋮& ⋮& \ddots & ⋮\\ q_n\cdot k_1& q_n\cdot k_2& \cdots & q_n\cdot k_m\end{array}\right] \end{gathered}$$

上述运算可以得到每个小 $q$ 对 $m$ 个小 $k$ 的注意力分数，再经过放缩（除以 $\sqrt{d_k}$ ）和 $softmax$ 函数后得到每个小 $q$ 对 $m$ 个小 $k$ 的注意力权重矩阵，其尺寸为 $n\times m$ ，最终和 $V$ 相乘，得到 $F(Q)$ ，其尺寸为 $n\times v$ ，对应着 $n$ 个 $q$ 的 $value$ 。

③公式细节解释

1. 第一点：

   使用点乘来计算注意力分数的意义：矩阵点乘 $Q\cdot K^T$ 就意味着做点积/内积，（在注意力机制中，点积通常等同于内积，在数学上点积是内积的特例），内积可直接衡量两个向量的方向对齐程度。若两个向量方向一致（夹角为 $0°$ ），则内积最大；方向相反（夹角为 $180°$ ），则内积最小。点乘不仅包含方向信息，还隐含向量长度的乘积。例如，若两个长向量方向一致，内积值会显著高于短向量，可能更强调其相关性。

2. 第二点：

   上述公式中， $softmax$ 里对注意力分数还除以了 $\sqrt{d_k}$ ，是因为：由于 $softmax$ 函数的计算公式用到了 $e$ 的次方，当两个数之间的倍数很大时，比如说 99 和 1 ，经过求 $e$ 的次方运算之后，差别会指数倍增加，这样求出来的概率会很离谱，不是0.99和0.01，而是0.99999999和0.0000000001（很多9和很多0）。让其中每个元素除以 $\sqrt{d_k}$ 之后，会降低倍数增加的程度（更数学性的解释可以看 00 预训练语言模型的前世今生（全文 24854 个词） - B站-水论文的程序猿 - 博客园 这篇博客中的有关注意力机制的讲解）。其功能类似于防止梯度消失。

3. 第三点：

   一般来说，在 $transformer$ 里，$K=V$ 。当然 $K\ne V$ 也可以，不过两者之间一定是有对应关系，能组成键值对的。

二、自注意力机制（Self-Attention）

当上述的三个参数都由一个另外的共同参数 经过不同的线性变换 生成时（即三者同源），就是自注意力机制。其值体现为 $Q\approx K\approx V$ 。

这三个矩阵是在同一个矩阵 $X$ 上乘以不同的系数矩阵 $W_Q、W_K、W_V$ 得到的，因此自注意力机制可以说是在计算 $X$ 内部各个 $x_i$ 之间的相关性。其后续步骤和注意力机制一样。（为什么叫自注意力机制，估计是因为这里是计算自己内部之间的相关性吧）

【注意】：最终生成的新的 $value$ 其实依然是小 $x$ 的向量表示，只不过这个新向量蕴含了其他的小 $x$ 的信息。

具体公式如下：
$$\begin{gathered} Q=W_Q\cdot X,K=W_K\cdot X,V=W_V\cdot X \\ F(Q)=Attention(Q,K,V)=softmax(\frac{Q\cdot K^T}{\sqrt{d_k}})\cdot V \end{gathered}$$
在 $NLP$ 中，可以举一个小例子理解一下（矩阵内数值即为注意力权重）：

上图中，每一个单词就是一个小 $q$ ，单词用向量表示。（有个误区：不是说自注意力机制中，小 $q$ 和自己的注意力分数就是最大的，这个要看具体语义需求）

其他变种：交叉注意力机制（ $Q$ 和 $V$ 不同源，$K$ 和 $V$ 同源）。

三、掩码自注意力机制（Masked Self-Attention）

在 $NLP$ 里，在训练过程中，比如说我想训练模型生成：“The cat is cute” 这样一个句子，并且计算其自注意力权重，这个时候 “The cat is cute” 就是已知的 label 。但是句子是一个一个单词生成的（ The → The cat → The cat is → The cat is cute），第一个生成 The ，第二个生成 cat … 在没有完全生成之前，都是不能提前告诉模型后面的答案。已知句子总长度为 $4$ ，那么注意力权重的个数依次是 1 → 2 → 3 → 4 。如下图所示：

注意了，这里的生成是指训练时的生成，掩码机制只在训练时使用，因为训练时机器知道有位置信息的句子（句子的长度也已知晓），为了防止窥探到下一个字就要掩码。但在实际使用模型时（测试时），是没有参考答案的，所以不需要掩码！

其实还有其他作用，诸如：避免填充干扰等，后面在 transformer 里会详解。

四、多头注意力机制（Multi-Head Self-Attention）

本质上就是：$X$ 做完三次线性变换得到 $Q、K、V$之后，将 $Q、K、V$分割成 $8$ 块进行注意力计算，最后将这 $8$ 个结果拼接，然后线性变换，使其维度和 $X$ 一致。（并不是直接对 X 进行切分，也不是对 X 进行重复线性变换）

意义：原论文其实也说不清楚这样做的意义，反正给人一种能学到更细致的语义信息的感觉（深度学习就是这样~~）。

流程图如下：

第一步：

输入序列 $X$ 首先经过三次独立的线性变换，生成查询（$Query$）、键（$Key$）、值（$Value$）矩阵：

$Q=W_Q\cdot X$ ， $K=W_K\cdot X$ ， $V=W_V\cdot X$ 。其中， $W_Q、W_K、W_V$ 是可学习的权重矩阵。

第二步：

将 $Q、K、V$ 矩阵沿特征维度平均分割为多个头。一般头数均为 $8$（即 $h=8$），假设 $Q、K、V$ 的特征维度为 $M$ ，则分割之后每个头的特征维度为 $M/8$ 。

第三步：

每个头各自并行计算注意力并得到各自的输出（先点积，再缩放，再做 $softmax$ ，再乘以 $value$ ）【每个头学习不同子空间的语义关系】

第四步：

合并多头输出，将所有头的输出拼接为完整维度，再通过一次线性变换整合信息：

$Output=Concat(hea{d}_1,\dots ,hea{d}_h)\cdot W_O$ 。其中 $W_O$ 是最后的线性层的投影矩阵。

值得一提的是：针对 “将 $Q、K、V$分割成 $8$ 块” 这个步骤，《Attention Is All You Need》论文原文说的是： linearly project h times ，意思就是将 $Q、K、V$通过线性层将其变换为 $8$ 个新的特征维度为 $M/8$ 的 $Q^{{}^{\prime }}、K^{{}^{\prime }}、V^{{}^{\prime }}$ 。不过这在数学上等效于直接分割成 $8$ 块，并且后者在算法实现上能提高效率。代码如下：

Q = torch.randn(batch_size, seq_len, h*d_k)
Q = Q.view(batch_size, seq_len, h, d_k)  # 分割为 h 个头

.view() 函数的作用是变换尺寸，将原来的三维张量，变成四维张量（ h 个三维张量），元素的值不变，元素的总数也不变，其效果等于切割。

---