1. 概率无向图模型

概率无向图模型（probabilistic undirected graphical model），又称为马尔可夫随机场（Markov random field），是一个可以由无向图表示的联合概率分布。

1.1 模型定义

图Graph包含顶点node、边edge，无向图指的是边没有方向的图。

概率图模型指的是，图中的边表示随机变量之间的概率依赖关系。

无向图表示的随机变量之间存在 成对马尔科夫性、局部马尔科夫性、全局马尔科夫性 。

• 成对马尔可夫性
  任意不相连的两个结点 $u,v$ 分别对应随机变量 $Y_u，Y_v$ 。其他所有结点为 $O$, 对应随机变量组为 $Y_O$。
  成对马尔可夫性指：$P(Y_u,Y_v|Y_O)=P(Y_u|Y_O)P(Y_v|Y_O)$
• 局部马尔可夫性
  设 $v$ 是无向图中任意一个结点，$W$ 是与 $v$ 有连接的所有结点，$O$ 是 $v$ 和 $W$ 以外的其他所有结点。
  局部马尔可夫性指：$P(Y_v,Y_O|Y_W)=P(Y_v|Y_W)P(Y_O|Y_W)$
  在 $P(Y_O|Y_W)>0$ 时，上式等价于 $P(Y_v|Y_W)=P(Y_v|Y_W,Y_O)$
  
• 全局马尔可夫性
  设结点集合 $A,B$ 是图中被结点集合 $C$ 分开的任意结点集合
  全局马尔可夫性指：$P(Y_A,Y_B|Y_C)=P(Y_A|Y_C)P(Y_B|Y_C)$
  
  上述成对的、局部的、全局的马尔可夫性定义是等价的

1.2 概率无向图模型的因子分解

团与最大团 的定义：
任何两个结点均有连接的结点子集称为团，若 $C$ 是无向图的一个团，且不能再加进任何一个结点使其成为一个更大的团，则称 $C$ 为最大团（maximal clique）

例如，上图中2个结点组成的团有5个 {Y1,Y2},{Y2,Y3},{Y3,Y4},{Y4,Y2},{Y1,Y3}\{Y_1,Y_2\}, \{Y_2,Y_3\}, \{Y_3,Y_4\}, \{Y_4,Y_2\}, \{Y_1,Y_3\}{Y1​,Y2​},{Y2​,Y3​},{Y3​,Y4​},{Y4​,Y2​},{Y1​,Y3​}，有2个最大团 {Y1,Y2,Y3},{Y2,Y3,Y4}\{Y_1,Y_2,Y_3\}, \{Y_2,Y_3,Y_4\}{Y1​,Y2​,Y3​},{Y2​,Y3​,Y4​}。
而 {Y1,Y2,Y3,Y4}\{Y_1,Y_2,Y_3,Y_4\}{Y1​,Y2​,Y3​,Y4​} 不是一个团，因为 $Y_1$ 和 $Y_4$ 没有边连接。

将概率无向图模型的联合概率分布表示为其 最大团 上的随机变量的函数的乘积形式的操作，称为 概率无向图模型的因子分解（factorization） 。

给定概率无向图模型，$C$ 是图 $G$ 上的最大团，$Y_C$ 表示 $C$ 对应的随机变量。那么，概率无向图模型的联合概率分布 $P(Y)$ 可写作所有最大团 $C$ 上的函数 $\Psi (Y_C)$ 的乘积形式：

$$P(Y)=\frac{1}{Z}\prod _C{\Psi }_C(Y_C),其中Z=\sum _Y\prod _C{\Psi }_C(Y_C)是规范化因子$$
函数 ${\Psi }_C(Y_C)$ 称为势函数（potential function），通常定义为指数函数 ΨC(YC)=exp⁡{−E(YC)}\Psi_C(Y_C) = \exp \{-E(Y_C)\}ΨC​(YC​)=exp{−E(YC​)}

2. 条件随机场的定义与形成

2.1 条件随机场的定义

条件随机场：
设 $X$ 与 $Y$ 是随机变量，$P(Y|X)$ 是在给定 $X$ 的条件下 $Y$ 的条件概率分布。若随机变量 $Y$ 构成一个无向图的马尔科夫随机场，即：

$$P(Y_v|X,Y_{\omega },\omega \ne v)=P(Y_v|X,Y_{\omega },\omega \sim v)$$
左边表示，条件里是多个 $Y_{\omega }$, 且 $\omega \ne v$；右边是多个 $Y_{\omega }$, 且 $\omega$ 都与 $v$ 相连。则称条件概率分布 $P(Y|X)$ 为条件随机场。

线性链条件随机场：
$$\begin{gathered} P(Y_i|X,Y_1,...,Y_{i-1},Y_{i+1},...,Y_n)=P(Y_i|X,Y_{i-1},Y_{i+1}) \\ i=1,2,...,n(在i=1,n时只考虑单边) \end{gathered}$$

则称条件概率分布 $P(Y|X)$ 为线性链条件随机场。在标注问题中，$X$ 表示输入观测序列，$Y$ 表示对应的输出标记序列或状态序列。

2.2 条件随机场的参数化形式

根据上面，可以给出线性链条件随机场 $P(Y|X)$ 的因子分解式，各因子是定义在相邻两个结点（最大团）上的势函数。在随机变量 $X$ 取值为 $x$ 的条件下，随机变量 $Y$ 取值为 $y$ 的条件概率具有如下形式：

$$\begin{array}{rl}P(y|x)& =\frac{1}{Z(x)}\exp (\sum _{i,k}{\lambda }_k{t}_k(y_{i-1},y_i,x,i)+\sum _{i,l}{\mu }_l{s}_l(y_i,x,i))\\ 其中，Z(x)& =\sum _y\exp (\sum _{i,k}{\lambda }_k{t}_k(y_{i-1},y_i,x,i)+\sum _{i,l}{\mu }_l{s}_l(y_i,x,i))\end{array}$$
式中，$t_k,s_l$ 是特征函数，${\lambda }_k,{\mu }_l$ 是对应权值。$Z(x)$ 是规范化因子。

• $t_k$ 是边上的特征函数，称为转移特征，依赖于当前和前一个位置
• $s_l$ 是结点特征函数，称为状态特征，依赖于当前位置
• $t_k,s_l$ 都依赖于位置，是局部特征函数。函数取值 1 或者 0
• 条件随机场完全由 $t_k,s_l$ 特征函数，${\lambda }_k,{\mu }_l$ 对应权值 确定
• 线性链条件随机场是对数线性模型（log linear model）

例题

设有一标注问题：输入观测序列 $X=(X_1,X_2,X_3)$，输出标记序列 $Y=(Y_1,Y_2,Y_3)$，$Y_1,Y_2,Y_3$ 取值于 Y={1,2}\mathcal{Y} = \{1,2\}Y={1,2}.

假设特征 $t_k,s_l$ 和对应权值 ${\lambda }_k,{\mu }_l$ 如下：
$$\begin{array}{rl}{t}_1& =t_1(y_{i-1}=1,y_i=2,x,i),i=2,3,{\lambda }_1=1,特征函数取值为1(其余条件取0)\\ t_2& =t_2(y_1=1,y_2=1,x,2),{\lambda }_2=0.6\\ t_3& =t_3(y_2=2,y_3=1,x,3),{\lambda }_3=1\\ t_4& =t_4(y_1=2,y_2=1,x,2),{\lambda }_4=1\\ t_5& =t_5(y_2=2,y_3=2,x,3),{\lambda }_5=0.2\\ s_1& =s_1(y_1=1,x,1),{\mu }_1=1\\ s_2& =s_2(y_i=2,x,i),i=1,2{\mu }_2=0.5\\ s_3& =s_3(y_i=1,x,i),i=2,3{\mu }_3=0.8\\ s_4& =s_4(y_3=2,x,3),{\mu }_4=0.5\end{array}$$
对给定的观测序列 $x$，求标记序列为 $y=(y_1,y_2,y_3)=(1,2,2)$ 的非规范化条件概率(未除以规范化因子的条件概率)。

解：
由线性链条件随机场模型有：
$$\begin{array}{rl}P(y|x)& \propto \exp (\sum _{i,k}{\lambda }_k{t}_k(y_{i-1},y_i,x,i)+\sum _{i,l}{\mu }_l{s}_l(y_i,x,i))\\ & =\exp [\sum _{k=1}^5{\lambda }_k\sum _{i=2}^3{t}_k(y_{i-1},y_i,x,i)+\sum _{k=1}^4{\mu }_k\sum _{i=1}^3{s}_k(y_i,x,i)]\\ & =\exp (1+0.2+1+0.5+0.5)=\exp (3.2)\end{array}$$

2.3 条件随机场的简化形式

• 统一 $K_1$ 个转移特征和 $K_2$ 个状态特征，$K=K_1+K_2$，记特征函数：

$$f_k(y_{i-1},y_i,x,i)=\{\begin{array}{r}{t}_k(y_{i-1},y_i,x,i),k=1,2,...,K_1\\ s_l(y_i,x,i),k=K_1+l;l=1,2,...,K_2\end{array}$$

• 对转移和状态特征在各个位置 $i$ 求和，记作：
  $$f_k(y,x)=\sum _{i=1}^n{f}_k(y_{i-1},y_i,x,i)，k=1,2,...,K$$

• 用 ${\omega }_k$ 表示特征 $f_k(y,x)$ 的权值，即
  $${\omega }_k=\{\begin{array}{r}{\lambda }_k,k=1,2,...,K_1\\ {\mu }_l,k=K_1+l;l=1,2,...,K_2\end{array}$$

• 条件随机场可表示为
  $$\begin{gathered} P(y|x)=\frac{1}{Z(x)}\exp \sum _{k=1}^K{\omega }_k{f}_k(y,x) \\ Z(x)=\sum _y\exp \sum _{k=1}^K{\omega }_k{f}_k(y,x) \end{gathered}$$

• 用 $\omega$ 表示权值向量，$\omega =({\omega }_1,{\omega }_2,...,{\omega }_K{)}^T$

• 用 $F(y,x)$ 表示全局特征向量，即 $F(y,x)=(f_1(y,x),f_2(y,x),...,f_K(y,x){)}^T$

• 条件随机场写成向量内积形式：
  $$P_{\omega }(y|x)=\frac{\exp (\omega \cdot F(y,x))}{Z_{\omega }(x)},其中Z_{\omega }(x)=\sum _y\exp (\omega \cdot F(y,x))$$

2.4 条件随机场的矩阵形式

• 在标记序列的两端添加首尾状态标记 $y_0=start、y_{n+1}=stop$

• 引进 $M_i(y_{i-1},y_i|x)=\exp \sum _{k=1}^K{w}_k{f}_k(y_{i-1},y_i,x,i),i=1,2,...,n+1$，对比2.2节的表达式，可见该式少了对位置 $i$ 求和

• 对每个位置创建一个 $m\ast m$ 的方阵（m为状态的个数，行为 $i-1$ 位置的状态，列为 $i$ 位置的状态，值为 $M_i(y_{i-1},y_i|x)$, 用矩阵 $M_i(x)=[M_i(y_{i-1},y_i|x)]$ 来表示所有的情况）

• 又因为 $\prod _i\left[\exp \right(\sum _{k=1}^K{w}_k{f}_k(y_{i-1},y_i,x,i)\left)\right]=\exp (\sum _{k=1}^K{w}_k\sum _i{f}_k(y_{i-1},y_i,x,i))$

• 于是条件概率 $P_{\omega }(y|x)=\frac{1}{Z_{\omega }(x)}\prod _{i=1}^{n+1}{M}_i(y_{i-1},y_i|x)$
  $Z_{\omega }(x)$ 是规范化因子，是 $n+1$ 个矩阵乘积的 $(start,stop)$ 位置的元素，是路径 $start,y_1,y_2,...,y_n,stop$ 所有可能的状态组合的非规范化概率之和。
  $Z_{\omega }(x)=[M_1(x)M_2(x)\cdot \cdot \cdot M_{n+1}(x){]}_{start,stop}$

例题

假设有如下线性链条件随机场，观测序列 $x$ , 状态序列 $y,i=1,2,3,n=3$, 标记 yi∈{1,2}y_i \in \{1,2\}yi​∈{1,2}, 假设 $y_0=start=1,y_4=stop=1$，各个位置的随机矩阵 $M_1(x),M_2(x),M_3(x),M_4(x)$ 是

求状态序列 $y$ 以 $start$ 为起点，$stop$ 为终点所有路径的非规范化概率及规范化因子。

解：
所有可能的路径有 8 条：
各路径的非规范化概率是：
$$\begin{gathered} a_{01}{b}_{11}{c}_{11},a_{01}{b}_{11}{c}_{12},a_{01}{b}_{12}{c}_{21},a_{01}{b}_{12}{c}_{22} \\ {a}_{02}{b}_{21}{c}_{11},a_{02}{b}_{21}{c}_{12},a_{02}{b}_{22}{c}_{21},a_{02}{b}_{22}{c}_{22} \end{gathered}$$

规范化因子 $$\begin{gathered} Z_{\omega }(x)=[M_1(x)M_2(x)M_3(x)M_4(x){]}_{1,1} \\ {a}_{01}{b}_{11}{c}_{11}+a_{01}{b}_{11}{c}_{12}+a_{01}{b}_{12}{c}_{21}+a_{01}{b}_{12}{c}_{22}+ \\ {a}_{02}{b}_{21}{c}_{11}+a_{02}{b}_{21}{c}_{12}+a_{02}{b}_{22}{c}_{21}+a_{02}{b}_{22}{c}_{22} \end{gathered}$$
矩阵其他3个位置为 0 。可见规范化因子恰好等于所有路径的非规范化概率之和。

3. 条件随机场的概率计算问题

• 给定条件随机场 $P(Y|X)$ ，输入序列 $x$，输出序列 $y$
• 计算条件概率 $P(Y_i=y_i|x),P(Y_{i-1}=y_{i-1},Y_i=y_i|x)$ 以及相应数学期望

类似HMM，引进前向-后向向量进行计算。

3.1 前向-后向算法

对每个位置 $i=0,1,...,n+1$，定义前向向量 ${\alpha }_i(x)$：
$${\alpha }_0(y|x)=\{\begin{array}{r}1,y=start\\ 0,否则\end{array}$$
递归公式：
$${\alpha }_i^T(y_i|x)={\alpha }_{i-1}^T(y_{i-1}|x)[M_i(y_{i-1},y_i|x)],i=1,2,...,n+1$$

又可以表示为：${\alpha }_i^T(x)={\alpha }_{i-1}^T(x)M_i(x)$

${\alpha }_i(y_i|x)$ 表示在位置 $i$ 的标记是 $y_i$ 并且从 1 到 $i$ 的前部分标记序列的非规范化概率，$y_i$ 可取的值有 $m$ 个，所以 ${\alpha }_i(x)$ 是 $m$ 维列向量，$T$ 表示转置。

同样，对每个位置 $i=0,1,...,n+1$，定义后向向量 ${\beta }_i(x)$：
$${\beta }_{n+1}(y_{n+1}|x)=\{\begin{array}{r}1,y_{n+1}=stop\\ 0,否则\end{array}$$
$${\beta }_i(y_i|x)=[M_{i+1}(y_i,y_{i+1}|x)]{\beta }_{i+1}(y_{i+1}|x)$$

又可以表示为：${\beta }_i(x)=M_{i+1}(x){\beta }_{i+1}(x)$

${\beta }_i(y_i|x)$ 表示在位置 $i$ 的标记是 $y_i$ 并且从 $i+1$ 到 $n$ 的后部分标记序列的非规范化概率。

3.2 概率计算

根据前后向向量的定义，可知：
$$\begin{gathered} P(Y_i=y_i|x)=\frac{{\alpha }_i^T(y_i|x){\beta }_i(y_i|x)}{Z(x)} \\ P(Y_{i-1}=y_{i-1},Y_i=y_i|x)=\frac{{\alpha }_{i-1}^T(y_{i-1}|x)M_i(y_{i-1},y_i|x){\beta }_i(y_i|x)}{Z(x)} \\ 其中，Z(x)={\alpha }_n^T(x)1=1{\beta }_1(x),1是元素均为1的m维列向量。 \end{gathered}$$

3.3 期望值的计算

• 特征函数 $f_k$ 关于条件分布 $P(Y|X)$ 的数学期望
  $$\begin{array}{rl}{E}_{P(Y|X)}[f_k]& =\sum _{y}P(y|x)f_k(y,x)\\ & =\sum _{y}P(y|x)\sum _{i=1}^{n+1}{f}_k(y_{i-1},y_i,x,i)\\ & =\sum _{i=1}^{n+1}\sum _{y_{i-1}{y}_i}{f}_k(y_{i-1},y_i,x,i)P(Y_{i-1}=y_{i-1},Y_i=y_i|x)\\ & =\sum _{i=1}^{n+1}\sum _{y_{i-1}{y}_i}{f}_k(y_{i-1},y_i,x,i)\frac{{\alpha }_{i-1}^T(y_{i-1}|x)M_i(y_{i-1},y_i|x){\beta }_i(y_i|x)}{Z(x)}\end{array}$$其中，$k=1,2,...,K$，$Z(x)={\alpha }_n^T(x)1$

• 假设边缘分布 $P(X)$ 的经验分布为 $\tilde{P}(X)$ ，特征函数 $f_k$ 关于联合分布 $P(X,Y)$ 的数学期望：
  $$\begin{array}{rl}{E}_{P(X,Y)}[f_k]& =\sum _{x,y}P(x,y)f_k(y,x)\\ & =\sum _x\tilde{P}(x)\sum _{y}P(y|x)\sum _{i=1}^{n+1}{f}_k(y_{i-1},y_i,x,i)\\ & =\sum _x\tilde{P}(x)\sum _{i=1}^{n+1}\sum _{y_{i-1}{y}_i}{f}_k(y_{i-1},y_i,x,i)\frac{{\alpha }_{i-1}^T(y_{i-1}|x)M_i(y_{i-1},y_i|x){\beta }_i(y_i|x)}{Z(x)}\end{array}$$其中，$k=1,2,...,K$，$Z(x)={\alpha }_n^T(x)1$

通过一次前向扫描计算 ${\alpha }_i,Z(x)$ ，一次后向扫描计算 ${\beta }_i$ ，可以计算所有的概率、特征的期望

4. 条件随机场的学习算法

学习方法包括极大似然估计和正则化的极大似然估计。

具体的优化实现算法有改进的迭代尺度法IIS、梯度下降法、拟牛顿法。

看不懂（跳过）

5. 条件随机场的预测算法

给定条件随机场 $P(Y|X)$ 和观测序列 $x$ ，求条件概率最大的状态序列 $y^{\ast }$ 。与 HMM 类似，使用维特比算法。

由式 $P_{\omega }(y|x)=\frac{\exp (\omega \cdot F(y,x))}{Z_{\omega }(x)}$ 可得：

$$\begin{array}{rl}{y}^{\ast }& =\underset{y}{\mathrm{argmax}}{P}_{\omega }(y|x)\\ & =\underset{y}{\mathrm{argmax}}\frac{\exp (\omega \cdot F(y,x))}{Z_{\omega }(x)}\\ & =\underset{y}{\mathrm{argmax}}\exp (\omega \cdot F(y,x))\\ & =\underset{y}{\mathrm{argmax}}(\omega \cdot F(y,x))\end{array}$$

• 预测问题变成求非规范化概率最大的最优路径问题：$\underset{y}{\max }(\omega \cdot F(y,x))$
  其中：
  $$\begin{array}{rl}\omega & =({\omega }_1,{\omega }_2,...,{\omega }_K{)}^T\\ F(y,x)& =(f_1(y,x),f_2(y,x),...,f_K(y,x){)}^T\\ f_k(y,x)& =\sum _{i=1}^n{f}_k(y_{i-1},y_i,x,i),k=1,2,...,K\end{array}$$
  最优路径问题：$\underset{y}{\max }(\omega \cdot F(y,x))=\underset{y}{\max }\sum _{i=1}^n\omega \cdot F_i(y_{i-1},y_i,x)$
  其中，$F_i(y_{i-1},y_i,x)=(f_1(y_{i-1},y_i,x,i),f_2(y_{i-1},y_i,x,i),...,f_K(y_{i-1},y_i,x,i){)}^T$ 是局部特征向量

维特比算法：

• 先求出位置 1 的各个状态 $j=1,2,...,m$ 的非规范化概率：
  ${\delta }_i(j)=\omega \cdot F_1(y_0=start,y_1=j,x),j=1,2,...,m$

• 求出到位置 $i=2,3,...,n$ 的各个状态 $l=1,2,...,m$ 的非规范化概率的最大值，同时记录最大路径
  δi(l)=max⁡1≤j≤m{δi−1(j)+ω⋅Fi(yi−1=j,yi=l,x)},l=1,2,...,m\delta_i(l) = \max\limits_{1 \leq j \leq m} \{ \delta_{i-1}(j) + \omega \cdot F_i(y_{i-1}=j, y_i=l,x) \}, \quad l=1,2,...,mδi​(l)=1≤j≤mmax​{δi−1​(j)+ω⋅Fi​(yi−1​=j,yi​=l,x)},l=1,2,...,m
  Ψi(l)=arg max⁡1≤j≤m{δi−1(j)+ω⋅Fi(yi−1=j,yi=l,x)},l=1,2,...,m\Psi_i(l) = \argmax\limits_{1 \leq j \leq m} \{ \delta_{i-1}(j) + \omega \cdot F_i(y_{i-1}=j, y_i=l,x) \}, \quad l=1,2,...,mΨi​(l)=1≤j≤margmax​{δi−1​(j)+ω⋅Fi​(yi−1​=j,yi​=l,x)},l=1,2,...,m

• 到 $i=n$ 时终止，求得非规范化概率最大值 $\underset{y}{\max }(\omega \cdot F(y,x))=\underset{1\le j\le m}{\max }{\delta }_n(j)$，最优路径终点 $y_n^{\ast }=\underset{1\le j\le m}{\mathrm{argmax}}{\delta }_n(j)$

• 由最优路径终点返回，$y_i^{\ast }={\Psi }_{i+1}(y_{i+1}^{\ast }),i=n-1,n-2,...,1$

• 求得最优路径 $y^{\ast }=(y_1^{\ast },y_2^{\ast },...,y_n^{\ast }{)}^T$

例题

设有一标注问题：输入观测序列 $X=(X_1,X_2,X_3)$，输出标记序列 $Y=(Y_1,Y_2,Y_3)$，$Y_1,Y_2,Y_3$ 取值于 Y={1,2}\mathcal{Y} = \{1,2\}Y={1,2}.

假设特征 $t_k,s_l$ 和对应权值 ${\lambda }_k,{\mu }_l$ 如下：
$$\begin{array}{rl}{t}_1& =t_1(y_{i-1}=1,y_i=2,x,i),i=2,3,{\lambda }_1=1,特征函数取值为1(其余条件取0)\\ t_2& =t_2(y_1=1,y_2=1,x,2),{\lambda }_2=0.6\\ t_3& =t_3(y_2=2,y_3=1,x,3),{\lambda }_3=1\\ t_4& =t_4(y_1=2,y_2=1,x,2),{\lambda }_4=1\\ t_5& =t_5(y_2=2,y_3=2,x,3),{\lambda }_5=0.2\\ s_1& =s_1(y_1=1,x,1),{\mu }_1=1\\ s_2& =s_2(y_i=2,x,i),i=1,2{\mu }_2=0.5\\ s_3& =s_3(y_i=1,x,i),i=2,3{\mu }_3=0.8\\ s_4& =s_4(y_3=2,x,3),{\mu }_4=0.5\end{array}$$
求给定的观测序列 $x$ 对应的最优标记序列 $y^{\ast }=(y_1^{\ast },y_2^{\ast },y_3^{\ast })$。

解：

• 初始化
  $$\begin{gathered} {\delta }_1(j)=\omega \cdot F_1(y_0=start,y_1=j,x),j=1,2 \\ i=1,{\delta }_1(1)={\mu }_1{s}_1=1,{\delta }_1(2)={\mu }_2{s}_2=0.5 \end{gathered}$$

• 递推
  i=2δ2(l)=max⁡j{δ1(j)+ω⋅F2(j,l,x)}δ2(1)=max⁡{1+λ2t2+μ3s3,0.5+λ4t4+μ3s3}=max⁡{2.4,2.3}=2.4Ψ2(1)=1δ2(2)=max⁡{1+λ1t1+μ2s2,0.5+μ2s2}=max⁡{2.5,1}=2.5Ψ2(2)=1i=3δ3(l)=max⁡j{δ2(j)+ω⋅F3(j,l,x)}δ3(1)=max⁡{2.4+μ3s3,2.5+λ3t3+μ3s3}=max⁡{3.2,4.3}=4.3Ψ3(1)=2δ3(2)=max⁡{2.4+λ1t1+μ4s4,2.5+λ5t5+μ4s4}=max⁡{3.9,3.2}=3.9Ψ3(2)=1\begin{aligned} i=2\quad \delta_2(l) &=\max\limits_j \{\delta_1(j) + \omega \cdot F_2(j,l,x)\}\\ \delta_2(1) &= \max\{1+\lambda_2t_2 + \mu_3s_3,\quad 0.5+\lambda_4t_4 + \mu_3s_3\} = \max\{2.4,2.3\} = 2.4\\ &\quad\Psi_2(1) = 1\\ \delta_2(2) &= \max\{1+\lambda_1t_1 + \mu_2s_2,\quad 0.5+ \mu_2s_2\} = \max\{2.5,1\} = 2.5\\ &\quad\Psi_2(2) = 1\\ i=3 \quad \delta_3(l) &=\max\limits_j \{\delta_2(j) + \omega \cdot F_3(j,l,x)\}\\ \delta_3(1) &= \max\{2.4+ \mu_3s_3,\quad 2.5+\lambda_3t_3 + \mu_3s_3\} = \max\{3.2,4.3\} = 4.3\\ &\quad\Psi_3(1) = 2\\ \delta_3(2) &= \max\{2.4+\lambda_1t_1 + \mu_4s_4,\quad 2.5+\lambda_5t_5 + \mu_4s_4\} = \max\{3.9,3.2\} = 3.9\\ &\quad\Psi_3(2) = 1\\ \end{aligned} i=2δ2​(l)δ2​(1)δ2​(2)i=3δ3​(l)δ3​(1)δ3​(2)​=jmax​{δ1​(j)+ω⋅F2​(j,l,x)}=max{1+λ2​t2​+μ3​s3​,0.5+λ4​t4​+μ3​s3​}=max{2.4,2.3}=2.4Ψ2​(1)=1=max{1+λ1​t1​+μ2​s2​,0.5+μ2​s2​}=max{2.5,1}=2.5Ψ2​(2)=1=jmax​{δ2​(j)+ω⋅F3​(j,l,x)}=max{2.4+μ3​s3​,2.5+λ3​t3​+μ3​s3​}=max{3.2,4.3}=4.3Ψ3​(1)=2=max{2.4+λ1​t1​+μ4​s4​,2.5+λ5​t5​+μ4​s4​}=max{3.9,3.2}=3.9Ψ3​(2)=1​

• 终止
  $$\begin{gathered} \underset{y}{\max }(\omega \cdot F(y,x))=\max {\delta }_3(l)={\delta }_3(1)=4.3 \\ {y}_3^{\ast }=\underset{l}{\mathrm{argmax}}{\delta }_3(l)=1 \end{gathered}$$

• 返回
  $$\begin{gathered} y_2^{\ast }={\Psi }_3(y_3^{\ast })={\Psi }_3(1)=2 \\ {y}_1^{\ast }={\Psi }_2(y_2^{\ast })={\Psi }_2(2)=1 \end{gathered}$$

所以最优状态序列为 $y^{\ast }=(y_1^{\ast },y_2^{\ast },y_3^{\ast })=(1,2,1)$

例题python代码

# -*- coding:utf-8 -*-
# Python 3.7
# @Time: 2020/2/6 20:42
# @Author: Michael Ming
# @Website: https://michael.blog.csdn.net/
# @File: ConditionalRandomField_viterbi.py
import numpy as npdef viterbi(s, t):time = len(s)y_state = [0, 1]  # 表示状态 1，2m = len(y_state)  # 状态数量y_star = np.zeros((time), dtype=np.int32)  # 最优路径delta = np.zeros((time, m))  # 最大概率矩阵(可以DP状态压缩)psi = np.zeros((time, m), dtype=np.int32)  # 记录最优路径# 初始化deltadelta[0][0] = s[0][0]delta[0][1] = s[0][1]# 递推for i in range(1, time):for j in range(m):temp = [delta[i - 1][k] + s[i][j] + t[i][k][j] for k in range(m)]# i表示时间，从k状态转移到j状态psi[i][j] = np.argmax(temp)  # 返回最大值的下标delta[i][j] = temp[psi[i][j]]  # 最大的概率填入# 终止y_star[time - 1] = np.argmax(delta[time - 1])# 返回for i in range(time - 2, -1, -1):y_star[i] = psi[i + 1][y_star[i + 1]]return y_star, delta, psidef crf_viterbi():# 状态特征s = np.array([[1, 0.5],[0.8, 0.5],[0.8, 0.5]])# 转移特征t = np.array([[[0, 0],[0, 0]],  # 辅助，使得后面序号方便[[0.6, 1],[1, 0]],[[0, 1],[1, 0.2]]])y_star, delta, psi = viterbi(s, t)print("最优路径:", y_star + 1)  # +1表示所有的都+1，序号从1开始print("概率矩阵：\n", delta)psi[1:] += 1  # 序号从1开始，第0行没用print("Psi路径：\n", psi)if __name__ == '__main__':crf_viterbi()

运行结果，与上面一致。

最优路径: [1. 2. 1.]
概率矩阵：[[1.  0.5][2.4 2.5][4.3 3.9]]
Psi路径：[[0 0][1 1][2 1]]Process finished with exit code 0