机器学习09：概率图模型(PGM)3

Posted on Edited on In Views:

本篇博客补充一些关于概率图的知识。

两种图的转换-道德图

我们常常想将有向图转为无向图，从而应用更一般的表达式。

  1. 链式：

       graph TB;
 A((A))-->B((B));
 B-->C((C));

    直接去掉箭头，：

       graph TB;
 A((A))---B((B));
 B---C((C));

  2. V 形：

       graph TB;
 B((B))-->A((A));
 B-->C((C));

    由于 ，直接去掉箭头：

       graph TB;
 B((B))---A((A));
 B---C((C));

  3. 倒 V 形：

       graph TB;
 A((A))-->B((B));
 C((C))-->B

    由于 ，于是在 之间添加线：

       graph TD;
 a((a))---b((b));
 b---c((c));
 a---c;

    观察着三种情况可以概括为：

    1. 将每个节点的父节点两两相连
    2. 将有向边替换为无向边

更精细的分解-因子图

对于一个有向图，可以通过引入环的方式，可以将其转换为无向图（Tree-like graph），这个图就叫做道德图。但是我们上面的 BP 算法只对无环图有效，通过因子图可以变为无环图。

考虑一个无向图：

graph TD;
    a((a))---b((b));
    b---c((c));
    a---c;

可以将其转为：

graph TD;
    a((a))---f;
    f---b((b));
    f---c((c))

其中 。因子图不是唯一的，这是由于因式分解本身就对应一个特殊的因子图，将因式分解： 可以进一步分解得到因子图。