问题引入
在这块面试中问到的比较少在项目中用到的话,那可能会你问一下。那到底HMM和CRF有啥区别呢?
问题解答
在解决这个问题之前,我们需要先了解一下某些基本的定义。HMM和CRF这些模型通常是出现在序列标注中,隐马尔可夫模型(Hidden Markov Model,HMM),最大熵马尔可夫模型(Maximum Entropy Markov Model,MEMM)以及条件随机场(Conditional Random Field,CRF)模型。

HMM首先出现,其对转移概率和表现概率直接建模,统计共现概率。MEMM其次,对转移概率和表现概率建立联合概率,统计的是条件概率。CRF最后出现,其统计了全局概率,在做归一化时考虑了数据在全局的分布,而不是仅仅在局部归一化。
不废话,这里只看HMM和CRF的区别,如下:
1.HMM是生成模型,CRF是判别模型
2.HMM是概率有向图,CRF是概率无向图
3.HMM求解过程可能是局部最优,CRF可以全局最优
4.CRF概率归一化较合理,HMM则会导致label bias 问题
具体的HMM和CRF的定义这里就不介绍了,知乎上有大把例子,可以去看下。
参考:
https://www.zhihu.com/question/20962240/answer/33561657
https://zhuanlan.zhihu.com/p/104562658
https://blog.csdn.net/Scythe666/article/details/82021692
喜欢就关注一下啦~~~

文章转载自百面机器学习,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。




