暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

HMM和CRF的区别是什么?

百面机器学习 2020-04-16
2035
点击上方蓝色字关注我们!



问题引入

在这块面试中问到的比较少在项目中用到的话,那可能会你问一下。那到底HMM和CRF有啥区别呢?

问题解答

在解决这个问题之前,我们需要先了解一下某些基本的定义。HMM和CRF这些模型通常是出现在序列标注中,隐马尔可夫模型(Hidden Markov Model,HMM),最大熵马尔可夫模型(Maximum Entropy Markov Model,MEMM)以及条件随机场(Conditional Random Field,CRF)模型。

HMM首先出现,其对转移概率和表现概率直接建模,统计共现概率。MEMM其次,对转移概率和表现概率建立联合概率,统计的是条件概率。CRF最后出现,其统计了全局概率,在做归一化时考虑了数据在全局的分布,而不是仅仅在局部归一化

不废话,这里只看HMM和CRF的区别,如下:

1.HMM是生成模型,CRF是判别模型

2.HMM是概率有向图,CRF是概率无向图

3.HMM求解过程可能是局部最优,CRF可以全局最优

4.CRF概率归一化较合理,HMM则会导致label bias 问题

具体的HMM和CRF的定义这里就不介绍了,知乎上有大把例子,可以去看下。

参考:

https://www.zhihu.com/question/20962240/answer/33561657

https://zhuanlan.zhihu.com/p/104562658

https://blog.csdn.net/Scythe666/article/details/82021692

喜欢就关注一下啦~~~





文章转载自百面机器学习,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论