wkebj的博客

原创 最大熵模型中的对数似然函数的解释

最大熵模型中的对数似然函数的解释最近在学习最大熵模型，看到极大似然估计这部分，没有看明白条件概率分布p(y|x)p(y|x)p(y|x)的对数似然函数。上网查了很多资料都没有一个合理的解释。基本直接给出对数似然函数的一般形式: Lp⎯⎯⎯=∏xp(x)p⎯⎯⎯(x).Lp¯=∏xp(x)p¯(x).L_{\overline{p}}=\prod_{x} p(x)^{\overline{p}(x...