logo
天地变化的道理
使用率很高网站
生活要常常分享
您身边百科全书
免费为您秀产品
对数求和不等式
对数求和不等式(Log sum inequality)是一个不等式 ,可用于证明信息论中的多个定理。 定理陈述. 对任何非负实数 formula_1 和正数 formula_2 ,并记 formula_3 及 formula_4 则有如下的对数求和不等式: formula_5 上式中,等号成立的充分必要条件是所有 formula_6 都相等。 证明. 设辅助函数 formula_7 ,容易验证这个函数是一个凸(Convex)函数,我们有 formula_8 推导中第二行的不等号,是由琴生不等式得到的 (可验证 formula_9 , formula_10)。 应用. 对数求和不等式可用于证明信息论中的几个不等式,例如吉布斯不等式或KL散度的基本性质 。 例如,证明吉布斯不等式时,将 formula_11看作 formula_12 ,将 formula_13 看作 formula_14,得到 formula_15 一般情形. 这个不等式对于收敛的无穷级数亦成立,即当 formula_16 时,附加假设 formula_17 和 formula_18 即可使不等式成立。 另一种推广则是将对数函数一般化。只要将对数函数换为任何一个formula_19,其使得formula_20 是一个凸(Convex)函数即可。2004年,Csiszár证明了将对数函数换成一个单调非减函数,定理亦成立。
对数求和不等式
生成维基百科快照图片,大概需要3-30秒!
如果网站内容有侵犯您的版权
请联系:pinbor@iissy.com
Copyright ©2014 iissy.com, All Rights Reserved.