香浓的信息论对现代计算机科学的意义!!急求

stonegossard 2021-09-18 16:16 412 次浏览 赞 137

最新问答

  • C站队丶肥皂

    香农被称为是“信息论之父”。人们通常将香农于1948年10月发表于《贝尔系统技术学报》上的论文《A Mathematical Theory of Communication》(通信的数学理论)作为现代信息论研究的开端。
    名称由来
    信息论将信息的传递作为一种统计现象来考虑,给出了估算通信信道容量的方法。信息传输和信息压缩是信息论研究中的两大领域。这两个方面又由信息传输定理、信源-信道隔离定理相互联系。
    香农被称为是“信息论之父”。人们通常将香农于1948年10月发表于《贝尔系统技术学报》上的论文《A Mathematical Theory of Communication》(通信的数学理论)作为现代信息论研究的开端。这一文章部分基于哈里·奈奎斯特和拉尔夫·哈特利先前的成果。在该文中,香农给出了信息熵(以下简称为“熵”)的定义:香农
    H = - ∑ pilogpi
    i
    这一定义可以用来推算传递经二进制编后的原信息所需的信道带宽。熵度量的是消息中所含的信息量,其中去除了由消息的固有结构所决定的部分,比如,语言结构的冗余性以及语言中字母、词的使用频度等统计特性。
    信息论中熵的概念与物理学中的热力学熵有着紧密的联系。玻耳兹曼与吉布斯在统计物理学中对熵做了很多的工作。信息论中的熵也正是受之启发。
    互信息(Mutual Information)是另一有用的信息度量,它是指两个集合之间的相关性。两个X和Y的互信息定义为:
    I(X,Y) = H(X) + H(Y) - H(X,Y)
    其中H(X,Y) 是联合熵(Joint Entropy),其定义为:
    H(X,Y) = - ∑ p(x,y)logp(x,y)
    x,y
    互信息与多元对数似然比检验以及皮尔森χ2校验有着密切的联系。

    应用范围

    信息论是一门用数理统计方法来研究信息的度量、传递和变换规律的科学。它主要是研究通讯和控制系统中普遍存在着信息传递的共同规律以及研究最佳解决信息的获限、度量、变换、储存和传递等问题的基础理论。

    浏览 355赞 66时间 2022-03-29

香浓的信息论对现代计算机科学的意义!!急求