香农如何创建信息论

MissAlice1203 2021-09-18 16:16 345 次浏览 赞 87

最新问答

  • 土豆咖喱咖啡

    香农创立了信息论
    克劳德·香农(Claude Elwood Shannon,1916-2001)于1916年4月30日出生在美国密西根州的伽娄德(Gaylord)小镇,当时镇里只有三千居民。香农的父亲是该镇的法官,母亲是镇里的中学校长。他生长在一个有良好教育的环境,不过父母给他的科学影响好像还不如祖父的影响大。香农的祖父是一位农场主兼发明家,发明过洗衣机和许多农业机械,这对香农的影响比较直接。此外,香农的家庭与大发明家爱迪生(Thomas Alva Edison,1847-1931)还有远亲关系。

    香农的两大贡献:一是信息理论、信息熵的概念;另一是符号逻辑和开关理论。香农的信息论为明确什么是信息量概念作出决定性的贡献。
    1936年香农在密西根获得数学与电气工程学士,然后进入MIT念研究生。1938年香农在MIT获得电气工程硕士,硕士论文题目是《继电器与开关电路的符号分析》。当时他已经注意到电话交换电路与布尔代数之间的类似性,即把布尔代数的“真”与“假”和电路系统的“开”与“关”对应起来,并用1和0表示。于是他用布尔代数分析并优化开关电路,这就奠定了数字电路的理论基础。哈佛的
    Howard Gardner教授说,“这可能是本世纪最重要、最著名的一篇硕士论文。
    1940年香农在MIT获得数学博士,而他的博士论文却是关于人类遗传学的,题目是《理论遗传学的代数学》。说明香农的兴趣十分广泛,后来他在不同的学科方面发表过许多有影响的文章。在读的同时,他还用部分时间跟温尼法·布什教授进行微分分析器的研究。这种分析器是早期的机械模拟计算机,用于获得常微分方程的数值解。1941年香农发表了《微分分析器的数学理论》,他写道:“大多数结果通过证明的定理形式给出。最重要的是处理了一些条件,有些条件可以生成一个或多个变量的函数,有些条件可使常微分方程得到解。还给出了一些注意事项,给出求函数的近似值、求调整率的近似值以及自动控制速率的方法。”
    1941年香农以数学研究员的身份进入新泽西州的AT&T贝尔电话公司,并在贝尔实验室工作到1972年,从24岁到55岁,整整31年。香农与John Riordan一起工作,1942年发表了一篇关于串并联网络的双终端数的论文。这篇论文扩展了麦克马洪1892年在Electrician上发表的论文理论。1948年香农在发表了《通讯的数学理论 》,创立了信息论。
    在二次世界大战时,香农博士也是一位著名的密破译者(这使人联想到比他大4岁的图灵博士)。他在贝尔的破译团队主要是追踪德国飞机和,尤其是在德国对英国进行闪电战时起了很大作用。1949年香农发表了另外一篇重要论文《保密系统的通信理论》,正是基于这种工作实践,它的意义是使保密通信由艺术变成科学。

    浏览 378赞 93时间 2022-08-07

香农如何创建信息论