Shannon（美国数学家）
VLoG
次浏览
更新时间：2023-05-23
Shannon
美国数学家
代表作《继电器和开关电路符号分析》
获美国国家科学奖章
基本信息
| 外文名 | Shannon |
| 别名 | Claude E.Shannon 克劳德.香农 |
| 出生日期 | 1916年4月30日 |
| 去世日期 | 2001年2月24日 |
| 国籍 | 美国 |
展开
人物生平
香农
1936年，在MIT任研究助理并成为MIT电气工程系研究生，承担用Bush分析器解微分方程的工作。
1937年，提交硕士论文《继电器和开关电路符号分析》，首次提出了可用于设计和分析逻辑电路的系统方法，是数字信号处理的里程碑之一，获1940年Afred Noble优秀论文奖。
1940年获电气工程硕士学位和数学博士学位，博士论文《理论遗传学的代数》（未公开发表）。
1941～1956年，于贝尔实验室工作。
1956年，MIT访问学者，第二年接受MIT永久聘任。
1978年退休。
2001年2月24日病逝，享年84岁。
主要成就
香农既精通通信又精通数学，将数理知识和工程很好的融合在一起。大数学家Kolmogrov很好地总结了香农作为一个学者的才华，他说：“在我们的时代，当人的指示越来越专业化的时候，香农是科学家的一个卓越的典范。他把深奥和抽象的数学思想和概括而又很具体的对关键技术问题的理解结合起来。他被认为是最近几十年最伟大的工程师之一，同时也被认为是最伟大的数学家之一。”
熵（entropy）的概念
香农理论的重要特征是熵（entropy）的概念，他证明熵与信息内容的不确定程度有等价关系。熵曾经是波尔兹曼在热力学第二定律引入的概念，我们可以把它理解为分子运动的混乱度。香农将统计物理中熵的概念，引申到信道通信的过程中，从而开创了”信息论“这门学科。香农定义的“熵”又被称为“香农熵”或“信息熵”，即其中i标记概率空间中所有可能的样本，表示该样本的出现几率，K是和单位选取相关的任意常数。可以明显看出“信息熵”的定义和“热力学熵”（玻尔兹曼公式）的定义只相差某个比例常数。
熵（entropy）指的是体系的混乱的程度，它在控制论、概率论、数论、天体物理、生命科学等领域都有重要应用，在不同的学科中也有引申出的更为具体的定义，是各领域十分重要的参量。熵由鲁道夫·克劳修斯（Rudolf Clausius）提出，并应用在热力学中。后来在，克劳德·艾尔伍德·香农（Claude Elwood Shannon）第一次将熵的概念引入到信息论中来。
众所周知，质量、能量和信息量是三个非常重要的量。
人们很早就知道用秤或者天平计量物质的质量，而热量和功的关系则是到了19世纪中叶，随着热功当量的明确和能量守恒定律的建立才逐渐清楚。能量一词就是它们的总称，而能量的计量则通过“卡、焦耳”等新单位的出现而得到解决。
然而，关于文字、数字、图画、声音的知识已有几千年历史了。但是它们的总称是什么，它们如何统一地计量，直到19世纪末还没有被正确地提出来，更谈不上如何去解决了。20世纪初期，随着电报、电话、照片、电视、无线电、雷达等的发展，如何计量信号中信息量的问题被隐约地提上日程。
1928年哈特利（R.V. H. Harley）考虑到从D个彼此不同的符号中取出N个符号并且组成一个“词”的问题。如果各个符号出现的概率相同，而且是完全随机选取的，就可以得到D^N个不同的词。从这些词里取了特定的一个就对应一个信息量I。哈特利建议用N log D这个量表示信息量，即I=N log D。这里的log表示以10为底的对数。后来，1949年控制论的创始人维纳也研究了度量信息的问题，还把它引向热力学第二定律。
但是就信息传输给出基本数学模型的核心人物还是香农。1948年香农长达数十页的论文“通信的数学理论”成了信息论正式诞生的里程碑。在他的通信数学模型中，清楚地提出信息的度量问题，他把哈特利的公式扩大到概率pi不同的情况，得到了著名的计算信息熵H的公式：H(X)= -Σp(x) logp(x)
如果计算中的对数log是以2为底的，那么计算出来的信息熵就以比特（bit）为单位。在计算机和通信中广泛使用的字节（Byte）、KB、MB、GB等词都是从比特演化而来。“比特”的出现标志着人类知道了如何计量信息量。香农的信息论为明确什么是信息量概念作出决定性的贡献。
香农在进行信息的定量计算的时候，明确地把信息量定义为随机不定性程度的减少。这就表明了他对信息的理解：信息是用来减少随机不定性的东西。或香农逆定义：信息是确定性的增加。
虽然香农的信息概念比以往的认识有了巨大的进步，但仍存在局限性，这一概念同样没有包含信息的内容和价值，只考虑了随机型的不定性，没有从根本上回答"信息是什么"的问题。
事实上，香农最初的动机是把电话中的噪音除掉，他给出通信速率的上限，这个结论首先用在电话上，后来用到光纤，截止2013又用在无线通信上。我们能够清晰地打越洋电话或卫星电话，都与通信信道质量的改善密切相关。
获得荣誉
荣誉 | 时间 |
美国Alfred Noble协会美国工程师奖 | 1940年 |
Morris Liebmann 无线电工程师协会Memorial奖章 | 1949年 |
耶鲁大学(首席科学家) | 1954年 |
Stuart Ballantine弗兰克林协会奖章 | 1955年 |
研究合作奖 | 1956年 |
展开表格
个人生活
香农的母亲是城镇高中外语教师兼校长，父亲是商人兼律师，祖父是一位农场主兼发明家，发明过洗衣机和许多农业机械，这对香农的影响比较直接。香农的家庭与大发明家爱迪生（Thomas Alva Edison，1847-1931）还有远亲关系。
健康状况
2001年2月24日，香农在马萨诸塞州Medford辞世，享年84岁。贝尔实验室和MIT发表的讣告都尊崇香农为信息论及数字通信时代的奠基人。
后世纪念
香农奖是为纪念美国的信息论创始人克劳德·艾尔伍德·香农而设置的奖项，是通信理论领域最高奖，也被称为“信息领域的诺贝尔奖”。
参考资料
[1]
颜值爆表的程序员鼻祖，网友：还把姐姐辅导成大学数学系教授！ · 腾讯视频[引用日期2022-01-25]
