信息學之父——克勞德·艾爾伍德·香農(nóng),20世紀最偉大的科學家之一1916年,Shannon在密歇根州出生,他的父母是當?shù)氐纳倘撕徒處煛?/strong>
從密歇根大學獲得電子工程和數(shù)學雙學士學位后,Shannon進入麻省理工學院開始了研究生的學習。在其碩士論文中,他將布爾代數(shù)這一數(shù)學方法應(yīng)用到電子領(lǐng)域中的開關(guān)電路的分析和綜合問題中。正是這一變革性的工作,將電路設(shè)計從一門藝術(shù)變成了一門科學,被認為是數(shù)字電路的開端。在此之后,Shannon將目光投向了一個更大的領(lǐng)域:通信。通信是人類最基本的需求之一。從烽火預(yù)警到飛鴿傳書,再到電話、電視、網(wǎng)絡(luò)的出現(xiàn),人類一直在探索能夠讓信息傳遞得更遠、更快、更可靠的通信方式。但是,無論哪種方式,通信系統(tǒng)總是與信號來源以及物理介質(zhì)相關(guān)聯(lián)。Shannon卻想打破這一限制,探尋通信的大一統(tǒng)理論。他在1939年給導(dǎo)師Vannevar Bush的信中概述了自己的一些初步設(shè)想,并最終在1948年發(fā)表了著名的論文,“關(guān)于通信的數(shù)學理論(A Mathematical Theory of Communication)“。Shannon提出的理論的核心是一個簡單卻十分通用的通信模型:發(fā)送器將信息編碼為信號,該信號會受噪聲影響,然后由接收器解碼。模型雖然簡單但卻包含了兩個十分關(guān)鍵的要素:將信號源和噪聲源從要設(shè)計的通信系統(tǒng)中剝離,并對這兩個源分別進行概率建模。