首頁歷史 > 正文

資訊理論之父——克勞德·夏農|致敬先驅

2022-01-09由 Tackson機器人 發表于 歷史

資訊理論之父——克勞德·夏農|致敬先驅

如日中天的人工智慧正在或即將引爆整個世界,而那些在上個世紀就預知到人工智慧的未來的先知們,雖然早就在歲月的漩渦裡消失不見,但他們的天才般的智慧和意義非常的碩果,卻將被後人們萬世傳承、永遠銘記。

4月30日,是夏農誕辰的102年(1916。04。30-2001。02。26),就讓我們一起來懷念這位與馮·諾伊曼、圖靈並稱的人工智慧領域的先知。

20世紀50年代,圖靈與馮·諾伊曼兩位大師相繼離世後,夏農成為人工智慧領域承上啟下的關鍵人物。

1940年,夏農博士畢業後曾在普林斯頓高等研究院工作過一年,和馮·諾伊曼有過不少的交流。“熵”(entropy)是夏農創立的資訊理論中最核心的概念,代表了一個系統的內在的混亂程度。夏農本來打算用“不確定性”(uncertainty)來表達這個概念,當他和馮·諾伊曼討論這個問題時,馮·諾伊曼對夏農建議說:“你應該把它稱之為‘熵’。”並給出兩個理由,一是“不確定性”這個概念已被用於統計力學,二是沒有人知道“熵”到底是什麼,不致引發爭論。“熵”這個經典的概念,跨越了資訊理論、物理學、數學、生態學、社會學等領域,至今仍在人工智慧領域給人帶來新的啟迪。

資訊理論之父——克勞德·夏農|致敬先驅

互資訊、條件熵與聯合熵

與馮·諾伊曼和圖靈一樣,夏農也在反法西斯戰爭中立下了不朽的功勳,它研究的通訊理論和保密系統被美軍採用,他參與制作的通訊加密裝置,被用於二戰中盟軍最高領袖羅斯福、丘吉爾、艾森豪威爾、蒙哥馬利等人之間的絕密通訊,保護了盟軍的情報安全。在“二戰”期間,因為負責盟軍中通訊加解密的工作,圖靈和夏農有多次機會見面交流,成了通訊和密碼學,他們也多次探討了他們的共同愛好——人工智慧以及機器下棋。1949年,夏農發表了著名文章《程式設計實現計算機下棋》(Program a Computer for Playing Chess),這篇文章是萌芽期人工智慧領域的一篇傑作,後來擊敗國際象棋世紀冠軍的“深藍”和擊敗圍棋世界冠軍的AlphaGo,都是後人在夏農開拓的機器下棋領域創造的巔峰傑作。

1956年夏天,在著名的達特茅斯會議上,偉大的先知夏農見證了“人工智慧”學科的誕生,完成了與麥卡錫、明斯基、西蒙、紐厄爾等新一代人工智慧學術領袖的傳承。

資訊理論之父——克勞德·夏農|致敬先驅

克勞德·艾爾伍德·夏農(Claude Elwood)

影片載入中。。。

頂部