當前位置:名人名言大全網 - 經典說說 - 克勞德·香農的貢獻

克勞德·香農的貢獻

香農理論的重要特征是熵的概念,證明了熵等同於信息量的不確定性。熵曾經是玻爾茲曼在熱力學第二定律中引入的,我們可以理解為分子運動的無序度。信息熵也有類似的含義。比如在中文信息處理中,漢字的靜態平均信息熵比較大,中文是9.65比特,英文是4.03比特。這說明漢語的復雜程度高於英語,反映出漢語含義豐富,文字簡潔,但也很難處理。信息熵大意味著不確定性大。因此,我們應該深入研究,尋求中文信息處理的深層突破。我們不能盲目地認為漢字是世界上最美的文字,從而得出漢字最容易處理的錯誤結論。

香農明確地將信息量定義為在進行信息的定量計算時,隨機不確定性程度的降低。這說明了他對信息的理解:信息是用來減少隨機不確定性的。或者香農的逆定義:信息是確定性的增加。仙農的信息概念雖然比以前的認識有了很大的進步,但仍有局限性。這個概念也不包含信息的內容和價值,只考慮了隨機不確定性,沒有從根本上回答“什麽是信息”的問題。事實上,Shannon最初的動機是為了消除手機中的噪音。他給出了通訊速度的上限。這個結論最早用於電話,後來用於光纖,現在用於無線通信。今天,我們可以清楚地撥打海外電話或衛星電話,這與通信信道質量的提高密切相關。

這個真的太多了,看看鏈接就知道了(怕,鏈接要審核很久)