漢語為何成為世界上信息熵最大的語言，英語只有漢語的十分之一！

漢語是世界上信息熵最大的主流語言。在1948年發表了一篇論文，震撼了學術界，而這篇論文也開創了一個信息度量的時代，既然事件發生的信息可以度量，語言作為一種信息傳遞的手段，那麼語言中的信息是多少？世界上有最優秀的語言嗎？

在此之前我們先來談談什麼叫做信息熵。信息熵是指所有可能發生事件中所包含信息的期望平均值。這麼説大家聽不懂，給大家舉一個簡單一點的例子。太陽從東方升起這句話是廢話，因為大家都知道太陽不可能從西方升起，所以這句話所包含的信息熵就是0。如果你在做一道判斷題，但是你不知道答案。所以你只能靠蒙，這個時候就有了信息熵，而如果把這個判斷題改為選擇題，那麼這個題的信息熵就會變大。除此之外還有概率的問題。假如一個選擇題你知道a和b可能是正確的，c和d是完全不正確的，那麼你就會選a或者是b。相比較其他選擇題來講，信息熵就會變少。

這就是信息熵。那麼語言的信息熵究竟是有多少呢？這個的計算方式很直觀，只需要把公式帶進去就行了，但是困擾學者很多年的問題是，大家都無法準確的知道一個語言中特定位置的出現概率，有時候甚至難以統計這個語言到底有多少種字符。

所以信息科學家只能用各種手段來估計各個語言的信息熵，比如説有某位學者認為英語的信息熵應該在0.6~1.3比特每字節。而其他人有人認為英語的信息熵應該在1.25比特每字節。英語還算是比較好統計的，但是放到漢語的統計難度就非常大了。不過還好的是當年信息熵剛剛發展出來，各個學者科學家都紛紛對此非常有興趣。即便是中文有很大的特殊性，依然有很多學者排除萬難，採用了統計的計算方式，計量了漢語的信息熵。

而在計量過程中他們發現中文不論是文字部首還是音節，他的信息熵都遠遠超過了英語。

但是這樣計算出來的結果，沒辦法和其他語言直接對比。因為他們是用的不同的數據庫。而且人為翻譯也可能導致信息誤差，所以在2002年哈佛大學的某位科學家做了重新的對比實驗。他們選用了一種很有意思的辦法，那就是在計算機上把文本壓縮到信息壓縮的下界。

也就是説不論是英語還是漢語或者西班牙語都不進行優化。之後再進行壓縮。研究者們對比了英語，西班牙語，法語，中文漢語，阿拉伯語，日文，俄語等等。像這樣壓縮情況下，如果沒有缺失文件，都是那麼所有的語言都會和英語壓縮後的文本一樣大。所以我們需要對比的就是他們的壓縮時間，壓縮時間越長的，他們的信息熵就越大。

而中文的壓縮效率遠遠低於其他文字。除此之外他們又做了其他的對比實驗，比如説換壓縮算法。再比如説把譯文擴充。因為聖經中都是常見詞彙，但是其他語言中有很多特殊的詞彙。但是在壓縮過後，中文依然是壓縮效率最低的一個語言。可以説中文是信息熵最大的一種語言了。

雖然説這個實驗也不完美，有很多漏洞，但是多個實驗結果看上去都是很相似的。而且即便是有很大的漏洞，這樣的實驗依然存在着很強的指導意義。