當前位置: 華文星空 > 知識

山農的消息理論究竟牛在哪裏?

2016-04-28知識

山農真正偉大的工作是,他用數學描述了資訊,讓資訊變得可測。

什麽是讓資訊變得可測呢?我給你講個故事:

非洲很多部落都敲鼓,你以為這些都是他們的音樂嗎?其實完全不是,它們是有功能性的。撒哈拉以南的非洲人,用鼓點傳遞資訊是非常常見的。雖然不是每個部落成員都會敲,但差不多大家都能聽懂鼓聲。

你覺得鼓聲和訊息是怎麽轉化的呢?有些人腦中天然就會想到摩爾斯碼,比如用鼓的高音代表0,用低音代表1,然後0和1的組合拼出字母,字母再組成文字。

這是思路,都是用現代文明來理解非常原始的部落。它是錯的。

這個思路裏鼓聲和資訊之間存在好幾次轉換,但在真實情況中,非洲上千種語言中的絕大部份壓根就沒有文字,就和納瓦霍語是一樣的。所以其實非洲的鼓聲,就是當地語言的另一種發音方式。

但馬上會出現問題了,比如說:兩個高音鼓點敲出來,它代表的意思可就多了,有時候可能是月亮,有時候可能代表雞,有時候可能代表魚,有的時候也可以是男人的意思。

怎麽用鼓點準確傳達訊息呢?方法也有,就是讓鼓多說一些話。

比如,妻子叫丈夫快點回家吃飯,用鼓點打出來,完整轉譯過來的意思就是:

森林裏的男人精靈, 回來回來。 回到屬於森林裏男人精靈的高高的木屋中, 女人和木薯在等待著你, 回來回來。

你看,轉譯過來跟詩一樣。這樣轉譯出來廢話就特別多,但這是必要的。

因為如果後面不跟著那麽多修飾詞和與之相關的動詞名詞,人們是很難判斷鼓聲要表達的意思是男人還是魚兒。當「回到男人精靈高高的木屋中」表達出來後,那一定不可能是魚兒的木屋了。

好,我們現在來看,如果我們把鼓點當做一種語言,這種語言的「音素」就只有兩個——高音和低音。

這是一種貌似簡練至極的表達,但為了傳達訊息的準確,就必須在說話時反復使用大量音素。而用英語喊男人回來,只需要幾個音素就夠用了,可英語中的音素又有上百個之多。

雖然我們現在還沒法衡量具體的數碼,但我們可以隱約感受到:

傳播同一則資訊,資訊的量好像彈性空間很大,我們應該如何測一測這個資訊的量呢?如果這個資訊的量是可測,那麽要傳遞一條資訊,有沒有量的下限呢?也就是說,我們至少要用去多少個單位量才能完整表達這條資訊呢?我們甚至還可以進一步想,要傳遞一條資訊最少需要多少卡路裏的能量呢?

而這些問題的知識,就是山農做出來的。山農不但做出了這些,還用數學完整建立了通訊原理。

回顧山農的童年,也能感受到整個社會都在積累著讓通訊原理迸發出來的氣氛。

他是1916年出生的,那時候每個人家的附近,不管是農場、牧場、私人院落,到處布著帶倒刺的鐵絲網。雖然從某些意義上說鐵絲網是一種偉大的發明,但在1920s時代,布下鐵絲網的初衷是希望設定障礙。

但沒想到在山農的眼中,鐵絲網布得越密,就越有利於把人們連線起來,因為他只要在正確的節點把固定的鐵絲還有金屬U形釘,換成絕緣的夾子,再把電池和話筒接到鐵絲網上,就可以簡陋的實作免費電話功能了。

而且在那個年代,柯南·道爾的【福爾摩斯探案集】、凡爾納的科幻小說,都是山農最喜歡的書。而這些書裏經常出現主人公破解密文的情節。

你看,在山農出生前的電報時代,和電報時代之前的摩爾斯電碼,甚至摩爾斯電碼時代之前的歐洲密文通訊,無不一點一滴地塑造著後代人腦中編碼的思想。

所以甚至可以評價說:

不但發明不重要,連偉人也不那麽偉大。在那種社會土壤中,就算沒有山農A出生,也一定會出現山農B、山農C。

山農在學生時代成績很好,高中提前一年就畢業了,進入到離家不遠的密芝根大學。1936年畢業後,順利的在麻省理工找到了一個研究工作。

當年美國和電相關工作,就是三個——麻省理工、貝爾實驗室和通用電氣。這三個算名門正派,後世幾乎所有電氣工程和通訊行業的牛人都出自這三個地方。

山農當時負責的工作是,操作微分分析機。雖然山農當年沒聽說過巴貝奇曾經在100年前制造出了一台差分機,但他負責的這個微分分析機和巴貝奇當年的機器,多少還是有點相似之處的。

它們都是靠機械部件運轉的。只不過1936年的微分分析機已經有100多噸重了,沈重的部件用馬達驅動,能用電子元件的部份都改用了電子元件。

操作微分分析機其實只需要按步驟來就可以,山農的領導當時是個數學家,實在不屑於做這種重復繁重的體力勞動,所以才特地找了一個應屆畢業生幫他做。

但山農也不是甘於做重復工作的人,他對這台可以做微分運算的機器仔細研究了一番,就意識到:機器中開關的切換,本質上並不是在傳輸電流,而是在傳輸狀態,或者說傳輸一個事實、一個資訊。所以,能不能用一套符號來描述狀態的傳輸和轉換呢?

後來,隨著機器中電子元器件的比例越來越大,山農開始把不同電路輸出的結果也用邏輯學中的符號代替。

比如,並聯電路就具有或(or)運算的效果,也就是多條輸入裏只要有一條是1,輸出的結果就是1;而元件在串聯電路中的效果和與(and)運算是一樣的,也就是需要大家都通電,最後輸出的結果才是通電狀態。

山農後來又把這種分析方法推廣到網狀、星狀電路中,結合二進制,最後就可以分析很多復雜電路的輸出結果。再後來,山農甚至還把這些想法運用到了遺傳學上。

現在全世界每個通訊工程的從業者,都在跟隨著當年山農的理論,計算著資訊傳輸中的頻寬、壓縮率、編碼的成本。而這一切,都源於山農把資訊量化的念頭。