信息論。 Unix 的史前史第 XNUMX 部分

我們是根據我們的自由意志做出的決定的結果，還是有一種優越的力量指導我們的步伐？ 克勞德·香農 (Claude Shannon) 的參考書目參考了 這個系列 文章似乎給命運的支持者提供了論據。 香農是一個對很多事情都感興趣的人。 雜耍、爵士、航空、填字遊戲或建造遊戲機。 他職業生涯的一部分致力於研究應用於基因研究或軍火工業的數學。 然而，一次又一次的情況使他為他的頂級作品奠定了基礎：信息論

明尼蘇達大學牆上的一個小通知讓他開始使用麻省理工學院的微分分析儀。 在那裡，他將布爾代數與電路的構造聯繫起來。 在貝爾實驗室實習期間，他接觸到了一篇文章，讓他產生了一個想法，即單一理論可以解釋獨立於媒體的信息傳輸。 永久併入貝爾，基本上是為了避免被叫到，他開始對密碼學感興趣，並發現語言的冗餘以及不必傳輸完整的句子才能使消息有意義。

信息論

Shannon 是致力於電信範式轉變的團隊的一員，即所謂的 PCM 技術或脈衝編碼調製。 不像亞歷山大·格雷厄姆·貝爾發明電話以來那樣通過電波傳輸聲音，其目的是傳輸有關電波行為的信息 以便接收器能夠重建它們。 在這裡，我們必須考慮兩個重要的點。

• 在整個對話期間不會傳輸有關波行為的信息，而是每隔一定時間進行一次採樣，然後接收器填充空格。 回想一下香農關於冗餘和不必發送完整消息的評論。
• 關於波的信息可以通過用零和一編碼來傳輸。 在這裡，他們應用了香農關於使用布爾代數通過電路傳輸信息的想法。

然而，這種方法不僅僅適用於語音。 同樣的技術可以應用於任何可以轉換為零和一的內容的遠程傳輸； 靜態和動態圖像、文本、圖形、音樂等。

確保消息的真實性

可能在每個國家/地區都有一種遊戲變體，在我的童年時代，我們稱之為“手機壞了”。 一個人向隔壁的伙伴耳語一條消息，後者又對下一個隊列做同樣的事情。 因此，直到最後一個，您必須大聲重複該消息。 它幾乎不符合第一個所說的。

貝爾實驗室面臨的挑戰是防止這種情況在通信中發生。 而且，這就是信息論的用武之地。

香農提出了一個通用的通信模型，在這個模型中，發送者通過發射器發出一個信號，該信號通過一個信道到達接收者。 它負責解碼先前由發送器編碼的消息並將其傳遞給接收器。 在每個頻道中都有所謂的“噪音”，即影響消息接收的失真。

他的提議包括以下聲明：

• 所有通信，無論格式如何，都可以從信息的角度來考慮。
• 所有信息都可以用比特來衡量。 一位（二進制數字的縮寫）表示在兩種可能的選擇之間進行選擇，電報的點或破折號，拋硬幣時的正面或反面，或 PCM 技術中的脈沖開或關
• 最複雜的信息可以通過預定義格式的比特串傳輸。 例如，分配給字母的數字代碼的基數 2 表示。

在她的密碼學工作中，Shannon 表明可以通過消除冗餘來減少消息大小。 在這裡，他提議走相反的道路； 通過添加額外位來對抗噪聲，以便接收器能夠糾正傳輸過程中發生的錯誤。

雖然在許多情況下，理論公式需要幾十年才能成為實際應用，但工程師們已經有了一種測量不同渠道傳輸信息能力的方法。 一切都已準備好用新材料取代傳統的銅纜，從而以指數方式增加傳播信息的數量。 當然，您需要一種方法來處理所有這些信息量。 我們將在接下來的文章中看到這一點。

相關文章：

Unix的歷史和Bell Labs的角色

相關文章：

匯集科學家和工程師。 Unix的歷史。 第2部分

相關文章：

真空管。 Unix的前史第3部分

相關文章：

晶體管的到來。 Unix的發展史第四部分

相關文章：

克勞德·香農先生。 Unix 的史前史第五部分

相關文章：

香農的作品。 Unix 的史前史第 6 部分