信息论。 Unix 的史前史第 XNUMX 部分

我们是根据我们的自由意志做出的决定的结果，还是有一种优越的力量指导我们的步伐？ 克劳德·香农 (Claude Shannon) 的参考书目参考了 这个系列 文章似乎给命运的支持者提供了论据。 香农是一个对很多事情都感兴趣的人。 杂耍、爵士、航空、填字游戏或建造游戏机。 他职业生涯的一部分致力于研究应用于基因研究或军火工业的数学。 然而，一次又一次的情况使他为他的顶级作品奠定了基础：信息论

明尼苏达大学墙上的一个小通知让他开始使用麻省理工学院的微分分析仪。 在那里，他将布尔代数与电路的构造联系起来。 在贝尔实验室实习期间，他接触到了一篇文章，让他产生了一个想法，即单一理论可以解释独立于媒体的信息传输。 永久并入贝尔，基本上是为了避免被叫到，他开始对密码学感兴趣，并发现语言的冗余以及不需要传输完整的句子才能使消息有意义。

信息论

Shannon 是致力于电信范式转变的团队的一员，即所谓的 PCM 技术或脉冲编码调制。 不像亚历山大·格雷厄姆·贝尔发明电话以来那样通过电波传输声音，其目的是传输有关电波行为的信息 以便接收器能够重建它们。 在这里，我们必须考虑两个重要的点。

• 在整个对话期间不会传输有关波行为的信息，而是每隔一定时间进行一次采样，然后接收器填充空格。 回想一下香农关于冗余和不必发送完整消息的评论。
• 关于波的信息可以通过用零和一编码来传输。 在这里，他们应用了香农关于使用布尔代数通过电路传输信息的想法。

然而，这种方法不仅仅适用于语音。 同样的技术可以应用于任何可以转换为零和一的内容的远程传输； 静态和动态图像、文本、图形、音乐等。

确保消息的真实性

可能在每个国家/地区都有一种游戏变体，在我的童年时代，我们称之为“手机坏了”。 一个人向隔壁的伙伴耳语一条消息，后者又对下一个队列做同样的事情。 因此，直到最后一个，您必须大声重复该消息。 它几乎不符合第一个所说的。

贝尔实验室面临的挑战是防止这种情况在通信中发生。 而且，这就是信息论的用武之地。

香农提出了一个通用的通信模型，在这个模型中，发送者通过发射器发出一个信号，该信号通过一个信道到达接收者。 它负责解码先前由发送器编码的消息并将其传递给接收器。 在每个频道中都有所谓的“噪音”，即影响消息接收的失真。

他的提议包括以下声明：

• 所有通信，无论格式如何，都可以从信息的角度来考虑。
• 所有信息都可以用比特来衡量。 一位（二进制数字的缩写）表示在两种可能的选择之间进行选择，电报的点或破折号，抛硬币时的正面或反面，或 PCM 技术中的脉冲开或关
• 最复杂的信息可以通过预定义格式的比特串传输。 例如，分配给字母的数字代码的基数 2 表示。

在她的密码学工作中，Shannon 表明可以通过消除冗余来减少消息大小。 在这里，他提议走相反的道路； 通过添加额外位来对抗噪声，以便接收器能够纠正传输过程中发生的错误。

虽然在许多情况下，理论公式需要几十年才能成为实际应用，但工程师们已经有了一种测量不同渠道传输信息能力的方法。 一切都已准备好用新材料取代传统的铜缆，从而以指数方式增加传播信息的数量。 当然，您需要一种方法来处理所有这些信息量。 我们将在接下来的文章中看到这一点。

相关文章：

Unix的历史和Bell Labs的角色

相关文章：

汇集科学家和工程师。 Unix的历史。 第2部分

相关文章：

真空管。 Unix的前史第3部分

相关文章：

晶体管的到来。 Unix的发展史第四部分

相关文章：

克劳德·香农先生。 Unix 的史前史第五部分

相关文章：

香农的作品。 Unix 的史前史第 6 部分