Чи ми є результатом рішень, які ми приймаємо згідно з нашою вільною волею, чи існує вища сила, яка керує нашими кроками? Бібліографія про Клода Шеннона, за якою консультувалися цієї серії статей, здавалося б, дають аргументи прихильникам Долі. Шеннон була людиною, яка цікавилася багатьма речами; жонглювання, джаз, авіація, кросворди або створення ігрових автоматів. Частину свого професійного життя присвятив дослідженню математики, застосовної до генетичних досліджень або збройової промисловості. Проте раз у раз обставини спонукали його побудувати основу своєї головної праці «Теорія інформації».
Невелике повідомлення на стіні в Університеті Міннесоти привело його до роботи з диференціальним аналізатором Массачусетського технологічного інституту. Там він пов'язав булеву алгебру з побудовою схем. Проходячи стажування в Bell Laboratories, він отримав доступ до статті, яка дала йому ідею, що одна теорія може пояснити передачу інформації незалежно від носія. Назавжди ввійшовши в Bell, куди він в основному вступив, щоб уникнути виклику, він зацікавився криптографією і виявив надмірність мови і необхідність не передавати повні речення, щоб повідомлення мало сенс.
Теорія інформації
Шеннон був частиною команди, яка працювала над зміною парадигми в телекомунікаціях, так званою технологією PCM або імпульсно-кодовою модуляцією. Замість того, щоб передавати голос за допомогою електричних хвиль, як це було зроблено з тих пір, як Олександр Грем Белл винайшов телефон, метою було передати інформацію про поведінку електричних хвиль. щоб приймач міг їх відновити. Тут треба врахувати два важливі моменти.
- Інформація про поведінку хвиль не передається протягом усієї розмови, але кожен певний проміжок часу робиться вибірка, і приймач заповнює пробіли. Згадайте зауваження Шеннона про надмірність і відсутність необхідності надсилати повне повідомлення.
- Інформацію про хвилі можна передати, закодувавши їх нулями та одиницями. Тут вони застосовують ідеї Шеннона про використання булевої алгебри для передачі інформації через ланцюг.
Однак цей метод стосується не тільки голосу. Цю ж технологію можна застосувати до віддаленої передачі будь-якого вмісту, який можна перетворити на нулі та одиниці; нерухомі та рухомі зображення, тексти, графіка, музика тощо.
Забезпечення вірності повідомлення
Напевно, у кожній країні є варіант гри, який ми в дитинстві називали «розбитий телефон». Одна людина шепоче повідомлення партнеру по сусідству, який, у свою чергу, робить те ж саме з наступним у черзі. Таким чином, до останнього ви повинні повторювати повідомлення вголос. Навряд чи це збігається з тим, що сказав перший.
Завдання Bell Labs полягає в тому, щоб запобігти цьому в комунікації. І ось тут на допомогу приходить теорія інформації.
Шеннон запропонував загальну модель зв'язку, в якій відправник випромінює через передавач сигнал, який, проходячи через канал, досягає приймача. Він відповідає за декодування повідомлення, раніше закодованого передавачем, і доставку його одержувачу. У кожному каналі є так званий «шум», який є спотвореннями, які впливають на прийом повідомлення.
Його пропозиція включає такі заяви:
- Усі комунікації, незалежно від формату, можна розглядати як інформацію.
- Всю інформацію можна виміряти в бітах. Один біт (скорочення від двійкової цифри) вказує на вибір між двома можливими альтернативами, крапкою або тире на телеграфі, головою або решком під час підкидання монети або імпульсами включення або вимкнення в технології PCM
- Найскладніша інформація може передаватися за допомогою рядка бітів у попередньо визначеному форматі. Наприклад, базове 2 представлення цифрового коду, присвоєного літері.
У своїй роботі з криптографії Шеннон показала, що розмір повідомлення можна зменшити, усунувши надмірність. Тут він запропонував піти протилежним шляхом; боротися з шумом шляхом додавання додаткових бітів, щоб приймач міг виправляти помилки, що виникли під час передачі.
Хоча в багатьох випадках теоретичне формулювання потребувало б десятиліть, щоб стати практичним застосуванням, інженери вже мали спосіб виміряти здатність різних каналів передавати інформацію. Все було готово для нових матеріалів на заміну традиційному мідному кабелю, експоненціально збільшуючи кількість повідомлень, що циркулюють. І, звичайно, вам знадобиться спосіб обробити всю цю кількість інформації. Це ми побачимо в наступних статтях.
Будь ласка, джерела! шоста частина мала частину, яка змусила мене подумати, що це був переклад, хоча я не впевнений. Звідки все це?
Я обіцяю до п’ятниці, що детальний список джерел і те, що я отримав із кожного з них, буде надано. Те, що, напевно, звучить як плагіат, це перше речення. Я вкрав його в Айзека Азімова з книги, в якій зібрано його відповіді на наукові питання.