Informační teorie. Prehistorie Unixu, díl sedmý

Teorie informace

Jsme výsledkem rozhodnutí, která děláme na základě své svobodné vůle, nebo existuje nadřazená síla, která řídí naše kroky? Vyžádaná bibliografie Clauda Shannona tato série Zdá se, že počet článků dává argumenty zastáncům Destiny. Shannon byl člověk, který se zajímal o mnoho věcí; žonglování, jazz, letectví, křížovky nebo stavění herních strojů. Část svého profesního života věnoval výzkumu matematiky aplikované v genetickém výzkumu nebo ve zbrojním průmyslu. Okolnosti ho však znovu a znovu vedly k vybudování základu svého vrcholného díla: Teorie informace

Malé upozornění na zdi na University of Minnesota ho přivedlo k práci s diferenciálním analyzátorem MIT. Tam spojil Booleovskou algebru s konstrukcí obvodů. Během stáže v Bell Laboratories měl přístup k článku, který mu vnukl myšlenku, že jediná teorie může vysvětlit přenos informací nezávislý na médiu. Trvale začleněný do Bell, kam v podstatě vstoupil, aby se vyhnul volání, se začal zajímat o kryptografii a objevil nadbytečnost jazyka a potřebu nemuset přenášet celé věty, aby zpráva dávala smysl.

Informační teorie

Shannon byl součástí týmu pracujícího na změně paradigmatu v telekomunikacích, takzvané PCM technologii neboli Pulse Code Modulation. Namísto přenosu hlasu pomocí elektrických vln, jak tomu bylo od doby, kdy Alexander Graham Bell vynalezl telefon, bylo cílem přenášet informace o chování elektrických vln. aby je přijímač byl schopen rekonstruovat. Zde musíme vzít v úvahu dva důležité body.

  • Informace o chování vln se nepřenáší během celého rozhovoru, ale každou určitou dobu se udělá vzorek a přijímač vyplní mezery. Vzpomeňte si na Shannonovy poznámky o nadbytečnosti a nutnosti posílat celou zprávu.
  • Informace o vlnách lze přenášet jejich zakódováním nulami a jedničkami. Zde uplatňují Shannonovy myšlenky o použití Booleovy algebry pro přenos informací obvodem.

Tato metoda se však nevztahuje pouze na hlas. Stejnou technologii lze použít pro dálkový přenos jakéhokoli obsahu, který lze převést na nuly a jedničky; statické a pohyblivé obrázky, texty, grafika, hudba atd.

Zajištění věrnosti sdělení

Snad v každé zemi existuje varianta hry, které jsme v dětství říkali „rozbitý telefon“. Jedna osoba pošeptá zprávu partnerovi od vedle, který na oplátku udělá totéž dalšímu v řadě. Proto až do posledního musíte zprávu opakovat nahlas. Málokdy se to shoduje s tím, co řekl první.

Výzvou pro Bell Labs je zabránit tomu, aby se to stalo v komunikaci. A zde přichází na řadu informační teorie.

Shannon navrhl obecný komunikační model, ve kterém odesílatel vysílá prostřednictvím vysílače signál, který při průchodu kanálem dosáhne přijímače. To má na starosti dekódování zprávy dříve zakódované vysílačem a její doručení příjemci. V každém kanálu je to, čemu se říká „šum“, což jsou zkreslení, která ovlivňují příjem zprávy.

Jeho návrh obsahuje následující prohlášení:

  • Veškerá komunikace, bez ohledu na formát, může být chápána jako informace.
  • Všechny informace lze měřit v bitech. Jeden bit (zkratka pro binární číslici) označuje výběr mezi dvěma možnými alternativami, tečkou nebo čárkou telegrafu, hlavičkami nebo ocasy při házení mincí nebo zapínáním a vypínáním pulzů v technologii PCM
  • Nejsložitější informace lze přenášet pomocí řetězce bitů v předem definovaném formátu. Například základní 2 reprezentace číselného kódu přiřazeného písmenu.

Shannon ve své práci na kryptografii ukázala, že velikost zprávy lze snížit odstraněním redundance. Zde navrhl jít opačnou cestou; bojovat proti hluku přidáním extra bitů, aby byl přijímač schopen opravit chyby, ke kterým došlo během přenosu.

Ačkoli v mnoha případech by teoretická formulace trvala desetiletí, než by se stala praktickými aplikacemi, inženýři již měli způsob, jak měřit schopnost různých kanálů přenášet informace. Vše bylo připraveno na to, že nové materiály nahradí tradiční měděné kabely, čímž se exponenciálně zvýší počet obíhajících zpráv. A samozřejmě byste potřebovali způsob, jak s takovým množstvím informací naložit. To uvidíme v dalších článcích.

Pravěk Unixu
Související článek:
Pravěk Unixu a role Bell Labs
Spojení vědců a inženýrů
Související článek:
Spojení vědců a inženýrů. Pravěk Unixu. Část 2
Vakuové trubky
Související článek:
Vakuové trubky. Pravěk Unixu, část 3
Příchod tranzistoru
Související článek:
Příchod tranzistoru. Prehistorie Unixu Část čtvrtá
Související článek:
Pane Claude Shannone. Prehistorie Unixu, část pátá
Shannonova práce
Související článek:
Shannonova práce. Prehistorie Unixu část 6

Zanechte svůj komentář

Vaše e-mailová adresa nebude zveřejněna. Povinné položky jsou označeny *

*

*

  1. Za data odpovídá: AB Internet Networks 2008 SL
  2. Účel údajů: Ovládací SPAM, správa komentářů.
  3. Legitimace: Váš souhlas
  4. Sdělování údajů: Údaje nebudou sděleny třetím osobám, s výjimkou zákonných povinností.
  5. Úložiště dat: Databáze hostovaná společností Occentus Networks (EU)
  6. Práva: Vaše údaje můžete kdykoli omezit, obnovit a odstranit.

  1.   symbi řekl

    Prosím zdroje! šestý díl měl kus, kvůli kterému jsem si myslel, že jde o překlad, i když si nejsem jistý. Odkud to všechno pochází?

    1.    Diego Němec Gonzalez řekl

      Slibuji, že do pátku přijde podrobný seznam zdrojů a toho, co jsem z každého z nich získal. Co vám pravděpodobně zní jako plagiát, je první věta. Ukradl jsem to Isaacu Asimovovi z knihy, která shrnuje jeho odpovědi na vědecké otázky.