Vytisknout celou knihuVytisknout celou knihu

Úvod k teorii informace

Stránky: Moodle ZČU
Kurz: KVD/UIN Úvod do informatiky pro vzdělávání - šablona
Kniha: Úvod k teorii informace
Vytiskl(a): Nepřihlášený host
Datum: neděle, 8. listopadu 2026, 22.53

Obsah

1. Typy a vlastnosti informace

Získávání a předávání informací je základem komunikace. Již v těchto dvou procesech se odráží obojakost tohoto pojmu, který můžeme chápat jako:

  • Obsah toho, co jsme se dozvěděli.
  • Způsob, kterým byly předány.

Pokud si uvědomíte, že informace nutně nemusíme získávat pouze při komunikaci s jinými lidmi, jaké způsoby přenosu se nabízí?

Typy informací

Vybrané typy informací můžete vidět na obrázku níže. Jistě byste dokázali tento výběr doplňovat o další. Přesto je nepravděpodobné, že by někdy bylo možné získat úplný výčet typů. Hranice mezi nimi není vždy zřejmá (např. politické rozhodnutí o tom, že máte možnost žádat o ošetřovné na ošetřování nemocného člena rodiny, je upraveno příslušnou normou a pro mnohé se zcela jistě jedná o informaci sociálního charakteru).

typy informací
Obr. 1: Rozdělení informací podle typu.

Navíc je nepravděpodobné, že byste informace používali zcela izolovaně. Mnohem častější činností je jejich vzájemné propojování a zařazování do vnitřní struktury, kterou již máte utvořenou z předchozí doby (např. v předchozím tématu e-kursu jste jste využili způsoby převádění mezi číselnými soustavami, které jste poznali dříve, v nových příkladech při zobrazovaní čísel na pevný počet míst).

Duality vlastností

Informace se kromě typu také mohou třídit podle vlastností, které souvisí s protikladnými dualitami, které vidíte na obrázku níže.

duality informace

Jaké mohou být příklady u jednotlivých dualit?

1.1. Shrnutí

Poznali jste různé vlastnosti, které může infomrace mít. Je patrné, že např. spojení stará informace nemusí mít negativní konotací, pokud se dotýká její stálosti. Zároveň víte, že v průběhu života získáte mnoho informací, které si s sebou pouze nesete dál pro jejich potenciální další využití. Velmi často infomaci získáváme na základě významu kontextu situace, protože ve studijním článku zmíněná zkratka OCR může v rámci textu o cestování mít zcela jiný význam (Organizace cestovního ruchu).

Zdroje

Podrobnější informace k tématu studijního článku můžete nalézt v následujících zdrojích:

  •  JIROUŠEK, Radim a kol. Principy digitální komunikace. Voznice: LEDA, 2006, 320 s. ISBN 80-7335-084-X.
  • KOCOUREK, Petr a Jiří NOVÁK. Přenos informace. Praha: ČVUT Praha, 2004, 164 s. ISBN 80-010-2892-5.
  • PROKOPOVÁ, Zdeňka. Základy informatiky: učební texty vysokých škol. Zlín: VUT v Brně, 1998, 98 s. ISBN 80-214-1129-5.

2. Pojmy spojené s teorií informace

Informace

 Jak byste vymezili pojem informace?

U výše položené otázky je důležité, abyste si uvědomili, že různé vědní obory akcentují na pojmu informace něco jiného (např. kybernetika nahodilost, filosofie uspořádanost apod.). Na obrázku níže si můžete připomenout, co je většině těchto odlišných pohledů společné. Přes zmíněné různé způsoby uložení i přenášení informace nezávisí na množství energie, kterou je na tyto základní činnosti vynaložit.

informace,
Obr. 2: Schéma k charakteristice pojmu informace.

Zpráva

 Co si pomyslíte, když někde uvidíte číslo 451?

V odpovědi na otázku jste jistě dospěli k názoru, že uvedené číslo samo o sobě informací není. Představuje údaj či data, která pro někoho při správném vyhodnocení budou představovat informaci. Bez dat by ovšem neměly informace potřebné opodstatnění.

I přes zmíněný nehmotný charakter informace potřebujete k jejímu přenášení nějaký fyzikální děj. Bez ohledu na jeho podstatu ho budeme nazývat signál. Od něj se odvíjí následující proces. Elementární signály tvoří prvky abecedy (při kódování posléze budeme používat binární znaky 0 a 1). Abeceda se používá pro tvorbu symbolů (při kódování půjde o kódová slova), které se přiřazují konkrétním hodnotám signálu. Pokud proběhne přenos časově ohraničné posloupnosti symbolů, která má ucelenou formu odpovídající pravidlům příslušného informačního systému, hovoříme o tom, že jsme získali zprávu. Vyhodnocením souboru zpráv konečně získáme informaci.

zpráva
Obr. 3: Schéma atributů zprávy.

Atributy zprávy vidíte na obrázku výše:

  • Syntaxe je dána přípustnostní skladby zápisu zprávy a počtem symbolů (potažmo zmíněných elementárních signálů) potřebných pro její vyjádření.
  • Sémantika je dána smysluplností obsahu zprávy.
  • Důležitost vyjadřuje význam zprávy pro příjemce.

3. Teorie informace

Vymezení pojmu informace

Měření množství informace pouze počtem použitých symbolů by neodpovídalo tomu, jaký význam přikládáme obsahu zprávy, která ji nese (např.  ve chvíli, kdy budete při vaření hledat čtyři vejce, nebudete považovat zprávu o tom, že housle mají stejný počet strun za důležitou a zřejmě ani smysluplnou). Pokud ovšem znáte soubor zpráv, které můžete obdržet, obsah jedné konkrétní zprávy je tím infornačně zajímavější, čím více jste překvapeni, že jste obdrželi právě ji (např. víte, že ze zkoušky můžete obdržet jednu ze čtyř známek a ve chvíli, kdy se ji chystá zkoušející oznámit, si v duchu řeknete, jaká známka to asi bude. Pokud ji odhadnete dobře, bude to informačně méně hodnotné, než když byste byli verdiktem zkoušejícího zaskočeni.). Podobný fakt můžete postupně vztáhnout i na jednotlivé symboly (např. pokud budete číst český text, zřejmě nejvíce zpozorníte, když se v něm objeví nějaké méně časté písmeno, např. x).

 S čím na základě uvedených příkladů nejspíše spojíte množství získané informace?

Na základě uvedených úvah lze vymezit pojem informace jako dispozici odstraňující nejistotu u příjemce.

Teorie informace

ShannonPravděpodobností výskytu zpráv (případně symbolů z nichž se skládají) můžete nalézt jako míru informace v základech nového vědního oboru z poloviny dvacátého století. Americký inženýr Claude Elwood Shannon (1916–2001) byl nejprve velmi úspěšným studentem, který obhájil diplomovou práci v pouhých jedenadvaceti letech. Do předmětu Elektronické prvky a systémy (KVD/EPSV) pro další semestr studia si můžete přenést informaci, že v ní předvedl využití Booleovy algebry v číslicové technice. Pro nás je ovšem klíčové, že v roce 1948 spolupublikoval článek „A mathematical theory of communication“.
Obr. 4: Claude Elwood Shannon. Zdroj: CC-BY Thierry Ehrman https://www.flickr.com/photos/home_of_chaos/7591110676/

Funkční závislost pravděpodobnosti a množství informace získané přenesením zprávy o jediném symbolu x, který má pravděpodobnost výskytu p(x) ve zprávách zdroje abecedy X, stanovil Shannon následujícím vzorcem:

I(x) = - log_2 p(x_i)

V uvedeném článku byla pro míru informace zavedena také důležitá zkratka bit (z binary digit – dvojková číslice).

Shannon zároveň zavedl vztah, kterým provedl zprůměrování množství informace, kterou obdržíme s jedním symbolem, přes více zpráv (či ideálně všechny zprávy, které může zdroj produkovat). Tuto střední očekávanou míru informace posléze nazval entropií pravděpodobnostního rozložení zdroje. Míru informace tedy navázal na míru neurčitosti:

H(X) = - \sum {(p(x_i) \times log_2p(x_i))}
pro i = 1..n 

V poslední kapitole následujícího videa jsou vidět články, díky nimž vznikla teorie informace, jak ji známe dnes.


Zdroj: CRUISE, Brit. Měření informace. In: Khan Academy [online]. [cit. 2021-12-23]. Dostupné z: https://youtu.be/PtmzfpV6CDE. CC-BY-NC.

3.1. Cvičení ke vzorcům spojeným s teorií informace

V závěru předchozího studijního článku jste poznali dva vzorce, které Shannon spojil s teorií informace. Byl to jeden z mnoha jeho příspěvků lidskému vědění, než odešel v pouhých čtyřicetipěti letech do důchodu, aby zemřel až o čtyřicet let později. V tomto dobrovolném cvičení se můžete zamyslet nad některými aspekty, které se vzorci souvisí pro jejich lepší pochopení.

  1. Na základě čeho byl pro vyjádření funkční závislosti vybrán právě logaritmus?
  2. Proč je ve vzorci znaménko mínus?
  3. Jaká musí být pravděpodobnost výskytu symbolu x ve zprávě, aby se množství prijaté informace rovnalo právě jednomu bitu?

Tipy pro řešení

Při hledání odpovědi na první otázku si vzpomeňte na některé vlastnosti pravděpodobnosti nezávislých jevů a vztahy platné pro logaritmy.

U zbývajících dvou otázek by mělo postačit, když si vzpomenete na průběh grafu funkce logaritmus.

Návrh řešení

 Návrh řešení si prohlédněte, až si na všechny otázky pokusíte najít vlastní odpověď.

3.2. Shrnutí

Přestože předmětem přenosu jsou obvykle data jako stav nějakého objektu, veličiny apod., hovoří se o přenosu informací, protože bez interpretace by data nic neznamenala. Své o tom ví všechny společnosti, které snadno shromažďují např. data o zákaznících, ale složitě se za pomoci data miningu (vytěžování dat) dostávají k nějakým užitečným informacím, které by jim byly nápomocny v jejich podnikání. Informace nejsou vázány obecně přímo na počet zpráv, ale množství získané informace se může podle něj měnit, protože každá zpráva má kvantifikovanou, kvalitativní a prioritní míru. Mírou pro měření množství informace se v teorii informace stala pravděpodobnost výskytu symbolů z dané množiny. Příjem očekávané zprávy přináší méně informace, než když obdržíme méně pravděpodobnou zprávu. Konečně již můžeme uvědoměle používat zkratku bit.

Zdroje

Podrobnější informace k tématu studijního článku můžete nalézt v následujících zdrojích:

  • CRUISE, Brit. Měření informace. In: Khan Academy [online]. [cit. 2021-12-23]. Dostupné z: https://youtu.be/PtmzfpV6CDE.
  • JIROUŠEK, Radim a kol. Principy digitální komunikace. Voznice: LEDA, 2006, 320 s. ISBN 80-7335-084-X.
  • KOCOUREK, Petr a Jiří NOVÁK. Přenos informace. Praha: ČVUT Praha, 2004, 164 s. ISBN 80-010-2892-5.
  • MAREŠ, Milan. Slova, která se hodí, aneb, Jak si povídat o matematice, kybernetice a informatice. Praha: Academia, 2006. 348 s. ISBN 80-200-1445-4.
  • PROKOPOVÁ, Zdeňka. Základy informatiky: učební texty vysokých škol. Zlín: VUT v Brně, 1998, 98 s. ISBN 80-214-1129-5.