2-мавзу. Шартли энтропия ва бирлашма энтропия. Информациянинг узатиш тезлиги ва алоқа каналининг ўтказиш қобилияти

p₀ = 0,2; p₁ = 0,8;

p₀ = 0,02; p₁ = 0,98.

Ечиш.

1. 
   бит/сек.
   
2. 
   бит/сек.
   

в) бит/сек.
г) бит/сек.


2.9-мисол. Алфавитдаги символлар сони q = 4.Символларнинг пайдо бўлиш эхтимолликлари p₁ = 0 ,15; p₂ = 0,4; p₃ = 0,25; p₄ = 0,2. Символлар давомлилиги  ₁ = 3 сек;  ₂ = 2сек;  ₃ = 5сек;  ₄ = 6сек. Бундай символлардан тузилган хабарларни узатиш тезлиги аниқлансин.
2.10-мисол. Алфавитдаги символлар сони q = 7. Символларнинг ҳар бирининг узатиш тезлиги мос холда қуйидагича:  ₁ = 1сек;  ₂ = 2 сек; ₃ = 3 сек;  ₄ = 5 сек;  ₅ = 5 сек;  ₆ = 5 сек;  ₇ = 7 сек. Қуйидаги холлар учун информацияни узатиш тезлиги аниқлансин.

1. 
   Символларнинг пайдо бўлиш эхтимолликлари тенг;
   
2. 
   Символларнинг пайдо бўлиш эҳтимолликлари қуйидагича: р(A₁) = 0,125; р(A₂) = 0,715; р(A₃) = 0,02; р(A₄) = 0,02; р(A₅) = 0,098; р(A₆) = 0,012; р(A₇) = 0,02.