Mavzu: kod tushunchasi. Reja

W (0) = 1; W (3) = 2; W (4) = 1
Aniqlanmaydigan xatolar extimolligi (Rno)– qabul qilingan kodli
kombinatsiya uzatilgandan farq qilganda kod buni farqlash xususiyatiga ega emas. Mana shu xodisa ro’y berishi extimolligi – aniqlanmaydigan xatolar extimolligi (Rno) deyiladi.
Ruxsat etilgan kodli kombinatsiyalar soni Nr – xabarlarni uzatish uchun
qo’llanadigan kodli kombinatsiyalar soni:
N r = 2 ^k
Simvollaripaydobo'lishiningehtimolibirxilbo'lganma'lumotlarni
samaralikodlashSamaralikodlashshovqinsizaloqakanallaridaqo'llaniladi. Bunda kanallarda asosiy masala – maksimal axborot uzatish tezligini ta'minlash, ya'ni axborot uzatish tezligini aloqa kanalining ma'lumot uzatish imkoniga etkazish hisoblanadi. Agar N(x) – birlamchi ma'lumotning entropiyasi bo'lsa, hamda (xi) ma'lumotining simvollarini paydo bo'lish ehtimolligi bir xil va ma'lumot manbai alfavitining hajmi m bo'lsa, (xi) ma'lumotini hohlagan i simvolining paydo bo'lish ehtimolligi P(xi) bir xil qiymatga ega bo'ladi, ya'ni:
P(x i )= m/1 i=1,.., m,

Ma'lumotning entropiyasi (N(x)): ga teng bo'ladi.

ga teng bo'ladi.
Agar kodlash uchun k asosli raqamli koddan foydalanilgan bo'lsa (kod
simvollari elementlari alfavitining hajmi k ga teng) va bunda kod simvollari elementlarining entropiyasi simvol elementlarining paydo bo'lish ehtimolligi bir xil va ular o'zaro mustaqil bo'lish sharti bajarilganida quyidagi formula orqali hisoblanadi:


Shovqinsiz aloqa kanallari orqali uzatiladigan ma'lumotlarni samarali
kodlashtirish Shennon teoremasiga asoslanadi:
Agar ma'lumot manbaining entropiyasi N [bit/simvol] ga va aloqa
kanalining uzatish qobiliyati S [bit/sek] ga (aloqa kanalining uzatish qobiliyati deganda, uning eng maksimal ma'lumot uzatish tezligini ta'minlashi tushuniladi) teng bo'lsa, har doim shunday kodlash usulini topish mumkinki, kanalda ma'lumot uzatish tezligining o'rtacha qiymati ushbu formula negizida hisoblangan tezlikga teng bo'ladi: