Shovqunbardosh kodlar Reja: Kodlar haqida. Teng taqsimlangan kodlar

H –ma’lumot manbaning entropiyasi;

C - aloqa kanalining uzatish qobiliyati.

E'tiborni teoremaning isbotiga qaratmasdan, uning imkoniyatiga

to'xtalamiz: ushbu teorema kod simvollarining bir xil ehtimol va bir-biriga bog'liq bo'lmagan holda kelib tushishini ta'minlaydi, har bir simvol yordamida bir nuqtadan ikkinchisiga uzatilayotgan axborot hajmi log2 k (bit/element) ga teng bo'ladi.

Lekin teorema qanday usul asosida samarali kodlash mumkinligi to'g'risida hech qanday ko'rsatma bermaydi.

Keltirilgan xususiyatlarga asoslanib, ma'lumotlarning o'zaro bog'liq va

o'zaro bog'liq bo'lmagan simvollarini samarali kodlash bo'yicha bir qator

algoritmlar ishlab chiqilgan, ular bugunda ham samarali kodlash jarayonlarida qo'llaniladi.

Algoritmlar ma'lumot manbaida ko'p qaytariladigan simvollarni eng kichik uzunlikdagi kod kombinasiyalari bilan kodlashga asoslanadi.

Axborotni kamroq bitlarni sarflab uzatish axborotni kodlashtirishning

samarali usullarining maqsad va vazifasi hisoblanadi. Axborotni

kodlashtirishning samarali usullaridan foydalanilganda kanalning

o'tkazuvchanlik qobiliyatidan samarali foydalanish mumkin.