Axborot va kodlash nazariyasi asoslari

Shovqinli diskret aloqa kanali uchun Shennon teoremasi

Shovqinli diskret kanal uchun Shennon tomonidan quyidagi teorema isbotlangan.

Agar manba tomonidan ishlab chiqarilgan axborot oqimi, kanalning o‘tkazish qobiliyatiga yetarlicha yaqin bo‘lsa, bunda manba ishlab chiqargan barcha xabarlarni uzatishni ta’minlay oladigan kodlash usulini doim topish mumkin va yuborilgan har qanday xabarning xatolik bilan aniqlash ehtimolligi shuncha kam bo‘ladi.

Manba axborot oqimi va kanalning o‘tkazish qobiliyatining matematik yaqinligi quyidagi tenglik ko‘rinishida yoziladi:

Bu yerda - axborot uzatish tezligi;

S – kanalning o‘tkazish qobiliyati;

• 
  - xohlagancha kichkina (cheksiz) miqdor.
  

T opilmagan xatolik ehtimolligining qay darajada kichikligi quyidagi ko‘rinishda yoziladi:

bu yerda - yuborilgan xabarni noto‘g‘ri aniqlash ehtimolligi,

η – qancha bo‘lsa ham kichkina miqdor.

Teoremaning teskari talqini shundan iboratki, agar manbaning axborot oqimi kanalning o‘tkazish qobiliyatidan oshsa, unda har qanday xabarni kichik xatolik ehtimolligi bilan uzatishni ta’minlovchi kodlash usuli mavjud emas.

Bu teorema manba tomonidan yaratilgan xabar tezligi, kanalning o‘tkazish qobiliyati orasidagi bog‘liqlikni shovqin va qabulda xabarni aniqlay olish ishonchliligi mavjudligida belgilab beradi.

Shennon teoremasi axborot uzatish tezligini kanalning o‘tkazish qobiliyatiga yaqinlashtirish uchun optimal kodlar topishning amaliy yo‘llarini belgilamaydi.

Shovqinli va shovqinsiz kanallar uchun uzatish tezligini maksimal qiymatga yaqinlashtirishning umumiy usuli uzun xabarlarni kodlash hisoblashigina belgilangan.

Shennongacha kanalda belgilangan shovqinlarni eng kichik xatolik ehtimolligini faqatgina uzatish tezligi nolga intilgandagina ta’minlash mumkin deb hisoblangan. Teorema tegishli kodlash usulini tanlash orqali eng kichik xatolik ehtimolligini ta’minlash mumkinligini ko‘rsatyapti.