3 Каналнинг ўтказувчанлиги

Шовқинсиз канал сиғими ҳақидаги теоремалар
Шовқин бўлмаган дискрет каналлар учун Шeннон қуйидаги теоремани исботлади: агар манба ишлаши R C - бўлса , бу эрда ξ ўзбошимчалик билан кичикдир, унда ҳар доим барча манбали хабарларни канал орқали узатишга имкон берувчи кодлаш усули мавжуд. Барча хабарларни узатиш пайтида R>C амалга оширилиши мумкин эмас.
Теореманинг маъноси шундан келиб чиқадики, агар манба қанчалик катта бўлса ҳам, унинг барча хабарлари агар Р  C-ξ бўлса, каналда узатилиши мумкин . Теореманинг тескари томони қарама-қаршилик орқали осонгина исботланади. Фараз , R>С , лекин ҳамма учун канал орқали хабар узатиш манбаи ахборот даражаси деб зарур Р дан кам бўлмаган ҳисобланади R . Кейин бизда R R>C бор , бу мумкин эмас, чунки таъриф бўйича ўтказиш қобилияти C = Р _мах .  C 
Канал ўтказиш қобилиятидан оқилона фойдаланиш учун хабарларни кодлаш учун тегишли усулларни қўллаш керак. Статистик ёки оптимал деб кодлаш дейилади, бунда каналнинг ўтказиш қобилияти шовқинсиз ишлатилади. Тегишли кодлаш билан R каналидаги ҳақиқий узатиш тезлиги C-нинг тармоқли кенглигига яқинлашади , бунга манбани канал билан таққослаш орқали эришилади. Дастлабки хабарлар шифрланган бўлиб, улар алоқа каналлари орқали узатиладиган сигналларга қўйиладиган чекловларга энг мос келади. Шунинг учун мақбул коднинг тузилиши манбанинг статистик хусусиятларига ҳам, каналнинг хусусиятларига ҳам боғлиқ.
Оптимал кодлашнинг асосий принтсипларини мустақил хабарлар манбаси мисолида кўриб чиқинг, улар аралашувсиз иккилик канал билан таққосланиши керак. Бундай шароитда кодлаш жараёни дастлабки хабарларни иккилик код комбинатсиясига айлантиришдан иборат.
Код бирикмаларининг энтропияси манба энтропиясига тенгдир:
. (2.5)
Канал ҳақида маълумот даражаси:
. (6)
Бу эрда ҳисоблагич фақат манбанинг статистик хусусиятлари, τ ₀ эса каналнинг хусусиятлари билан белгиланади . Сиз хабарларни кодлашингиз мумкин, шунда Р (2.6) узатиш тезлиги максимал қийматига, иккиламчи каналнинг ўтказувчанлигига тенг C = 1 / τ ₀ , агар шарт бўлса:
. (7)
Шартларга жавоб берадиган кодлардан бири (7) Шeннон-Фано кодидир.