3 Каналнинг ўтказувчанлиги

Шовқинсиз дискрет каналнинг математик модели
Доимий симметрик хотирасиз канал, ҳар бир нақл коди белги нотўғри белгиланган эҳтимоли қабул қилиниши мумкин бўлиб, бир-алоҳида канал, деб белгиланган b_i эҳтимоли билан тўғри ва 1-п, ва унинг ўрнига нақл рамз хато ҳолда b_i йиртиқ эҳтимоли ҳар қандай бошқа белги қабул бўлиши мумкин. Шундай қилиб, b_i узатилганда b_j ҳарфини олиш эҳтимоли ,
. (8)
Бундай каналда ҳар қандай n ўлчовли хато векторининг эҳтимоллиги
(9)
бу эрда l - хато векторидаги нол бўлмаган белгилар сони. Эҳтимоллар Тог ҳақида нима бўлди л кетма-кетлигини узунлиги бўйлаб ўзбошимчалик жойлашган хатоларни, n Берноулли формула билан аниқланади,
(10)
қаерда  - бином коеффитсиенти турли бирикмаларнинг сонига тенг l блок узунлиги ҳам Хато n .
Ушбу модел бином канал деб ҳам аталади. У маълум бир модем танланганида пайдо бўладиган канални қониқарли тарзда тавсифлайди, агар доимий каналда сўниш йўқ бўлса ва қўшимчали шовқин оқ бўлса (ёки ҳеч бўлмаганда квази-оқ). Иккилик код комбинатсиясида хатоликлар эҳтимоли н узунлигини ( l нинг кўпайтмаси ) p (1) учун (10) моделга мувофиқ.
. (11)
Шeннон теоремаси
Шeннон теоремаси: агар хабар манбасининг ишлаши алоқа каналининг ўтказиш қобилиятидан кам бўлса, унда сиз ҳар доим алоқа каналининг ўтказиш қобилиятига яқин бўлган ўртача тезликда маълумот узатилишини таъминлайдиган кодлаш усулини топишингиз мумкин. Маълумотни алоқа каналининг юқори ўтказиш қобилиятининг ўртача тезлиги билан узатиш мумкин эмас.
Шундай қилиб:
1)Агар V (X) c бўлса, унда сиз ҳар доим кодлаш усулини топишингиз мумкин
V (Y, X) = C_c - ε,
Бу эрда ε - ихтиёрий равишда кичик миқдор.
2.) V (Y, X) = C_c да маълумотни узатиш мумкин эмас.
Теореманинг исботи.
М элементларнинг типик кетма-кетликлари сони этарли
узунлиги mТ τ = хабар манбаи Х томонидан яратилган,
шаклидаги H(Х) манбанинг энтропияси орқали ифодаланиши мумкин
n_T=2^mH(X)
М → ∞ сифатида, эҳтимоллик бирлигига яқин бўлган манба фақат 1 / n_T га тенг бўлган одатий кетма-кетликни ҳосил қилганлиги сабабли, бундай манбанинг энтропияси лог(н_Т), м элементлар таркибидаги маълумотларнинг умумий миқдори.
м → ∞ сифатида энтропияси H(Х) бўлган манба mH(Х) га тенг. Шу ердан
мH(Х) = log n_T.
Шунинг учун биз (5.68) муносабатларга келамиз.
Манба ишлашини ҳисобга олган ҳолда
V(X)=
ифода (5.68) шаклни олади
n_T=2^TV(X)
Агар этарли узунликдаги Т кетма-кетликлар Х нинг рақамли комбинатсиялари билан оптимал тарзда кодланган бўлса, X’ нинг турли хил код бирикмаларининг сони бўлади.
n_Tc=2^TCc
Eнди V(Xc) ҳолатини C_c = V(X) + ε шаклида ёзамиз,
бу eрда ε ўзбошимчалик билан кичик миқдор.
Кейин
=2^[TCc-TV(X)]=2^Tε
Агар қабул қилсангиз
ε > кейин
>=1+++........
ёки
=+1
Шундай қилиб, V(X(Теореманинг иккинчи қисми учун V(X)>C_c учун n_T >n_Tc +1 тенгсизликка эга бўламиз.
Шундай қилиб, канал орқали маълумотлар узатилишининг максимал тезлигини таъминлайдиган оптимал кодлаш билан ҳам, Тн-нинг барча типик кетма-кетликларини кодлаш ва узатиш аллақачон мумкин эмас. Шовқинсиз дискрет канал учун оптимал кодлаш каналнинг мумкин бўлган ҳолатларининг барча тўпламларини якуний катталаштиришгача камаяди. Шу билан бирга, катталаштирилган ҳолатлар тўпламининг элементлари ўртасидаги ўзаро боғлиқлик йўқ қилинади ва одатдаги кетма-кетликлар туфайли элементларнинг пайдо бўлишининг тенг эҳтимоллиги таъминланади. Натижада канал орқали узатиладиган хабарнинг ортиқча бўлиши йўқ қилинади.
Шовқинсиз дискрет канал учун асосий Шeннон теоремасини кyрсатиш учун биз бунга мисолни кyриб чиқамиз
Шовқинсиз дискрет канал учун асосий Шаннон теоремасининг тасвири сифатида Шаннон - Фано кодлаш усулидан фойдаланадиган мисолни кўриб чиқамиз.
Ушбу кодлаш усулининг моҳияти шундан иборатки, хабарларнинг барча ҳолатлари уларнинг юзага келиш эҳтимоли камайган тартибда ёзилади.
Кейин 1 ва 2 кичик гуруҳларга кетма-кет бўлиниш 1 ва 2 кичик гуруҳларда давлатлар пайдо бўлиши эҳтимоллари йиғиндиси тенглиги шарти билан амалга оширилади. Ҳар бир бyлиниш пайтида ушбу ҳолатга тушадиган кичик гуруҳнинг рақами кодни киритиш жойига мос келадиган белгини (элементни) белгилайди.
Агар, масалан, хабар x₁ x₂ x₃ x₄ эҳтимолликлари P(x₁)=0.5 P(x₂)=0.25 P(x₃)= P(x₄)=0.125 ва давомийлиги бyлган ҳолатлардан иборат бyлса, ҳар бир τ = 2 мс, кейин ушбу хабар учун коднинг тузилиши жадвалга мувофиқ белгиланади.

Ҳолати	Eҳтимоллик	Бўлиниш рақамлари кичик гуруҳлар				Белгилар коди				Сигналнинг давомийлиги
						Позитсия
		1	2	3	1		2	3