Ma'lumotlarni uzatish tizimlarini qurilish prinsiplari

5-ma'ruza

Shovqinli KANALLAR ORQAGI MA'LUMOTLARNI UZATISH PRINSİPLARI

Diskret shovqinli kanalning axborot uzatish tezligi va tarmoqli kengligi
Xabar manbasiga elementlarning X xabarini kanalga chiqarishiga ruxsat bering x ₁ , x ₂ , , x _n , va
xabar qabul qiluvchisi elementlarning ba'zi Y xabarini oladi y ₁ , y ₂ , , y _n .
Xabar shovqinli kanal orqali uzatiladi.


x ₁ x ₂
...
x _n

Shunday qilib, xabar qabul qiluvchi tomondan shovqinli kanal orqali uzatilganda, nima uzatilganligini aniq aytish mumkin emas. Biz uzatilgan xabarning u yoki bu ehtimoli haqida gapirishimiz mumkin.

_i qabul qilingan bo'lsa, u holda faqat x _{i turli ehtimolliklar bilan uzatilganligini} aytishimiz mumkin , bu erda i=1,...,n. Bunday uzatish jarayoni p(x _i /y _j ) shartli ehtimollik yordamida matematik tarzda tavsiflanadi - y _j elementi qabul qilingan shartda x _{i o'tkazilishi ehtimoli} .
Agar kanalda interferensiya bo'lmasa, u holda p(x ₁ /y ₁ ) =1, p(x ₁ /y ₂ ) =0 va boshqa barcha p(x ₁ /y _n )

= 0.

oldin xabar elementlari H(x _i )=log 1/p(x _i )= -log entropiya bilan tavsiflanadi.

p(x _i ). (*)
H(x _i ) qiymati shartsiz yoki aprior entropiya deb ataladi.
Interferentsiya mavjud bo'lganda xabarning uzatilishi natijasida entropiya kamayadi

nolga teng, lekin qoldiq entropiya qiymatigacha
H(x _i /y _j )=log 1/p(x _i /y _j ) = -log p(x _i /y _j ). (**)
_j elementi qabul qilingan taqdirda, dastlabki xabarning x _i elementiga nisbatan noaniqlikni tavsiflaydi .
H(x _i /y _j ) qiymati shartli yoki posteriori entropiya deb ataladi. Keling, aniqlaymiz
I(x _i /y _j )= H(x _i ) - H(x _i /y _j ) = jurnal (p(x _i /y _j ))/p(x _i ). (bir)
qabul qilingan elementdagi axborot miqdori sifatida y _j uzatiladigan elementga nisbatan x _i . I(x _i /y _j ) - shaxsiy ma'lumot miqdori - uzatilgan xabarning barcha elementlari bo'yicha p(x _i ) va qabul qilingan xabarning barcha elementlari bo'yicha p(y _j ) ni o'rtacha hisoblab, biz quyidagini olamiz: qabul qilingan xabardagi ma'lumotlarning uzatilganga nisbatan miqdori
n n

I ( X / Y )  _-  p ( x _i ) p ( x _i / y _j ) jurnali p ( x _i / y _j )  H ( X )  H ( X / Y ).

(2)

i  1 j  1

Interferentsiya mavjud bo'lganda ma'lumot olish mexanizmi

OLDINDAN KEYIN TRANSFER TRANSFERLAR

ENTROPIYA H(X) H(X/Y)
INFO 0 H(X)-H(X/Y)

Vaziyatlarni ko'rib chiqing:

1. 
   Hech qanday aralashuv yo'q, ya'ni. Har bir uzatilgan belgi bitta qabul qilingan belgiga ega. signal.
   

p(x _i /y _j )=1 yoki 0, H(x _i /y _j ) = 0 demak H(X/Y) =0 va I(X/Y)=H(X), yaʼni. ma'lumotlar yo'qolmaydi.

2. 
   Interferentsiya darajasi shunchalik yuqoriki, qabul qilingan xabar bilan bog'liq emas uzatiladi.
   

p(x _i /y _j )= p(x _i ), H(x _i /y _j )=H(x _i ) demak H(X/Y) = H(X) va I(X/Y)=0 , ya'ni ma'lumotlarning to'liq yo'qolishi mavjud.
Shunday qilib 0  I(X/Y)  H(X) =I(X).
Shovqinli diskret kanal orqali axborot uzatish tezligi
R = V _dan I (X/Y) gacha bps,
qayerda
V _to - kanaldagi belgilarni uzatish tezligi;
I(X/Y) - bitta belgi tomonidan o'tkaziladigan ma'lumotlarning o'rtacha miqdori. C = max R - shovqin mavjudligida kanal sig'imi.
Ko'rinib turibdiki, interferensiya mavjud bo'lganda, kanalning haqiqiy o'tkazuvchanligi pasayadi va ko'proq darajada interferentsiyaning intensivligi kattaroq bo'ladi.


Diskret shovqinli kanal sig'imi haqidagi Shennon teoremasi

To'g'ridan-to'g'ri teorema:

Agar P xabar manbasining ishlashi C kanalining imkoniyatlaridan oshmasa, ya'ni. P  C, keyin shovqin mavjudligiga qaramay, har doim shunday kodlash usuli mavjud bo'lib, unda ma'lumot yo'qotmasdan uzatiladi va P  C da axborot uzatish tezligi ham C ga (R  C) moyil bo'ladi. .
Teskari teorema.
Agar P > C bo'lsa, unda ma'lumotni yo'qotishsiz uzatadigan kodlash usuli yo'q.
Ushbu teorema ma'lumotlarning yo'qolishi nolga teng bo'lgan maxsus kodlash usulini ko'rsatmaydi, lekin uning mavjudligi isbotlangan.
Misol.
Kanal holda kanalga aralashish aralashuv

V _k \u003d 1000 dv.char/c V _k = 1000 juft belgi/s

C _bp = 1000 bit/s C _n = 600 bit/s
_Rbp = _ 1000 bit/s P _n = 600 bit/s
V ^opt = 1000 ikkilik char/c V ^opt = 600 ikkilamchi belgi/s
va va
Kanalda shovqin bo'lsa, kanal orqali soniyada 1000 bit uzatiladi. Ulardan 400 ta qo'sh belgilar / s ortiqcha ma'lumotdir, ya'ni. C _bp - C _p \ u003d  C.
Shennon teoremasiga ko'ra, shovqinli kanal bo'ylab axborotni xatosiz uzatishning yagona usuli - ortiqchalikni kiritish.