Kompyuterlar va ular qanday ishlashini ko'rib chiqib, endi axborotni namoyish qilish masalasini ko'rib chiqamiz: kompyuterlar biz qayta ishlashni istagan ma'lumotlarni qanday aks ettiradi

H [in /ma'lumot manbai xususiyatlariga bog'liq
kanal kirish joyi IN va aloqa kanalining ehtimollik xususiyatlari to'g'risida. Shannonning statistik aloqa nazariyasiga ko'ra n (w / w) kanalning ishonchsizligi deb nomlangan.
Shartli entropiya NV / V, diskret manbaning entropiyasi
kanal kirish qismida H (B) va entropiya I ^ B) uning chiqishida bo'lishi mumkin emas
salbiy. Kanalda shovqinsiz ishonchsizlik
n (w / w \u003d 0. (5.20) ga binoan, e'tibor bering H ^ w / B ^
va tenglik faqatgina kanalning kirish va chiqishi statistik jihatdan mustaqil bo'lgan taqdirdagina amalga oshiriladi:
Chiqish belgilari kirish belgilariga bog'liq emas - agar kanal uzilib qolsa yoki juda kuchli shovqin bo'lsa.
Oldingi kabi, odatiy ketma-ketliklar uchun siz yozishingiz mumkin

shovqin bo'lmasa, uning ishonchsizligini ayting

O'rtacha kanal orqali uzatiladigan ma'lumotlar ostida J [b / bitta belgi uchun biz kanal kirishidagi ma'lumot miqdori o'rtasidagi farqni tushunamiz J (B) va kanalda yo'qolgan ma'lumotlar /?).
Agar ma'lumot manbai va kanal xotirasiz bo'lsa, u holda
Ifoda (5.27) kanalning chiqish belgilarining entropiyasini aniqlaydi. Kanal chiqishidagi ba'zi ma'lumotlar foydali, qolganlari yolg'on, chunki ular kanaldagi shovqin tufayli hosil bo'ladi. Yozib oling n [in /2?) Kanaldagi shovqinlar to'g'risida ma'lumotni ifoda etadi va i (d) -I (d / d) farq kanal orqali o'tgan foydali ma'lumotdir.
E'tibor bering, kanal chiqishida hosil bo'lgan ketma-ketliklarning aksariyati atipik va juda kam umumiy ehtimollikka ega.
Qoida tariqasida, shovqinlarning eng keng tarqalgan turi hisobga olinadi - qo'shimcha shovqin. N (t); kanal chiqishidagi signal quyidagicha ko'rinadi:
Diskret signallar uchun (5.28) dan kelib chiqadigan ekvivalent shovqin diskret tuzilishga ega. Shovqin - bu kiruvchi va chiquvchi signallarning ketma-ketligiga o'xshash diskret tasodifiy ketma-ketlik. Diskret kanaldagi qo'shimcha shovqin alfavitining belgilarini Ts1 \u003d 0, 1,2, t - 1). Bunday kanalda shartli o'tish ehtimoli
Chunki Va (^ B/?) VA (B), shuning uchun kirishga nisbatan # (/) diskret kanalining chiqish ketma-ketligi haqidagi ma'lumot B (t) yoki aksincha I (B) - H ^ b / b) (5).
Boshqacha qilib aytganda, kanal orqali uzatiladigan ma'lumot uning kiritilishidagi ma'lumotdan oshib ketishi mumkin emas.
Agar kanal kiritish o'rtacha bo'lsa x dan sekundiga belgilar, keyin siz shovqinli kanal orqali o'rtacha ma'lumot uzatish tezligini aniqlashingiz mumkin:
qaerda H (B) \u003d V k J (B, B ^ - kanal kirishidagi manba ishlashi; n (v / v) \u003d Y k n (v, v) ~ vaqt birligiga kanalning ishonchsizligi; N (B) \u003d V k H ^ B ^ - kanal chiqishi natijasida hosil bo'lgan manbaning mahsuldorligi (foydali va yolg'on ma'lumotlarning bir qismini berish); H ^ b / B ^ \u003d Y k 1 / (b / b) - yolg'on ma'lumotlarning miqdori,
vaqt birligiga kanaldagi aralashuv natijasida hosil bo'ladi.
Axborotni kanalga uzatish miqdori va tezligi tushunchalari aloqa kanalining turli bo'limlariga qo'llanilishi mumkin. Bu "kodlovchi kiritish - dekoder chiqishi" bo'limi bo'lishi mumkin.
E'tibor bering, kanalning ko'rib chiqilayotgan qismini kengaytirib, uning biron bir qismidagi tezlikni oshirib bo'lmaydi. Har qanday qaytarib bo'lmaydigan transformatsiya ma'lumotlarning yo'qolishiga olib keladi. Qaytarib bo'lmaydigan transformatsiyalar nafaqat shovqin ta'sirini, balki ortiqcha kodlar bilan aniqlash va dekodlashni ham o'z ichiga oladi. Qabul qilishni yo'qotishni kamaytirish usullari mavjud. Bu "hamma narsa".
Diskret kanalning o'tkazuvchanligi va optimal kodlash teoremasini ko'rib chiqing. Shennon kirish signallari ansamblidagi bir qator cheklovlar ostida ma'lum xususiyatlarga ega bo'lgan (shovqinli) kanal orqali ma'lumotlarni uzatishning mumkin bo'lgan maksimal tezligini belgilaydigan xususiyatni taqdim etdi. Bu S kanalining o'tkazuvchanligi. Diskret kanal uchun

bu erda maksimal kirish manbalari tomonidan himoya qilingan IN berilgan V k va kiritilgan alifbo belgilarining hajmi t.
Diskret kanalning tarmoqli kengligi ta'rifiga asoslanib, biz yozamiz
Shunga e'tibor bering, mustaqil kirish va chiqish bilan (kanaldagi shovqinning yuqori darajasi) va shunga mos ravishda C \u003d 0
signalga aralashishning to'liq yo'qligida.
Xotirasiz ikkilik muvozanatli kanal uchun

Shakl: 5.2.
Ikkilik kanalning tarmoqli kengligining parametrga bog'liqligi grafigi r rasmda ko'rsatilgan. 5.2. Qachon r \u003d 1/2 kanal o'tkazuvchanligi C \u003d 0, shartli entropiya
// (/? //?) \u003d 1. Amaliy qiziqish
grafik 0 ga teng
Shannonning optimal kodlash bo'yicha asosiy teoremasi tarmoqli kengligi tushunchasi bilan bog'liq. Uning diskret kanal uchun formulasi quyidagicha: agar xabar manbasining ishlashi ON) C kanalining kamroq o'tkazuvchanligi:
kanalni xato yoki ishonchsizligi ehtimoli bilan, eng yaxshi kodlash va dekodlash usuli mavjud. n [a! A j o'zboshimchalik bilan kichik bo'lishi mumkin. Agar a
bunday usullar yo'q.
Shannon teoremasiga muvofiq, cheklangan qiymat Dan - bu kanal orqali ma'lumotlarni uzatishning xatosiz tezligining chegara qiymati. Ammo shovqinli kanal uchun optimal kodni topish usullari ko'rsatilmagan. Biroq, teorema axborot uzatish texnologiyasining asosiy imkoniyatlari haqidagi qarashlarni tubdan o'zgartirdi. Shannondan oldin shovqinli kanalda axborot uzatish tezligini nolga kamaytirish orqali o'zboshimchalik bilan kichik xatolik ehtimolini olish mumkin deb hisoblar edilar. Bu, masalan, kanaldagi belgilarni xotirasiz takrorlash natijasida aloqa sodiqligini oshirish.
Shannon teoremasining bir necha aniq dalillari ma'lum. Teorema diskret xotirasiz kanal uchun tasodifiy kodlash usuli bilan isbotlandi. Bunday holda, ma'lum bir manba va ma'lum bir kanal uchun tasodifiy tanlangan barcha kodlar to'plami ko'rib chiqiladi va xabarlar ketma-ketligi davomiyligi cheksiz ko'payishi bilan barcha kodlar uchun noto'g'ri dekodlashning o'rtacha ehtimolligi nolga teng bo'lgan asimptotik tendentsiya haqiqati tasdiqlanadi. Shunday qilib, faqat xatosiz dekodlash imkoniyatini ta'minlaydigan kod mavjudligi haqiqati isbotlangan, ammo aniq kodlash usuli taklif qilinmagan. Shu bilan birga, isbotlash jarayonida, ansamblning xabarlar ketma-ketligi entropiyalarining tengligini va ansamblga o'tish uchun ishlatiladigan birma-bir mos keladigan kod so'zlar to'plamini saqlab qolish aniq bo'lib qoladi. IN kod belgilari ketma-ketligining o'zaro bog'liqligini oshirish uchun qo'shimcha ortiqcha kiritish kerak. Buni faqat kodli so'zlar tanlangan kodlar ketma-ketligi to'plamini yoyish orqali amalga oshirish mumkin.
Shovqinli kanallar uchun asosiy kodlash teoremasi ma'lum bir kodni tanlashning aniq usullarini ko'rsatmasligiga va ular teoremani isbotlashda mavjud emasligiga qaramay, shuni ko'rsatadiki, etarlicha uzun xabarlar ketma-ketligini kodlashda tasodifiy tanlangan kodlarning ko'pi xatolarni dekodlashning o'rtacha ehtimolidan sezilarli darajada oshmaydi. ... Shu bilan birga, uzoq bloklarda kodlashning amaliy imkoniyatlari xotira tizimlarini amalga oshirishdagi qiyinchiliklar va juda ko'p sonli kod elementlarining ketma-ketligini mantiqiy qayta ishlash, shuningdek, ma'lumotlarni uzatish va qayta ishlash kechikishining ko'payishi tufayli cheklangan. Darhaqiqat, muddatning cheklangan qiymatlarida noto'g'ri dekodlash ehtimolini aniqlashga imkon beradigan natijalar alohida qiziqish uyg'otadi. p ishlatilgan kod bloklari. Amalda, ular kechikishning o'rtacha qiymatlari bilan cheklanib, kanalning o'tkazuvchanligi to'liq ishlatilmaganda uzatish ehtimolini oshirishga intilishadi.