Va kommunikatsiyalarni rivojlantirish vazirligi

• 
  O’ZBEKISTON RESPUBLIKASI
  

• 
  AXBOROT TEXNOLOGIYALARI
  

• 
  VA KOMMUNIKATSIYALARNI RIVOJLANTIRISH VAZIRLIGI
  

• 
  MUHAMMAD AL – XORAZMIY NOMIDAGI
  

• 
  TOSHKENT AXBOROT TEXNOLOGIYALARI UNIVERSITETI
  

• 
  FARG’ONA FILIALI
  

“Telekamnukatsiya texnalogiyalari va Kasb ta’limi” fakulteti

Telekamnukatsiya texnalogiyalari yo’nalishi

632-20 – guruh talabasi
Raxmatillo Toxirov ning
“ Extimollik va statistika” fanidan
Mustaqil ishi




Farg’ona 2021

Ko`p o`lchovlik normal taqsimot qonuni.

Reja

1. 
   Normal taqsimot
   

2. 
   Bir-birini to'ldiruvchi kümülatif taqsimlash funktsiyasi
   

3. 
   Xulosa
   

"MVN" bu erga yo'naltiriladi. Shu bilan aeroport uchun IATA kodi, qarang Vernon tog'idagi aeroport. Mvn-ni avtomatlashtirish dasturi uchun qarang Apache Maven.

Yilda ehtimollik nazariyasi va statistika, ko'p o'zgaruvchan normal taqsimot, ko'p o'zgaruvchan Gauss taqsimoti, yoki qo'shma normal taqsimot bir o'lchovli umumlashtirish (bir o'zgaruvchan) normal taqsimot yuqoriga o'lchamlari. Bir ta'rif shuki, a tasodifiy vektor deb aytilgan k- har birida normal taqsimlanadigan o'zgaruvchanlik chiziqli birikma uning k komponentlar o'zgaruvchan normal taqsimotga ega. Uning ahamiyati asosan quyidagilardan kelib chiqadi ko'p o'zgaruvchan markaziy chegara teoremasi. Ko'p o'zgaruvchan normal taqsimot ko'pincha hech bo'lmaganda har qanday to'plamni (ehtimol) tavsiflash uchun ishlatiladi o'zaro bog'liq haqiqiy qadrli tasodifiy o'zgaruvchilar ularning har biri o'rtacha qiymat atrofida to'planadi.
Ta'riflar

Belgilanish va parametrlash
A ning ko'p o'zgaruvchan normal taqsimoti ko'lchovli tasodifiy vektor  quyidagi yozuvda yozilishi mumkin:

yoki buni aniq ma'lum qilish uchun X bu k- o'lchovli,

bilan k- o'lchovli o'rtacha vektor

va  kovaryans matritsasi

shu kabi  The teskari kovaryans matritsasining nomi aniqlik matritsa, bilan belgilanadi  .
Standart normal tasodifiy vektor
Haqiqiy tasodifiy vektor  deyiladi a standart oddiy tasodifiy vektor agar uning barcha tarkibiy qismlari  mustaqil va ularning har biri o'rtacha taqsimlangan tasodifiy o'zgaruvchiga teng nol-o'rtacha birlik-dispersiya, ya'ni  Barcha uchun  .^{[1]:p. 454}
Markazlashtirilgan oddiy tasodifiy vektor
Haqiqiy tasodifiy vektor  deyiladi a markazlashtirilgan oddiy tasodifiy vektor agar deterministik mavjud bo'lsa  matritsa  shu kabi  bilan bir xil taqsimotga ega  qayerda  bilan odatdagi odatiy tasodifiy vektor  komponentlar.^{[1]:p. 454}
Oddiy tasodifiy vektor
Haqiqiy tasodifiy vektor  deyiladi a oddiy tasodifiy vektor agar tasodifiy mavjud bo'lsa  -vektor  , bu odatdagi oddiy tasodifiy vektor, a  -vektor  va a  matritsa  , shu kabi  .^{[2]:p. 454[1]:p. 455}
Rasmiy ravishda:

Mana kovaryans matritsasi bu  .
In buzilib ketgan kovaryans matritsasi bo'lgan holat yakka, mos keladigan taqsimot zichlikka ega emas; ga qarang quyidagi bo'lim tafsilotlar uchun. Bu holat tez-tez paydo bo'ladi statistika; masalan, ning vektorini taqsimlashda qoldiqlar ichida oddiy kichkina kvadratchalar regressiya. The  umuman olganda emas mustaqil; ularni matritsani qo'llash natijasida ko'rish mumkin  mustaqil Gauss o'zgaruvchilari to'plamiga  .
Ekvivalent ta'riflar
Quyidagi ta'riflar yuqorida keltirilgan ta'rifga tengdir. Tasodifiy vektor  quyidagi ekvivalent shartlardan birini qondiradigan bo'lsa, ko'p o'zgaruvchan normal taqsimotga ega.
Har qanday chiziqli kombinatsiya  uning tarkibiy qismlari odatda taqsimlanadi. Ya'ni har qanday doimiy vektor uchun  , tasodifiy o'zgaruvchi  bir o‘zgarmas normal taqsimotga ega, bu yerda nol dispersiyali bir o‘zgarmas normal taqsimot uning o‘rtacha nuqtasi massasi hisoblanadi.
Bor k-vektor  va nosimmetrik, ijobiy yarim cheksiz  matritsa  , shunday qilib xarakterli funktsiya ning  bu

Sharsimon normal taqsimot har qanday ortogonal koordinatalar tizimida tarkibiy qismlar mustaqil bo'lgan yagona taqsimot sifatida tavsiflanishi mumkin.^[3][4]
Zichlik funktsiyasi

Ikki xil normal qo'shma zichlik
Degenerativ holat
Ko'p o'zgaruvchan normal taqsimot nosimmetrik bo'lganda "buzilmaydi" deb aytiladi kovaryans matritsasi  bu ijobiy aniq. Bunday holda tarqatish mavjud zichlik^[5]

qayerda  haqiqiydir k- o'lchovli ustunli vektor va  bo'ladi aniqlovchi ning  . Yuqoridagi tenglama, agar o'zgarmas normal taqsimotga kamayadi, agar  a  matritsa (ya'ni bitta haqiqiy son).
Ning dairesel nosimmetrik versiyasi murakkab normal taqsimot biroz boshqacha shaklga ega.
Har bir izo-zichlik lokus - nuqtalarning joylashuvi k- har biri zichlikning bir xil o'ziga xos qiymatini beradigan o'lchovli bo'shliq - bu ellips yoki uni yuqori o'lchovli umumlashtirish; shuning uchun ko'p o'zgaruvchan normal holat - bu alohida holat elliptik taqsimotlar.
Miqdor  nomi bilan tanilgan Mahalanobis masofasi, bu sinov nuqtasining masofasini bildiradi  o'rtacha qiymatdan  . Shuni esda tutingki, qachon  , taqsimot bir o'zgaruvchili normal taqsimotgacha kamayadi va Mahalanobis masofasi ning mutlaq qiymatiga kamayadi standart ball. Shuningdek qarang Interval quyida.
(x ,y ) tasodifiy vektor ikki o'lchovli normal taqsimotga ega bo'lsin. U holda (x ,y ) ning birgalikdagi zichlik funksiyasi

Geometrik nuqtayi nazardan f(x, y j grafigi cho'qqisi (a1, a2 ) nuqtada joylashgan «to g '» shaklini bildiradi. Agarda biz bu tog'ni oxy tekisligiga narallel tekislik bilan kesadigan bo'lsak, u holda kesilish chiziqlari quyidagi ellipslardan iborat bo'ladi:
-konstanta, bu yerda a₁ = M X ,
a₂ = M Y , , ϭ₁² = D X , ϭ₂² = DY , va r = r_XY -korrelatsiya koeffitsientidir. Agar r =0 bo'lsa, bu chiziqlar aylanalardan iborat bo'lib qoladi. Biz r ning aynan korrelatsiya koeffisienti bo'lishiga ishonch hosil qilish maqsadida
Z₁=(X – a₁)/ ϭ₁² va Z₂=(Y – a₂)/ ϭ₂²
yangi t.m.larni kiritamiz. Tabiiyki, MZ_k =0, DZ_k = 1, k = 1 ,2 . U holda ( Z₁ ,Z₂) ning zichlik funksiyasi

Endi korrelatsiya koeffitsientini hisoblaymiz:

Demak, r(X,Y)= r ekan. Agar ikki normal taqsim otga ega bo'lgan X va Y t.m.lar bog'liq bo'lm asa, r = 0 bo'lishi r ning xossasidan kelib chiqadi. Endi shu t.m.lar uchun r = 0 bo'lsin. U holda

Bu yerda

funksiyalar N (a₁, ϭ₁² ) , N (a₂ , ϭ₂² ) normal t.m.lar zichlik funksiyalaridir. Demak, t.m .lar korrelyatsiyalanmaganligidan ularning bog'liqsizligi ham kelib chiqar ekan. Bu hol ikki o'lchovlik normal taqsimotni boshqa taqsimotlardan ajratib turadi.
Xulosa qilib aytganda normal taqsimot ehtimollar nazariyasida o ‘ziga xos o ‘rin tutadi. Normal taqsimotning xususiyati shundan iboratki, u limit taqsimot hisoblanadi. Ya’ni boshqa taqsimotlar ma’lum shartlar ostida bu taqsimotga intiladi. Normal taqsimot amaliyotda eng ko‘p qo‘llaniladigan taqsimotdir.

Ikki tomonlama ish

Ikki o'lchovli nonsingular holatda ( ), the ehtimollik zichligi funktsiyasi vektor  bu:

qayerda  bo'ladi o'zaro bog'liqlik o'rtasida  va  va qaerda  va  . Ushbu holatda,

Ikki tomonlama vaziyatda odatiylikni ko'p o'lchovli qayta tiklashning birinchi ekvivalent sharti kamroq cheklangan bo'lishi mumkin, chunki buni tekshirish kifoya juda ko'p ning aniq chiziqli birikmalari  va  ning vektori degan xulosaga kelish uchun normaldir  ikki tomonlama normaldir.^[6]
Ikki tomonlama izo-zichlikdagi lokuslar  - samolyot ellipslar, kimning asosiy o'qlar bilan belgilanadi xususiy vektorlar kovaryans matritsasining  (katta va kichik) yarim diametrlar ellipsning tartiblangan xos qiymatlarining kvadrat ildiziga teng).

Ikki tomonlama normal tarqatish markazida joylashgan  taxminan 3 ga teng standart og'ish bilan  yo'nalishi va ortogonal yo'nalishda 1 ning.
Korrelyatsiya parametrining mutlaq qiymati sifatida  ko'payadi, bu joylar quyidagi satrga siqiladi:

Buning sababi shundaki, bu ibora, bilan  (bu erda Sign funktsiyasi) bilan almashtirildi  , bo'ladi eng yaxshi chiziqli xolis prognoz ning  ning qiymati berilgan  .^[7]

Degenerate case

Agar kovaryans matritsasi bo'lsa  to'liq daraja emas, keyin ko'p o'zgaruvchan normal taqsimot degeneratsiya va zichlikka ega emas. Aniqrog'i, u nisbatan zichlikka ega emas k- o'lchovli Lebesg o'lchovi (bu hisob-kitob darajasidagi ehtimollik kurslarida qabul qilingan odatiy o'lchovdir). Faqat taqsimotlari bo'lgan tasodifiy vektorlar mutlaqo uzluksiz o'lchovga nisbatan zichlikka ega deyiladi (bu o'lchovga nisbatan). Zichlik haqida gapirish, lekin o'lchov-nazariy asoratlar bilan kurashishdan qochish uchun e'tiborni cheklash oddiyroq bo'lishi mumkin.  koordinatalarini  shunday qilib, ushbu kichik to'plam uchun kovaryans matritsasi ijobiy aniq; u holda boshqa koordinatalarni an deb hisoblash mumkin affin funktsiyasi Ushbu tanlangan koordinatalardan.^{[iqtibos kerak]}
Yagona holatlarda zichlik haqida mazmunli gapirish uchun biz boshqa asosiy o'lchovni tanlashimiz kerak. Dan foydalanish parchalanish teoremasi Lebesgue o'lchovining to ga cheklanishini aniqlashimiz mumkin  ning o'lchovli affinali subspace  bu erda Gauss taqsimoti qo'llab-quvvatlanadi, ya'ni.  . Ushbu o'lchov bo'yicha taqsimot quyidagi motifning zichligiga ega:

qayerda  bo'ladi umumlashtirilgan teskari va det * bu psevdo-determinant.^[8]
Kümülatif taqsimlash funktsiyasi
Tushunchasi kümülatif taqsimlash funktsiyasi 1-o'lchamdagi (cdf) to'rtburchaklar va ellipsoidli hududlarga asoslangan holda ko'p o'lchovli holatga ikki yo'l bilan kengaytirilishi mumkin.
Birinchi usul - CD-ni aniqlash  tasodifiy vektorning  barcha tarkibiy qismlarining ehtimoli sifatida  vektordagi mos qiymatlardan kam yoki ularga teng  :^[9]

Garchi uchun yopiq shakl mavjud bo'lmasa ham  , bir qator algoritmlar mavjud uni raqam bilan baholang.^[9][10]
CDF-ni aniqlashning yana bir usuli  namuna uning tomonidan aniqlangan ellipsoid ichida yotish ehtimoli sifatida Mahalanobis masofasi  Gauss tilidan, standart og'ishning to'g'ridan-to'g'ri umumlashtirilishi.^[11]Ushbu funktsiya qiymatlarini hisoblash uchun yopiq analitik formulalar mavjud,^[11] quyidagicha.
Interval
Qo'shimcha ma'lumotlar: Ishonch mintaqasi
The oraliq chunki ko'p o'zgaruvchan normal taqsimot ushbu vektorlardan tashkil topgan mintaqani beradi x qoniqarli

Bu yerda  a  - o'lchovli vektor,  ma'lum  - o'lchovli o'rtacha vektor,  ma'lum kovaryans matritsasi va  bo'ladi miqdoriy funktsiya ehtimollik uchun  ning kvadratchalar bo'yicha taqsimlash bilan  erkinlik darajasi.^[12]Qachon  ifoda ellipsning ichki qismini aniqlaydi va x-kvadrat taqsimot an ga soddalashtiradi eksponensial taqsimot o'rtacha ikkiga teng (stavka yarmiga teng).
Qo'shimcha kümülatif tarqatish funktsiyasi (quyruq taqsimoti)
The bir-birini to'ldiruvchi kümülatif taqsimlash funktsiyasi (ccdf) yoki quyruq taqsimoti sifatida belgilanadi  . Qachon  , keyin ccdf ni maksimal bog'liq Gauss o'zgaruvchilarining ehtimoli sifatida yozish mumkin:^[13]

Ccdf-ni hisoblash uchun oddiy yopiq formulalar mavjud emasligiga qaramasdan, bog'liq bo'lgan Gauss o'zgaruvchilarining maksimal miqdorini Monte-Karlo usuli.^[13][14]
Xususiyatlari
Yuqori lahzalar
Asosiy maqola: Isserlis teoremasi
The kbuyurtma lahzalar ning x tomonidan berilgan

qayerda r₁ + r₂ + ⋯ + r_N = k.
The kmarkaziy lahzalar quyidagicha
Agar k g'alati, m_{1, …, N}(x − m) = 0.
Agar k hatto bilan k = 2λ, keyin

bu erda summa to'plamning barcha ajratmalaridan olinadi  ichiga λ (tartibsiz) juftliklar. Ya'ni, a kth (= 2λ = 6) markaziy moment, mahsulotlarning yig'indisi λ = 3 kovaryanslar (kutilgan qiymat) m parsimonlik manfaati uchun 0 ga teng deb qabul qilinadi):

Bu hosil beradi  yig'indagi atamalar (yuqoridagi holatda 15 ta), ularning har biri hosilasi hisoblanadi λ (bu holda 3) kovaryanslar. To'rtinchi tartib momentlari uchun (to'rt o'zgaruvchi) uchta atama mavjud. Oltinchi tartibli daqiqalar mavjud 3 × 5 = 15 shartlar va sakkizinchi tartibli lahzalar uchun mavjud 3 × 5 × 7 = 105 shartlar.
Keyin kovaryanslar ro'yxat shartlarini almashtirish bilan aniqlanadi  dan iborat bo'lgan ro'yxatning tegishli shartlari bo'yicha r₁ birlari, keyin r₂ ikkitasi va boshqalar. Buni ko'rsatish uchun quyidagi to'rtinchi tartibli markaziy momentni ko'rib chiqing:

qayerda  ning kovaryansiyasidir X_men va X_j. Yuqoridagi usul bilan avval a uchun umumiy holat topiladi kth moment bilan k boshqacha X o'zgaruvchilar,  , keyin esa buni mos ravishda soddalashtiradi. Masalan, uchun  , bitta ruxsat beradi X_men = X_j va ulardan biri foydalanadi  .
Imkoniyat funktsiyasi
O'rtacha va dispersiya matritsasi ma'lum bo'lsa, bitta kuzatuv uchun mos jurnal ehtimolligi funktsiyasi x bu
,
qayerda x haqiqiy sonlarning vektori (buni olish uchun shunchaki PDF jurnalini oling). Markaziy bo'lmagan murakkab ishning dairesel nosimmetrik versiyasi, qaerda z bu murakkab sonlarning vektori, bo'lar edi

ya'ni. bilan konjugat transpozitsiyasi (tomonidan ko'rsatilgan  ) normalni almashtirish ko'chirish (tomonidan ko'rsatilgan  ). Bu haqiqiy holatga qaraganda bir oz farq qiladi, chunki dumaloq simmetrik versiyasi murakkab normal taqsimot uchun biroz boshqacha shaklga ega normalizatsiya doimiysi.
Shunga o'xshash yozuv uchun ishlatiladi bir nechta chiziqli regressiya.^[15]
Differentsial entropiya
The differentsial entropiya ko'p o'zgaruvchan normal taqsimotning^[16]

bu erda chiziqlar matritsa determinanti va k vektor makonining o'lchovliligi.
Kullback - Leybler divergensiyasi
The Kullback - Leybler divergensiyasi dan  ga  , yagona bo'lmagan matritsalar uchun Σ₁ va Σ₀, bu:^[17]

qayerda  vektor makonining o'lchamidir.
The logaritma bazaga olib borilishi kerak e chunki logaritmadan keyingi ikki atama o'zlari asosidir.e zichlik funktsiyasining omillari bo'lgan yoki boshqa yo'l bilan tabiiy ravishda paydo bo'lgan ifodalarning logarifmlari. Shuning uchun tenglama ichida o'lchangan natijani beradi nats. Yuqoridagi barcha ifodalarni jurnalga bo'lish_e $ 2 $ ning orasidagi farqni keltirib chiqaradi bitlar.
Qachon  ,

O'zaro ma'lumot
The o'zaro ma'lumot tarqatishning alohida holati Kullback - Leybler divergensiyasi unda  to'liq ko'p o'zgaruvchan tarqatish va  1 o'lchovli marginal taqsimotlarning hosilasi. Ning yozuvida Kullback - Leybler divergentsiyasi bo'limi ushbu maqolaning,  a diagonal matritsa ning diagonal yozuvlari bilan  va  . Olingan o'zaro ma'lumotlarning formulasi:

qayerda  bo'ladi korrelyatsiya matritsasi dan qurilgan  .^{[iqtibos kerak]}
Ikki tomonlama vaziyatda o'zaro ma'lumotning ifodasi:

Birgalikda normal holat
Odatda taqsimlangan va mustaqil
Agar  va  odatda taqsimlanadi va mustaqil, bu ularning "birgalikda normal taqsimlangan" degan ma'noni anglatadi, ya'ni juftlik  ko'p o'zgaruvchan normal taqsimotga ega bo'lishi kerak. Biroq, odatda taqsimlangan o'zgaruvchan juftlik mustaqil bo'lmasligi kerak (faqat o'zaro bog'liq bo'lmagan taqdirda shunday bo'ladi,  ).
Ikki normal taqsimlangan tasodifiy o'zgaruvchilar birgalikda ikki tomonlama normal bo'lmasligi kerak
Shuningdek qarang: odatda taqsimlangan va o'zaro bog'liq bo'lmaganligi mustaqillikni anglatmaydi
Ikkita tasodifiy o'zgaruvchilar  va  ikkalasi ham normal taqsimotga ega ekanligini anglatmaydi  qo'shma normal taqsimotga ega. Oddiy misol, X kutilgan qiymati 0 va dispersiyasi 1, va bo'lgan normal taqsimotga ega  agar  va  agar  , qayerda  . Ikkidan ortiq tasodifiy o'zgaruvchilar uchun o'xshash qarshi misollar mavjud. Umuman olganda, ular a ga tenglashadi aralashma modeli.^{[iqtibos kerak]}
O'zaro bog'liqlik va mustaqillik
Umuman olganda, tasodifiy o'zgaruvchilar o'zaro bog'liq bo'lmagan, ammo statistik jihatdan bog'liq bo'lishi mumkin. Ammo agar tasodifiy vektor ko'p o'zgaruvchan normal taqsimotga ega bo'lsa, unda uning har qanday ikki yoki undan ko'p tarkibiy qismlari o'zaro bog'liq emas mustaqil. Bu shuni anglatadiki, uning har qanday ikki yoki undan ortiq tarkibiy qismlari juftlik bilan mustaqil mustaqil. Ammo, yuqorida aytib o'tilganidek, shunday emas ikkita tasodifiy o'zgaruvchining (alohida-alohida, marginally) normal taqsimlangan va o'zaro bog'liq bo'lmagan mustaqil.
Shartli taqsimotlar
Agar N- o'lchovli x quyidagicha bo'linadi

va shunga ko'ra m va Σ quyidagicha bo'linadi


keyin tarqatish x₁ shartli x₂ = a ko'p o'zgaruvchan normal hisoblanadi (x₁ | x₂ = a) ~ N(m, Σ) qayerda

va kovaryans matritsasi
^[18]
Ushbu matritsa Schur to'ldiruvchisi ning Σ₂₂ yilda Σ. Bu shuni anglatadiki, shartli kovaryans matritsasini hisoblash uchun umumiy kovaryans matritsasini teskari aylantiradi, shartli o'zgaruvchilarga mos keladigan qatorlar va ustunlarni tashlaydi, so'ngra shartli kovaryans matritsasini olish uchun orqaga qaytadi. Bu yerda  bo'ladi umumlashtirilgan teskari ning  .
E'tibor bering, buni bilish x₂ = a dispersiyani o'zgartiradi, ammo yangi dispersiya o'ziga xos qiymatiga bog'liq emas a; ehtimol ajablanarli tomoni shundaki, o'rtacha qiymat o'zgaradi  ; buni qadrini bilmaslik holati bilan taqqoslang a, bu holda x₁ tarqatish bo'lar edi .
Ushbu natijani isbotlash uchun olingan qiziqarli fakt - bu tasodifiy vektorlar  va  mustaqil.
Matritsa Σ₁₂Σ₂₂⁻¹ ning matritsasi sifatida tanilgan regressiya koeffitsientlar.
Ikki tomonlama ish
Ikki tomonlama vaziyatda qaerda x bo'linadi  va  , ning shartli taqsimoti  berilgan  bu^[19]

qayerda  bo'ladi korrelyatsiya koeffitsienti o'rtasida  va  .
Ikki tomonlama shartli kutish
Umumiy holda

X ning shartli kutilishi₁ berilgan X₂ bu:

Isbot: natija shartli taqsimotni kutish orqali olinadi  yuqorida.
Birlik dispersiyalari bilan markazlashtirilgan holda

Shartli kutish X₁ berilgan X₂ bu

va shartli dispersiya

shuning uchun shartli dispersiya bog'liq emas x₂.
Shartli kutish X₁ sharti bilan; inobatga olgan holda X₂ ga nisbatan kichikroq / kattaroqdir z bu:^[20]:367


bu erda oxirgi nisbati deyiladi teskari tegirmonlar nisbati.
Isbot: oxirgi ikki natija natija yordamida olinadi  , Shuning uchun; ... uchun; ... natijasida
va keyin kutish xususiyatlaridan foydalanib a kesilgan normal taqsimot.
Marginal taqsimotlar
Olish uchun marginal taqsimot ko'p o'zgaruvchan oddiy tasodifiy o'zgaruvchilarning bir to'plami uchun faqat o'rtacha bo'lmagan vektor va kovaryans matritsasidan ahamiyatsiz o'zgaruvchilarni (cheklashni istagan o'zgaruvchilarni) tushirish kerak. Buning isboti ko'p o'zgaruvchan normal taqsimot va chiziqli algebra ta'riflaridan kelib chiqadi.^[21]