Statistik model va etarli statistikalar

3-BOB. KATTA XAJMDAGI STATISTIK TANLANMALAR UCHUN BAHOLARNING ASIMPTOTIK XOSSALARI. ASIMPTOTIK ETARLILIK.
3.1-§. Haqiqatga maksimal o‘xshashlik bahosining asimptotik xossalari: asoslilik, asimptotik normallik va effektivlik.

Endi biz statistik model cheksiz xajmdagi statistik tanlanmaga mos keladi deb qarab, - xajmi ga teng bo‘lgan tanlanmani esa ning - o‘lchovli fazodagi proeksiyasi deb hisoblaymiz. Biz tanlanmani qarashimizdan maqsad statistik baholarni tanlanma orqali tuzib olib, keyin ularning dagi asimptotik xossalarini taxlil qilamiz. Bular asoslilik, asimptotik normallik, asimptotik effektivlik va asimptotik etarlilik xossalaridir. Ushbu paragrafda faqat birinchi uchta xossani o‘rganamiz.

3.1.1-Ta’rif. Faraz qilamiz, statistika funksional uchun biror bahosi bo‘lsin. baho uchun asosli baho deb ataladi agar va uchun


(3.1.1)

yoki parametrik holda esa uchun

(3.1.2)

munosabat o‘rinli bo‘lsa.

Vektor statistika bo‘lgan holda (3.1.1) yoki (3.1.2) munosabatlar har bir komponenta bo‘yicha tushuniladi.
Odatda (3.1.1) yoki (3.1.2) munosabatlarni mos ravishda yoki ko‘rinishda ham yoziladi.
Endi haqiqatga maksimal o‘xshashlik usuli bahosining asimptotik xossalarini taxlil qilamiz. Buning uchun biz faqat - parametrik statistik modelni qaraymiz. Statistik model uzluksiz bo‘lib har bir tasodifiy miqdorning taqsimoti zichlik funksiyasi bilan berilib tanlamaning birgalikdagi zichlik funksiyasi


(3.1.3)

bo‘lib, matematik statistikada uni haqiqatga o‘xshashlik funksiyasideb ham ataladi.

Haqiqatga maksimal o‘xshashlik bahosi (3.1.3)funksiyaning bo‘yicha maksimumga erishishi sharti bilan baholanadi:

yoki ekvivalent ko‘rinishda

(3.1.3) funksiya ko‘paytma ko‘rinishda bo‘lganligi uchun uning o‘rniga uning logarifmi

bilan ishlash qulaydir. Demak,

. (3.1.4)

Agar yoki funksiyalar bo‘yicha differensiallanuvchi bo‘lib, ular bo‘yicha maksimumga ning ichki nuqtalarida erishsa, u holda (3.1.4) masalaning echimini quyidagi differensial tenglamalar echish orqali aniqlanishi mumkin:

(3.1.5)

Haqiqatga maksimal o‘xshashlik bahosi (HMO‘B) (3.1.5) sistema echimidir.

3.1.1-Teorema [4]. Faraz qilaylik, zichlik funksiyasi bo‘yicha differensiallanuvchi bo‘lib, - to‘g‘ri chiziqdagi biror interval va lar uchun bo‘lsin. Quyidagi to‘plamni kiritamiz:

U holda, birinchidan

,

va, ikkinchidan, uchun (3.1.5) tenglamalar sistemasi echimi ni tanlash mumkin va u ning asosli bahosi bo‘ladi.

Biz ko‘rib o‘tgan asoslilik xossasi bahoning limit xossasi bo‘lib, u bahoning chekli lardagi xossasi bilan bog‘liq emasdir. 3.1.1-teoremadagi bahoning asoslilik xossasini (masalan, )uchun

yoki ko‘rinishda yozishimiz mumkin.

Ammo, amaliyotda etarlicha katta larda


(3.1.6)

ehtimollikni hech bo‘lmaganda taqriban aniqlash maqsadga muvofiq bo‘lar edi. Ehtimollar nazariyasining limit teoremalari va xususan, markaziy limit teorema (3.1.6) ehtimollikni baholash imkonini beradi. Eslatib o‘tamiz, baho uchun asimptotik normal baho deb ataladi, agar shunday funksiya mavjud bo‘lib, da

(3.1.7)

munosabat o‘rinli bo‘lsa. Bu erda -standart normal taqsimot funksiyasidir. (3.1.7) ni

(3.1.8)

- taqsimot bo‘yicha yaqinlashish belgisi bilan yozish mumkin. Vektor parametr bo‘lgan holda (3.1.8) ni mos vektor ifodasini yozish mumkin.

Endi HMO‘B ning asimptotik normal bo‘lishi shartlarini o‘rganamiz. Qulaylik uchun uzluksiz statistik model bir o‘lchovlik-skalyar parametr bo‘lgan holni qaraymiz . Faraz qilaylik - HMO‘B, ya’ni


(3.1.9)

- tenglama echimi bo‘lsin. Ixtiyoriy va lar uchun quyidagi

-hodisalar ketma-ketligini kiritamiz. Bizga ma’lumki, bahoning asosligi quyidagi

munosabatning bajarilishi bilan aniqlanar edi (3.1.1-Teoremaga qarang). Boshqacha qilib aytilganida har bir uchun o‘lchov asosan to‘plamda aniqlangan bo‘lib, aynan mana shu to‘plamda (3.1.9) tenglama intervalda yotuvchi echimga ega ekan. U holda etarlicha kichik uchun (3.1.9) tenglamani ixtiyoriy nuqta atrofida chiziqlashtirib, bu tenglama echimini uchun taqribiy aniqlashimiz mumkin. Bu maqsadda ni fiksirlab olib, (3.1.9) tenglamaning chap tomoni uchun Teylor formulasiga asosan quyidagi yoyilmani yozib olamiz:

. (3.1.10)


uchun (3.1.10) dagi qoldiq had ni tashlab yuborib, (3.1.8) tenglama echimini quyidagi taqribiy qiymatini aniqlaymiz:


(3.1.11)

Endi biz (3.1.11) formula bilan aniqlanuvchi statistikaning o‘lchov bo‘yicha asimptotik normal bo‘lishligini ko‘rsatamiz. Buning uchun bizga quyidagi regulyarlik shartlari zarur bo‘ladi:

(A) Har bir kuzatish natijasi ning zichlik funksiyasi bo‘yicha ikki marotaba differensiallanuvchi. Bu erda to‘plam to‘g‘ri chiziqdagi biror interval;
(V) Quyidagi integrallarda bo‘yicha differensiallash operatori bo‘yicha integrallash bilan o‘rin almashina oladi:

(S) to‘plamda ;

Ko‘rish qiyin emaski, (A)-(S) regulyarlik shartlarida



(3.1.12)

va Fisher informatsiya funksiyasi uchun quyidagi ifodalar o‘rinli ([5] ga qarang):

. (3.1.13)

Agar deb belgilab olsak, u holda

,
va
. (3.1.14)

(3.1.14) ifodalarni (3.1.11) ga qo‘ysak, u holda

. (3.1.15)

ifodaga ega bo‘lamiz. Bu erda lar bog‘liq emas va bir-xil taqsimotga ega tasodifiy miqdorlar bo‘lib, esa tanlanmadagi parametr haqidagi Fisher informatsiyasi funksiyasidir. Buni e’tiborga olib, (3.1.15) tenglik o‘ng tomoni suratidagi ifodaga (3.1.12) va (3.1.13) larni hisobga olgan holda markaziy limit teoremani qo‘llaymiz:

. (3.1.16)

Bu kasr maxrajiga (3.1.13) dagi ikkinchi ifodani hisobga olib, katta sonlar qonunini qo‘llasak,

. (3.1.17)

U holda (3.1.15)-(3.1.16) lardan

. (3.1.18)

Nihoyat, (3.1.18) ni e’tiborga olib, statistikaning asimptotik taqsimoti normal taqsimot

ekaniga ishonch hosil qilamiz.

Ammo statistikaning ga baho sifatida qo‘llab bo‘lmaydi, chunki u nuqtaga bog‘liqdir. ni tanlash ixtiyoriy bo‘lganligi sababli, biz (3.1.11) yoyilma orqali uchun baholar sinfiga ega bo‘lamiz. Ammo shuni eslatib o‘tamizki, bunday baholar aslida HMO‘B ga juda yaqin bo‘lgan baholar edi. Boshqacha qilib aytilganda, HMO‘B etarlicha katta larda baholar to‘plamiga yaqin bahodir. Buni quyidagicha ifodalash mumkin:
. (3.1.19)

Ammo, (3.1.19) munosabat o‘rinli bo‘lishi uchun yana qo‘shimcha regulyarlik shartlari zarur bo‘ladi. Ular quyidagilardan iborat:

(D) zichlik funksiyasining bo‘yicha uchinchi tartibli hosilalari ham mavjud va ga bog‘liq bo‘lmagan funksiya uchun


.

Endi (3.1.19) ni isbotlash uchun (3.1.9) tenglamaning chap tomonida Teylor yoyilmasini kvadratik xadigacha bo‘lgan quyidagi ifodasini qo‘llaymiz:

, (3.1.20)

bu erda nuqta va lar orasidan olingan. U holda (3.1.9) tenglamaning echimini (3.1.20) va (3.1.11) larni e’tiborga olgan holda quyidagicha ifodalash mumkin:

. (3.1.21)

YUqorida biz

, (3.1.22)

munosabatni ((3.1.17) ga qarang) o‘rnatgan edik.

(D)SHartga asosan



. (3.1.22)

Endi (3.1.21)-(3.1.22) munosabatlar va ning asosli ekanligidan (3.1.19) kelib chiqadi.

Natijada biz quyidagi teoremani isbotladik.
3.1.2-Teorema. Faraz qilaylik, - Fisher informatsiya funksiyasi musbat aniqlangan bo‘lib, (A)-(D)shartlar bajarilsin. U holda ixtiyoriy HMO‘B asimptotik normal

taqsimotga ega.

Demak, 3.1.2-teoremaga asosan HMO‘B ning asimptotik dispersiyasi ga teng ekan. Ammo bu ifoda regulyarlik shartlarida parametrning biror siljimagan bahosi dispersiyasi uchun Kramer-Rao quyi chegarasidan iboratdir:


.

Demak, HMO‘B 3.1.2-teorema shartlari asosida asimptotik effektiv baho ham bo‘ladi.