Chiziqli regressiya

MUHAMMAD AL-XORAZMIY NOMIDAGI TOSHKENT AXBOROT TEXNOLOGIYALARI UNIVERSITETI

Mashinali o’qitish fanidan

5-LABORATORIYA ISHI

CHIZIQLI REGRESSIYA

Guruh: 210-18

Bajardi: Komilov Muhriddin

Tekshiradi: Murodillayev B.

Toshkent 2021

Chiziqli regressiya

Statistikada chiziqli regressiya-skalyar javob va bir yoki bir nechta tushuntirish o'zgaruvchilari (qarama-qarshi va mustaqil o'zgaruvchilar deb ham ataladi) o'rtasidagi munosabatni modellashtirishga chiziqli yondashuv. Bitta tushuntiruvchi o'zgaruvchining holi oddiy chiziqli regressiya deyiladi; birdan ortiq uchun jarayon ko'p chiziqli regressiya deyiladi. Bu atama ko'p o'zgaruvchili chiziqli regressiyadan farq qiladi, bu erda bitta skalyar o'zgaruvchiga emas, balki bir nechta bog'liq bog'liq o'zgaruvchilar bashorat qilinadi.

Chiziqli regressiyada munosabatlar noma'lum model parametrlari ma'lumotlardan taxmin qilingan chiziqli prediktor funksiyalar yordamida modellashtiriladi. Bunday modellar chiziqli modellar deyiladi. Eng ko'p, izohlovchi o'zgaruvchilar (yoki predikatorlar) qiymatlari berilgan javobning shartli ma'nosi shu qiymatlarning affin funksiyasi deb qabul qilinadi; kamroq, shartli mediana yoki boshqa kvantil ishlatiladi. Regression tahlilning barcha shakllari kabi chiziqli regressiya ham ko'p o'zgaruvchili tahlil domeni bo'lgan bu o'zgaruvchilarning barchasining birgalikdagi ehtimollik taqsimotiga emas, balki predikatorlarning qiymatlari berilgan javobning shartli ehtimollik taqsimotiga qaratiladi.

Chiziqli regressiya qat'iy o'rganiladigan regressiya tahlilining birinchi turi bo'lib, amaliy dasturlarda keng qo'llanilishi kerak edi. Bu ularning noma'lum parametrlari bo'yicha linearly bog'liq modellari nooziq-linearly ularning parametrlari bilan bog'liq bo'lgan va natijada estimators statistik xususiyatlari aniqlash uchun oson, chunki modellari nisbatan mos osonroq bo'ladi, chunki.

Chiziqli regressiya ko'plab amaliy qo'llanishlarga ega. Eng ilovalar quyidagi ikki keng toifadagi biriga tushib.
Maqsad bashorat bo'lsa, prognozlash, yoki xato kamaytirish, [tushuntirish zarur] chiziqli tushish javob va tushuntirish o'zgaruvchilar qadriyatlar kuzatilgan ma'lumotlar majmui uchun bashoratli modelini mos uchun foydalanish mumkin. Bunday modelni ishlab chiqqandan so'ng tushuntiruvchi o'zgaruvchilarning qo'shimcha qiymatlari kuzatuvchi javob qiymatisiz yig'ilsa, javobning bashoratini amalga oshirish uchun jihozlangan modeldan foydalanish mumkin.

Maqsad tushuntirish o'zgaruvchilar o'zgarishi bog'liq bo'lishi mumkin javob o'zgaruvchilar o'zgarish tushuntirish uchun bo'lsa, chiziqli regresyon tahlil javob va tushuntirish o'zgaruvchilar o'rtasidagi munosabatlar kuchini o'lchash uchun qo'llanilishi mumkin, va, ayniqsa, ba'zi tushuntirish o'zgaruvchilar barcha javob bilan hech qanday chiziqli munosabatlarga ega bo'lishi mumkin yoki yo'qligini aniqlash uchun, yoki tushuntirish o'zgaruvchilar subsets javob haqida ortiqcha ma'lumot o'z ichiga olishi mumkin aniqlash uchun.

Chiziqli regresyon modellari tez-tez kamida kvadrat yondashuv yordamida jihozlangan, lekin ular ham bunday (kamida mutlaq og'ish regresyon kabi) ba'zi boshqa normada "fit etishmasligi" minimallashtirish, yoki tizmasi regresyon (L2-norm jazo) va lasso (l1-norm jazo) kabi kamida kvadrat qiymati funktsiyasi bir jazo versiyasini minimallashtirish tomonidan, boshqa yo'llar bilan jihozlangan bo'lishi mumkin. Aksincha, eng kam kvadrat yondashuv chiziqli modellar emas modellari mos uchun foydalanish mumkin. Shunday qilib, "eng kam kvadratlar" va "chiziqli model" atamalari bir-biri bilan chambarchas bog'langan bo'lsa-da, ular sinonim emas.

Chiziqli regressiya-bu bashorat qilinadigan chiqish uzluksiz va doimiy nishablikka ega bo'lgan nazorat qilinadigan mashinani o'rganish algoritmi. U uzluksiz oralig'ida qadriyatlar bashorat qilish uchun ishlatiladi, (masalan,. sotish, narx) kategoriyalar ularni tasniflash uchun harakat o'rniga (masalan,. mushuk, it). Ikki asosiy turi mavjud:

Oddiy regressiya
Oddiy chiziqli regresyon m va b o'zgaruvchilar bizning algoritm eng to'g'ri bashorati ishlab chiqarish uchun "o'rganish" harakat qiladi an'anaviy qiyalik-intercept shakl, foydalanadi. x bizning kiritish ma'lumotlarni ifodalaydi va y bizning bashorat ifodalaydi.

y=mx+b

Multivariable tushish

A yanada murakkab, ko'p o'zgarmaydigan chiziqli tenglama bu kabi qarash mumkin, qaerda w koeffitsientlarini ifodalaydi, yoki og'irliklari, bizning model o'rganishga harakat qiladi.

f(x,y,z)=w1x+w2y+w3z

X,y, z o'zgaruvchilari atributlarni, yoki alohida ma'lumot bo'laklarini ifodalaydi, biz har bir kuzatish haqida bor. Sotish bashorati uchun, bu sifatlari bir kompaniya reklama radio sarflash s o'z ichiga olishi mumkin, TV, va gazeta.

Savdo= w 1 Radio+w2TV+w3 Yangiliklar:

Bashorat qilish

Bizning bashorat funktsiyasi bir kompaniyaning radio reklama sarflash berilgan savdo taxmin va og'irligi va tarafkashlik uchun bizning joriy qadriyatlarni chiqaradi.
Savdo=Vazn⋅Radio+Tarafkashlik

Og'irligi

Radio mustaqil o'zgaruvchi uchun koeffitsient. Mashinani o'rganishda koeffitsientlarni og'irliklar deb ataymiz.

Radio

mustaqil o'zgaruvchi. Mashina ta'lim biz bu o'zgaruvchilar xususiyatlari qo'ng'iroq.

Taroflash

chizig'imiz y-o'qini aro tutgan aro. Mashina ta'lim biz intercepts tarafkashlik qo'ng'iroq mumkin. Bias biz qilish, barcha bashorati offsets.

Bizning algoritm og'irligi va tarafkashlik uchun to'g'ri qadriyatlarni o'rganish uchun harakat qiladi. Bizning trening oxirigacha, bizning tenglama eng yaxshi fit chiziq taxminiy bo'ladi.