1-Amaliy mashg’ulot 610-19 gurux talabasi Abdullayev Abdurahmonjon Reja

1-Amaliy mashg’ulot
610-19 gurux talabasi Abdullayev Abdurahmonjon
Reja:

1. 
   Mashinali o'qitishga kirish va uning asosiy tushunchalari, algortmlari
   
2. 
   Mashinali o'qitish turlari. Mashinali o'qitish jarayoning umumiy qadamlari
   
3. 
   Mashinali o'qitishda instrumental vositalardan foydalanish Matlab/Python dasturiy muhiti bilan ishlash
   
4. 
   Bir o'zgaruvchili va ko'p o'zgaruvchili chiziqli regressiya masalalari va ularni dasturlash
   
5. 
   Logistik regressiya tushunchasi va ularning mashinali o'qitishda qo'llanilishi
   

Mashinali o'qitish sun'iy intellektning asosiy sohalaridan biri bo'lib, quyidagicha ta'riflanishi mumkin:

"Mashinali o'qitish - bu kompyuterlarni odamlarga o'xshab o'rganishiga harakat qilishi va vaqt o'tishi bilan o'z bilimlarini mustaqil ravishda takomillashtirishi, real dunyoda kuzatuvlar va o'zaro ta'sirlar shaklida ma'lumotlar va ma'lumotlarni taqdim etish haqidagi fan".
Mashinada o'qitish (ML) - bu sun'iy intellekt nazariyasining bir bo'limi, kompьyuter sun'iy intelekt sifatida muammolarni hal qilish jarayoni va usullarini izlashdan iborat.
Mashinada o'qitish (ML) – bu berilganlar va chiqish ma'lumotlariga asosan kompьyuterdaa dastur yaratish uchun tayinlangan bo'lib, u an'anaviy dasturda foydalanilishi mumkin.
Mashinada o'qitish (ML) – bu ilmiy fan bo'lib, kompьyuterning o'qitish qobilyatini rivojlantirish, kompьyuter tomonidan mukammal va zamonaviy ilm berishga yo'naltirilgan fandir.


Mashinali o’qitish turlari:
1. С учителем (Supervised machine learning). Nazorat ostida (induktiv) o‘qitish (o‘qituvchili).
2. Без учителя (Unsupervised machine learning). Nazorat qilinmagan o‘qitish (o‘qituvchisiz).
3. Глубокое обучение (Deep learning). Mustahkamlovchi o‘qitish. Nazorat ostida (induktiv) o‘qitish (o‘qituvchili)
a. Berilgan: o‘quv ma’lumotlari va kerakli natijalar (yorliqlar) Nazorat qilinmagan o‘qitish (o‘qituvchisiz) b. Berilgan: o‘quv ma'lumotlari (kerakli natijalarsiz) Mustahkamlovchi o‘qitish
c. Harakatlar ketma-ketligidan olingan xulosalar
O’qituvchili o’qitish:
• Tibbiy diagnostika
• Belgilari → kasallik
• Spam-filtrlash •
Elektron xat→ spam / spam emas
• Tavsiya etuvchi tizimlar
• Avvalgi xaridlar → tavsiya
• Kompyuterni ko'rish qobiliyati
• Rasm → nima ko'rsatilgani
• Matnni aniqlash
• Qo'lda yozilgan matn → elektron matni
• Kompyuter lingvistikasi
• O’zbek tilidagi gap -> sintaksis qoidalar bo’yicha yoyilmasi
• Mashinali tarjima
• O’zbekcha matn → inglizcha tarjima
• Nutqni tanib olish
• Audio nutq yozuvi → electron matn Mustahkamlovchi o’qitish:
• Holat va harakatlar ketma-ketligini hisobga olgan holda (kechiktirilgan) xulosalar chiqarish va tartibni ishlab chiqish.
• Tartib (nizom) bu harakatlar jamlanmasi bo‘lib, aniq holatda qanday harakatlar amalga oshirish kerakligini ko‘rsatadi.
• Misollar:
• - Kreditni berish muammosi
• - O‘yinlarni o‘ynash • - Labirintdagi robot
• - Muvozanatlovchi yog‘ochni qo‘lda tutish
So'nggi 15 yil ichida (ML) keng tarqaldi. Ko'pchiligimiz har kuni sun'iy intellekt (CI) va mashinani o'rganish texnologiyalariga asoslangan ilovalardan foydalanamiz. Bu texnologiyalar ko'plab sohalarda inqilob qildi.
Mashinada o'qitishning bir qancha afzalliklari bor:
Ilova ma'lumotlardan keng foydalaniladi
Ma'lumotlar kompьyuterda saqlanadi.
Har qanday o'quv jarayonni kompьyuterga o'tkazish mumkin.
Model doimiy ravishda kompьyuterda o'qitiladi va yangilanadi.
1958 yil Frank Rozenblatt birinchi sun'iy neyron tarmog'i bo'lgan perseptronni yaratdi va Mark neyron kompyuterini ixtiro qildi. New York Times gazetasi Perceptr on: "kelajakda yura oladigan, gapiradigan, ko'radigan, yozadigan, ko'paytiradigan va mavjudligidan xabardor bo'ladigan elektron kompyuterning embrioni" deb nomlagan.
2006 yil Neyron tarmog'ini o'rganish chuqur o'rganishga aylanadi. Neyron tarmoqlari laboratoriyadan chiqib, hayotda ishlatilganda, kompyuter olimi Jefri Xinton neyron tarmoqlarini o'rganishni chuqur o'rganishga o'zgartirdi. Bugungi kunda Internet ta'sir ko'rsatuvchilari ovozni aniqlash va tasvirnai belgilash dasturlarini takomillashtirish uchun ushbu texnikadan foydalanmoqdalar.
Mashinada o'qitish bosqichlari:
ma'lumotlarni yig'ish va tayyorlash;
model yaratish;
ta'lim va ilovalarni joylashtirish.
Ushbu bosqichlarning har biri uchun maxsus platformalar ishlatiladi. Ular dasturlash tili (Python, Maple, MathIab).
Bugungi kunda mashinada o'qitishda bir necha o'nlab dasturiy vositalar mavjud.
TensorFlow;
Keras.io;
Google Cloud ML Engine;
Amazon Machine Learning (AML);
Microsoft Azure ML;
ML bilan hal qilingan barcha muammolar quyidagi toifalarga kiradi.
1) Regressiya muammosi - har xil xususiyatlarga ega ob'ektlar namunasiga asoslangan prognoz. Masalan, kvartira narxi 5 yildan keyin, olti oydan keyin qimmatli qog'ozlar narxi, do'konning keyingi oy uchun kutilayotgan daromadi.
2) Tasniflash muammosiga xususiyatlar majmui asosida kategorik javob olish kiritiladi. Masalan, fotosuratda mushuk bormi, odamning qiyofasi tasviri bormi, o'simlik fotosuratini topingchi.
3) Klasterlash vazifasi - ma'lumotlarni guruhlarga bo'lish: uyali aloqa operatorining barcha mijozlarini to'lov qobiliyati darajasiga bo'lish, kosmik ob'ektlarni u yoki bu toifaga (sayyora, yulduz, qora tuynuk va boshqalar) ajratish.
4) O'lchamlarni qisqartirish vazifasi - ko'p sonli funktsiyalarni keyinchalik vizualizatsiya qilish qulayligi uchun (masalan, ma'lumotlarni siqish) kichikroq qismga (odatda 2-3) qisqartirish.
5) Anomaliyalarni aniqlash vazifasi - anomaliyalarni standart holatlardan ajratish. Bir qarashda, bu tasniflash vazifasi bilan bir vaqtga to'g'ri keladi, lekin bitta muhim farq bor: anomaliyalar kamdan -kam uchraydigan hodisa va bunday ob'ektlarni aniqlash uchun kompьyuter modelini o'rgatish mumkin bo'lgan o'quv misollari juda kichik yoki oddiy emas, shuning uchun tasniflash usullari bu yerda ishlamaydi.
Mashinada o'qitish deganda algoritmlarni ishlab chiqishning turli xil matematik, statistik va hisoblash usullari tushuniladi, ular muammoni to'g'ridan -to'g'ri hal qila olmaydi, balki har xil kirish ma'lumotlarining mukammal yechimlarini topishga asoslangan
Mashinada o'qitish - bu ma'lumotlardan avtomatik ravishda prognozli modellarni yaratish usullarining siflanishidir. Mashinada o'qitish algoritmlari ma'lumotlar to'plamini modelga aylantiradi. Qaysi algoritm yaxshi ishlaydi (nazorat ostida, nazoratsiz, tasniflash, regressiya va boshqalar) hal qilinayotgan muammo turiga, mavjud bo'lgan kompyuter resurslariga va ma'lumotlar xususiyatiga bog'liq.

Regressiya — (matematikada) biror (u) tasodifiy miqdor oʻrta qiymatining boshqabir tasodifiy miqdoriga bogʻlikligi. Funksional bogʻlanishda miqdorning har bir qiymatiga u miqdorning bitta qiymati mos kelsa, regressiv bogʻlanishda x ning x qiymatiga turli hollarda turli qiymatlar mos keladi. R. tushunchasi faqat tasodifiy miqdorlar uchun emas, tasodifiy vektorlarga nisbatan ham kiritiladi. R. terminini ingliz olimi F.Galton kiritgan (1886). R. tabiat va jamiyat hodisalarini oʻrganishda muhim matematik vosita hisoblanadi. Korrelyatsiya – bu lotincha so'z bo'lib aloqadorlik, bog’liqlik degan ma'noni anglatadi. Xodisa va belgilar orasidagi bog’lanish funktsional va korrelyatsion bo'lishi mumkin. Funktsional bog’lanish – xodisalar o'rtasidagi g’at'iy bog’lanish bo'lib, bir belgining o’zgarishi bilan unga bog’liq ikkinchi belgining majburan ma'lum bir kattalikka o’zgarishiga olib keladi. Masalan: aylanani radiusi o’zgarsa, uning maydoni ham o’zgaradi. Korrelyatsion bog’lanish – o'rganilgan belgining ma'lum bir kattaligiga u bilan bog’liq ikkinchi bir belgining bir necha kattaliklarini mos kelishidir. Tana og’irligi va bo'y uzinligi bog’liqligi korrelyatsion bog’lanishga misol bo'la oladi. Agarda bo'yi bir xil bo'lgan bolalarni tana vaznini o'lchasak, u har xil bo'ladi va ma'lum bir amplitudada tebranadi. Chunki, tana vazniga faqat bo'yi emas balki, ovqatlanish, salomatlik va asab-ruhiy xolat ham ta'sir etadi. Xodisa va belgilarning uzviy bog’liqligini o'lchash va baholash haqida tasavvurini berish uchun korrelyatsiya koeffitsienti hisoblanadi. Regressiya tenglamasi va regressiya chizig‘i Korrelyatsion bog‘liqlik ta’rifini aniqlashtiramiz, buning uchun shartli о‘rtacha qiymat tushunchasini kiritamiz. Shartli о‘rtacha qiymat deb, Y tasodifiy miqdorning X=x qiymatiga mos qiymatlarining arifmetik о‘rtacha qiymatiga aytiladi. Masalan, X miqdorning x1=2 qiymatiga Y miqdorning y1=3, y2=5, y3=6, y4=10 qiymatlari mos kelsin. U holda, shartli о‘rtacha qiymat ga teng. Y ning X ga nisbatan korrelyatsion bog‘liqligi deb, x shartli о‘rtacha qiymatning x ga funksional bog‘liqligiga aytiladi: (15.1) X ning Y ga nisbatan korrelyatsion bog‘liqligi ham yuqoridagi kabi ta’riflanadi: (15.2) (15.1) va (15.2) tengliklar mos ravishda Y ning X ga va X ning Y ga nisbatan regressiya tenglamasi deyiladi. f(x) va funksiyalar- regressiya funksiyalari, ularning grafiklari esa regressiya chizig‘i deyiladi. Korrelyatsion nazariyasining asosiy masalalaridan biri korrelyatsion bog‘lanish shaklini aniqlash, ya’ni uning regressiya funksiyasi kо‘rinishini (chiziqli, kvadratik, kо‘rsatkichli va hokozo) topishdan iborat. Regressiya funksiyalari kо‘p hollarda chiziqli bо‘ladi. Ikkinchi masala korrelyatsion bog‘lanishning zichligi (kuchi)ni aniqlash. Ham chiziqli, ham logistik regressiya ma'lumotlar fanida juda ko'p foydalanishni ko'radi, ammo har xil muammolar uchun keng qo'llaniladi. Ma'lumotshunoslik bo'yicha vazifalarni to'liq bajarish uchun siz ikkala regress turini bilishingiz va tushunishingiz kerak. Ikkisidan logistik regressiyani ko'p jihatdan tushunish qiyinroq, chunki u yanada murakkab tenglama modelidan foydalanadi. Quyidagi ma'lumotlar chiziqli va logistika regressiyasining farqi haqida asosiy ma'lumotlarni beradi. TENGLAMA MODELI Chiziqli va logistik regressiya o'rtasidagi farqni muhokama qilish asosiy tenglama modelidan boshlanishi kerak. Chiziqli regressiya uchun tenglama sodda. y = a + bx Siz ushbu tenglamani boshqa shakllarda ko'rishingiz mumkin va siz uni oddiy eng kichik kvadratlar regressiyasi deb atashingiz mumkin, ammo asosiy tushuncha har doim bir xil. Siz foydalanadigan manbaga qarab, logistika regressiyasini ifodalash uchun ishlatilgan ba'zi tenglamalar, agar siz matematik mutaxassisligingiz bo'lmasa, dahshatli bo'lib qolishi mumkin. Ammo, ushbu munozaraning boshlanishi logistik regressning eng oddiy qarashlaridan birini ishlatishi mumkin: p = f (a + bx) > p, logistika funktsiyasiga teng, f, ikkita model parametrlariga qo'llaniladi, a va b, va bitta izohli o'zgaruvchi, x. Ushbu muayyan modelga qaraganingizda, bu haqiqatan ham chiziqli regressiya modelidan farq qiladigan narsalarning barchasi emasligini bilasiz, bundan tashqari, siz chiziqli regressiya natijasini logistika funktsiyasi orqali kerakli egri chiziqni olish uchun etkazib berasiz. Chiqish (bog'liq bo'lgan o'zgaruvchanlik) 0 dan (ehtimol sodir bo'lmaydi) 1 gacha (aniq sodir bo'ladi) yoki biron bir narsa kategoriya yoki uning bir qismi emasligini aytadigan kategoriya. (Bundan tashqari, ko'p darajali tasniflashni amalga oshirishingiz mumkin, ammo hozirda ikkilik javobga e'tibor qarating.) Chiziqli regressiya chiqishi va logistik regressiya chiqishi o'rtasidagi farqni ko'rishning eng yaxshi usuli quyidagicha deyishdir. Chiziqli regressiya doimiydir. Uzluksiz qiymat ma'lum qiymatlar oralig'i (diapazoni) ichidagi har qanday qiymatni olishi mumkin. Masalan, ikki kishining balandligi qanchalik yaqin bo'lishidan qat'i nazar, siz har doim balandligi o'sha ikki shaxsning biriga mos keladigan kishini topishingiz mumkin. Uzluksiz qiymatlarga misollar: Balandligi Og'irligi Belning o'lchami Logistik regressiya diskretdir. Diskret qiymat aniq taxminiy qiymatlarga ega. Masalan, shifoxona ma'lum bir kunda faqat ma'lum miqdordagi bemorni qabul qilishi mumkin. Siz bemorning yarmini qabul qila olmaysiz (hech bo'lmaganda, tirik emas). Diskret qiymatlarga misollar: Yarmarkadagi odamlar soni Kavanozdagi jelebeans soni Sotuvchi tomonidan ishlab chiqarilgan avtomobillar ranglari LOGISTIK FUNKTSIYA Albatta, endi siz logistika funktsiyasi haqida bilishingiz kerak. Siz shuningdek ushbu funktsiyaning turli shakllarini topishingiz mumkin, ammo bu erda tushunish eng oson: f (x) = ex / ex + 1 Siz allaqachon bilasiz f, logistika funktsiyasi bo'lgan va x siz foydalanmoqchi bo'lgan algoritmga teng bu holda a + bx. Bu ketmoqda e, bu tabiiy logarifm bo'lib, munozara uchun 2.718 qiymatiga ega (irratsional qiymatga ega) (butun qiymatning yaxshiroq yaqinlashishini tekshiring). Ushbu funktsiyani ifodalanganligini ko'rishning yana bir usuli bu f (x) = 1 / (1 + e)-x) Ikkala shakl ham to'g'ri, ammo birinchi shakldan foydalanish osonroq. Oddiy muammoni ko'rib chiqing a, y kesishish 0 va va "> b, qiyalik, 1-misol x qiymatlar –6 dan 6 gacha. Shunday qilib, birinchi f (x) qiymati hisoblashda quyidagicha bo'ladi (barcha qiymatlar yaxlitlanadi): (1) e-6 / (1 + e-6) (2) 0.00248 / 1 + 0.00248 (3) 0.002474 Siz kutganingizdek, a x va l ning qiymati 0 ga olib keladi f (x) qiymati 0,5 va a x qiymati 6 ga teng keladi f (x) qiymati 0,9975. Shubhasiz, chiziqli regressiya aniq bir xil uchun turli xil natijalarni ko'rsatgan bo'lar edi x qiymatlar. Agar siz quyidagi kod yordamida logistik va chiziqli regressiyaning barcha natijalarini hisoblasangiz va tuzsangiz, siz quyida keltirilganga o'xshash fitna olasiz. matplotlib.pyplot plt% matplotlib sifatida matematik import exp x_values ​​= diapazon (-6, 7) lin_values ​​= ((0, 13) x oralig'ida x (0, 13)] log_values ​​= [exp ( X_values] x uchun 0 + 1 * x) / (1 + exp (0 + 1 * x)) plt.plot (x_vallar, lin_vallar, 'b- ^') plt.plot (x_vallar, log_values, 'g - * ') plt.legend ([' Linear ',' Logistic ']) plt.show () Ushbu misol qiymatlarni hisoblash uchun ro'yxat tushunchasiga tayanadi, chunki u hisoblarni aniqroq qiladi. Chiziqli regressiya boshqa raqamli diapazondan foydalanadi, chunki taqqoslash uchun 0 dan 1 gacha oraliqda paydo bo'lish uchun siz qiymatlarni normallashtirishingiz kerak. Shu sababli hisoblangan qiymatlarni 13 ga bo'lasiz exp (x) logistik regressiya uchun ishlatiladigan qo'ng'iroq ko'tariladi e kuchiga x, ex, logistika funktsiyasi uchun kerak bo'lganda. Bu erda muhokama qilingan model soddalashtirilgan va ba'zi matematik mutaxassisliklar hozirda eng chuqur nisbatlarga nisbatan jahlni chiqarayotgan bo'lishi mumkin. Siz ishlatadigan Python yoki R to'plami aslida matematikaning fonda ishlashiga g'amxo'rlik qiladi, shuning uchun paketlardan qanday foydalanishni tushunishingiz uchun matematikaning asosiy darajadagi ishlashini bilishingiz kerak. Ushbu bo'limda paketlardan foydalanishingiz kerak bo'lgan narsalar keltirilgan. Ammo, agar siz hisob-kitoblarni eski usuldan, bo'rdan taxtaga o'tkazishni talab qilsangiz, sizga ko'proq ma'lumot kerak bo'ladi. LOGISTIK REGRESSIYANI HAL QILADIGAN MUAMMOLAR Siz logistik regressiyani bir nechta toifalarga ajratishingiz mumkin. Birinchisi - oddiy logistik regressiya, bunda siz oddiy chiziqli regressiyada ko'rganingizdek bitta mustaqil o'zgaruvchiga va bitta mustaqil o'zgaruvchiga egasiz. Ammo, logistika regressiyasini qanday hisoblaganingiz sababli, mahsulotning faqat ikki turini kutishingiz mumkin: Tasniflash: Ikkita mavjud natijalar, masalan, erkak yoki ayol, ha yoki yo'q, yoki yuqori yoki past bo'lish o'rtasida qaror qiladi. Natija ma'lum bir ma'lumot nuqtasi chiziqning qaysi tomoniga tushishiga bog'liq. Ehtimol: Biror narsaning haqiqat yoki yolg'on bo'lishi ehtimolini aniqlaydi. Haqiqiy va noto'g'ri qiymatlar ma'lum ma'nolarga ega bo'lishi mumkin. Masalan, axlat qutisida sariq va qizil olma borligiga asoslanib, ma'lum bir olma sariq yoki qizil bo'lishi ehtimoli haqida bilishni xohlashingiz mumkin.