Mashinani o'rganish nima? Mashinani o'qitish usullari, turlari, vazifalari va misollar

Boosting va AdaBoost

Boosting - bu ansambl algoritmlari oilasi, ularning mohiyati bir nechta zaiflarga asoslangan kuchli klassifikatorni yaratishdir. Buning uchun avval bir model yaratiladi, keyin birinchisida xatolarni tuzatishga harakat qiladigan boshqa model yaratiladi. O'quv ma'lumotlari to'liq bashorat qilinmaguncha yoki modellarning maksimal soni oshmaguncha modellar qo'shiladi.

AdaBoost ikkilik tasniflash uchun mo'ljallangan birinchi haqiqiy muvaffaqiyatli oshiruvchi algoritm edi. Tanishishni kuchaytirish bilan boshlash yaxshidir. Stochastik gradientni kuchaytirish kabi zamonaviy texnikalar AdaBoost-ga tayanadi.

AdaBoost qisqa qaror daraxtlari bilan birgalikda ishlatiladi. Birinchi daraxt yaratilgandan so'ng, uning samaradorligi har bir o'quv ob'ektida sinovdan o'tkazilib, keyingi daraxt barcha ob'ektlarga qancha e'tibor berishi kerakligini tushunadi. Bashorat qilish qiyin bo'lgan ma'lumotlarga ko'proq vazn beriladi, va taxmin qilish oson bo'lgan narsalarga kam vazn beriladi.

Modellar ketma-ket ketma-ket yaratiladi va ularning har biri keyingi daraxtning vaznini yangilaydi. Barcha daraxtlar qurib bo'lingandan so'ng, yangi ma'lumotlar uchun bashorat qilinmoqda va har bir daraxtning ishlashi uning ma'lumotlari qanchalik to'g'ri ekanligi bilan belgilanadi.

Ushbu algoritmda model xatolarini tuzatishga katta ahamiyat berilganligi sababli, ma'lumotlarda anomaliyalar yo'qligi juda muhimdir.