Qarorlar daraxti va uni qurish algoritmlari

Farqni hisoblash bosqichlari:

1. 
   Har bir tugun uchun farqni hisoblang.
   
2. 
   Har bir bo'linish uchun dispersiyani har bir tugun dispersiyasining o'rtacha og'irligi sifatida hisoblang.
   

Chi-kvadrat
CHAID qisqartmasi Chi -squared Automatic Interaction Detector degan ma'noni anglatadi. Bu eng qadimgi daraxtlarni tasniflash usullaridan biridir. U pastki tugunlar va asosiy tugunlar o'rtasidagi farqlarning statistik ahamiyatini aniqlaydi. Biz uni maqsadli o'zgaruvchining kuzatilgan va kutilayotgan chastotalari o'rtasidagi standartlashtirilgan farqlarning kvadratlari yig'indisi bilan o'lchaymiz.
U "Muvaffaqiyat" yoki "Muvaffaqiyatsiz" toifali maqsadli o'zgaruvchilar bilan ishlaydi. Ikki yoki undan ortiq bo'linishni amalga oshirishi mumkin. Chi-kvadrat qiymati qanchalik baland bo'lsa, pastki tugun va ota-ona tugunlari o'rtasidagi farqlarning statistik ahamiyati shunchalik yuqori bo'ladi.
U CHAID (Chi-square Automatic Interaction Detector) nomli daraxtni yaratadi.
Matematik jihatdan, Chi-kvadrat quyidagicha ifodalanadi:

Bo'linish uchun Chi-kvadratini hisoblash bosqichlari:

1. 
   Muvaffaqiyat va muvaffaqiyatsizlik uchun og'ishlarni hisoblash orqali individual tugun uchun Chi-kvadratini hisoblang
   
2. 
   Bo'linishning har bir tugunining muvaffaqiyati va muvaffaqiyatsizligining barcha Ki-kvadratlari yig'indisidan foydalangan holda bo'linishning Chi-kvadrati hisoblangan.
   

Qaror daraxtlarida ortiqcha o'rnatishdan qanday qochish kerak?
Qaror daraxtlari bilan bog'liq umumiy muammo, ayniqsa ustunlar bilan to'la stolga ega bo'lish, ular juda mos keladi. Ba'zan daraxt o'quv ma'lumotlar to'plamini yodlaganga o'xshaydi. Agar qaror daraxtida chegara o'rnatilmagan bo'lsa, u sizga o'quv ma'lumotlari to'plamida 100% aniqlikni beradi, chunki yomon holatda u har bir kuzatish uchun 1 barg hosil qiladi. Shunday qilib, bu o'quv majmuasining bir qismi bo'lmagan namunalarni bashorat qilishda aniqlikka ta'sir qiladi.
Haddan tashqari moslamani olib tashlashning ikkita usuli mavjud:

1. 
   Qaror daraxtlarini kesish.
   
2. 
   Tasodifiy o'rmon