Qarorlar daraxti va uni qurish algoritmlari

ID3 → (D3 kengaytmasi)
C4.5 → (ID3 vorisi)
CART → (Tasniflash va regressiya daraxti)
CHAID → (Chi-kvadrat o‘zaro ta’sirni avtomatik aniqlash Tasniflash daraxtlarini hisoblashda ko‘p darajali bo‘linishlarni amalga oshiradi)
MARS → (ko‘p o‘zgaruvchan adaptiv regressiya splinelari ) )
ID3 algoritmi hech qanday orqaga qaytishsiz mumkin bo'lgan filiallar bo'shlig'i orqali yuqoridan pastga ochko'z qidiruv yondashuvidan foydalangan holda qaror daraxtlarini yaratadi. Ochko'z algoritm, nomidan ko'rinib turibdiki, har doim o'sha paytda eng yaxshisi bo'lib tuyuladigan tanlovni amalga oshiradi.
ID3 algoritmidagi qadamlar:

1. 
   U ildiz tugun sifatida asl S to'plamidan boshlanadi.
   
2. 
   Algoritmning har bir iteratsiyasida u S to'plamining juda foydalanilmagan atributini takrorlaydi va bu atributning Entropiya (H) va Axborot daromadini (IG)  hisoblaydi.
   
3. 
   Keyin u eng kichik entropiya yoki eng katta ma'lumotga ega bo'lgan atributni tanlaydi.
   
4. 
   Keyin S to'plami ma'lumotlarning kichik to'plamini yaratish uchun tanlangan atributga bo'linadi.
   
5. 
   Algoritm faqat ilgari tanlanmagan atributlarni hisobga olgan holda har bir kichik to'plamda takrorlanishda davom etadi.
   

Atributlarni tanlash choralari
Agar ma'lumotlar to'plami N ta atributdan iborat bo'lsa, qaysi atributni ichki tugunlar sifatida daraxtning ildiziga yoki turli darajalariga joylashtirishni hal qilish murakkab qadamdir. Ildiz bo'lish uchun har qanday tugunni tasodifiy tanlash bilan muammoni hal qila olmaydi. Agar biz tasodifiy yondashuvga amal qilsak, bu bizga past aniqlik bilan yomon natijalar berishi mumkin.
Ushbu atribut tanlash muammosini hal qilish uchun tadqiqotchilar ishladilar va ba'zi echimlarni ishlab chiqdilar. Ular quyidagi mezonlardan foydalanishni taklif qilishdi :
Entropiya ,
Axborot daromadi,