Kiberxavfsizlikda mashinali o‘qitish fanidan

Entropiya - qaror daraxtida bu bir xillikni anglatadi. Agar ma'lumotlar butunlay bir xil bo‘lsa, u 0 ga teng; aks holda, agar ma'lumotlar ajratilgan bo‘lsa (50-50%), entropiya 1. Oddiy qilib quyidagicha tushuntirish mumkin - bu qaror qabul qilish uchun muhim bo‘lgan qancha ma'lumot borligini biz bilmaymiz.

Axborotning o‘sishi entropiyaning o‘zaro bog'liqligi, axborotning o‘sishi qanchalik yuqori bo‘lsa, entropiya shunchalik kam, hisobga olinmagan ma'lumotlar kamroq va yechim shunchalik yaxshi bo‘ladi.

Biz ajratishning keyingi bosqichiga o‘tish uchun eng yuqori ma'lumotga ega bo‘lgan atributni tanlaymiz. Bu har qanday saytda eng yaxshi yechimni tanlashga yordam beradi. Misolni ko‘rib chiqaylik. Bizda shunga o‘xshash juda ko‘p ma'lumotlar mavjud bo‘lsin:

Raqam	Yosh	Daromad darajasi	Talaba	Kredit reytingi (CR)	Kompyuter sotib oladi
1	<=30	Past	Ha	o‘rtacha	Ha
2	30-40	Yuqori	Yo‘q	a’lo	Ha
3	40	Yuqori	Yo‘q	a’lo	Yo‘q
4	<30	O‘rta	Yo‘q	o‘rtacha	Yo‘q

Ushbu atributlar to‘plamidan hosil bo‘lgan n ta qaror daraxti bo‘lishi mumkin.
1-raqamli daraxt: bu yerda biz testning dastlabki sharti sifatida “Talaba” atributini qabul qildik

2 raqamli daraxt: bu yerda biz boshlang'ich shart sifatida "Daromad" atributidan foydalanamiz

Biz ochko‘z algoritm bilan optimal yechimni qidirmoqdamiz