K-Means algoritmi qanday ishlaydi? Keling, K-Means algoritmi qanday ishlashini ko'rib chiqaylik:
Dastlab, K sonli centroidlar tanlanadi. K uchun to'g'ri qiymatni tanlashning turli usullari mavjud.
Ma'lumotlarni aralashtirib yuboring va centroidlarni ishga tushiring - almashtirmasdan centroidlar uchun K ma'lumot nuqtalarini tasodifiy tanlang.
Har bir oldingi markazga tayinlangan barcha namunalarning o'rtacha qiymatini hisoblab, yangi markazlarni yarating.
Markazda hech qanday o'zgarish bo'lmaguncha markazni tasodifiy ishga tushiring, shuning uchun ma'lumotlar nuqtalarining klasterga tayinlanishi o'zgarmaydi.
K-Means klasterlash nuqtalar orasidagi masofani aniqlash uchun Evklid masofasidan foydalanadi.
Manba Eslatma: K-Means klasterlash misoli quyidagi foydalanish holatlari bo'limida mijozlar segmentatsiyasi misollari bilan tushuntirilgan. K ning to'g'ri qiymatini tanlashning ikkita usuli mavjud: tirsak va siluet. Tirsak usuli Tirsak usuli qiymatlar oralig'ini tanlaydi va ular orasidan eng yaxshisini oladi. U K ning turli qiymatlari uchun Kvadratning klaster yig'indisini (WCSS) hisoblaydi. Kvadrat nuqtalar yig'indisini hisoblab chiqadi va o'rtacha masofani hisoblaydi .
Yuqoridagi formulada Yi Xi ni kuzatish markazidir. WCSS pasayishni boshlagan joyda K qiymatini tanlash kerak. WCSS ga qarshi K syujetida bu tirsak shaklida ko'rinadi .
Manba Siluet usuli Silhouette ball/koeffitsienti (SC) har bir namuna uchun o'rtacha klaster ichidagi masofa (m) va eng yaqin klaster masofasining o'rtacha qiymati (n) yordamida hisoblanadi.
Yuqoridagi formulada n - ma'lumotlar nuqtasi va uning qismi bo'lmagan eng yaqin klaster orasidagi masofa. Biz barcha namunalar bo'yicha o'rtacha SCni hisoblashimiz va klasterlar sonini aniqlash uchun ko'rsatkich sifatida foydalanishimiz mumkin.
SC qiymati -1 dan 1 gacha bo'ladi. 1 klasterlar yaxshi ajratilgan va ajralib turishini bildiradi. Agar qiymat -1 bo'lsa, klasterlar noto'g'ri tayinlangan.
Bular K-Means ning boshqa algoritmlarga nisbatan bir qancha afzalliklari:
Amalga oshirish oson.
U katta ma'lumotlar to'plamlari uchun kengaytirilishi mumkin, shuningdek, katta ma'lumotlar to'plamlari uchun tezroq.
U tez-tez yangi misollarga moslashadi.
K -Means algoritmi K-Means algoritmiga nisbatan yana bir klasterlash algoritmidir, bundan tashqari klaster markazlari mediana yordamida qayta hisoblab chiqiladi. Katta ma'lumotlar to'plamlari uchun median vektorni sekinroq hisoblash uchun tartiblash kerak bo'lganligi sababli, K-Media algoritmida chetdagilarga nisbatan sezgirlik kamroq.
K-Means ba'zi kamchiliklarga ega; K-Means klaster markazlarining tasodifiy ishga tushirilishi bilan boshlanganligi sababli algoritm turli yugurishlarda turli klasterlash natijalarini berishi mumkin. Imkoniyat shundaki, olingan natijalar takrorlanmasligi mumkin.
K-Means algoritmining boshqa kamchiliklari quyidagilardir:
K-Means klasterlash, agar klasterlar sharsimon shaklga ega bo'lsa , ma'lumotlar strukturasini olishda yaxshi . U har doim markaz atrofida chiroyli sharsimon shakl yaratishga harakat qiladi. Bu shuni anglatadiki, klasterlar turli xil geometrik shakllarga ega bo'lgan daqiqada K-Means ma'lumotlarni klasterlashda yomon ish qiladi.
Ma'lumotlar nuqtalari bir xil klasterga tegishli bo'lsa ham, K-Means ma'lumotlar nuqtalarini bir-biridan uzoqlashtirishga ruxsat bermaydi va ular bir xil klasterni baham ko'radi.
O'lchovlar soni ortishi bilan o'lchovlilik kamayadi.
Klasterlash uchun K-Means dan foydalanishda eslash kerak bo'lgan ba'zi fikrlar:
K-Means algoritmini qo'llashda ma'lumotlarni standartlashtiring , chunki bu sizga sifatli klasterlarni olishga va klasterlash algoritmining ish faoliyatini yaxshilashga yordam beradi. K-Means ma'lumotlar nuqtalari orasidagi o'xshashlikni topish uchun masofaga asoslangan o'lchovdan foydalanganligi sababli, standart og'ish bir va o'rtacha nolga teng bo'lishi uchun ma'lumotlarni standartlashtirish yaxshidir. Odatda, har qanday ma'lumotlar to'plamida mavjud bo'lgan xususiyatlar turli o'lchov birliklariga ega bo'ladi, masalan, daromadga nisbatan yosh.
K-vositalari kattaroq klasterlarga ko'proq og'irlik beradi.
Klasterlar sonini tanlashda foydalaniladigan tirsak usuli yaxshi ishlamaydi, chunki xato funksiyasi barcha K.lar uchun kamayadi.
Agar klasterlar o'rtasida o'xshashlik bo'lsa, K-Means har bir ma'lumot nuqtasini qaysi klasterni belgilashni aniqlash uchun bir-biriga mos keladigan mintaqaga tegishli misollar uchun noaniqlik uchun ichki o'lchovga ega emas.
K-Means ma'lumotlarni klasterlash mumkin bo'lmasa ham, masalan, yagona taqsimotdan keladigan ma'lumotlar.
Mini-Batch K-Means klasterlash algoritmi
K-Means mashhur klasterlash algoritmlaridan biri bo'lib, u asosan yaxshi vaqt ishlashi tufayli. Ma'lumotlar to'plamining hajmi kattalashganda, K-Means xotira muammosiga olib keladi, chunki u butun ma'lumotlar to'plamiga muhtoj. Shu sabablarga ko'ra, algoritmning vaqt va makon murakkabligini kamaytirish uchun Mini-Batch K-Means deb nomlangan yondashuv taklif qilindi.
Mini-Batch K-Means algoritmi ma'lumotlarni asosiy xotiraga shunday joylashtirishga harakat qiladiki, algoritm tasodifiy tanlangan sobit o'lchamdagi ma'lumotlarning kichik partiyalaridan foydalanadi. Mini-Batch K-Means algoritmi haqida bir nechta fikrlarni e'tiborga olish kerak:
Klasterlar ma'lumotlar to'plamidan yangi ixtiyoriy namunalarni olish yo'li bilan har bir iteratsiyada yangilanadi (klaster markazlarining oldingi joylashuviga qarab) va bu qadamlar konvergentsiyaga qadar takrorlanadi.
Ba'zi tadqiqotlar shuni ko'rsatadiki, bu usul hisob-kitob vaqtini sezilarli darajada tejaydi, klaster sifatini biroz yo'qotadi. Ammo klaster sifatiga ta'sir qiladigan klasterlar sonini yoki ularning hajmini aniqlash uchun qizg'in tadqiqotlar o'tkazilmagan.
Manba
Klasterlarning joylashuvi har bir partiyadan olingan yangi nuqtalar asosida yangilanadi.
Amalga oshirilgan yangilanish gradient descent yangilanishi bo'lib, u odatdagi K-Means partiyasidan sezilarli darajada tezroq.
Zichlikka asoslangan klasterlash algoritmlari
Zichlikka asoslangan klasterlash misol zichligi yuqori bo'lgan hududlarni klasterlarga bog'laydi. Bu zich hududlar ulangan ekan, ixtiyoriy shakl taqsimotiga imkon beradi. Yuqori o'lchamli ma'lumotlar va turli zichlikdagi ma'lumotlar bilan bu algoritmlar muammolarga duch keladi. Dizayni bo'yicha, bu algoritmlar klasterlarga o'zgarib turadigan qiymatlarni belgilamaydi.
DBSCAN
Zichlikka asoslangan eng mashhur usul bu shovqinli ilovalarni zichlikka asoslangan fazoviy klasterlash ( DBSCAN ). Unda " zichlikka erishish imkoniyati " deb nomlangan aniq belgilangan klaster modeli mavjud .
Klasterlashning ushbu turi ma'lum bir zichlik mezonlarini (radiusdagi ob'ektlarning minimal soni) qondiradigan ma'lumotlar nuqtalarini bog'laydi. DBSCAN klasterlash tugallangandan so'ng, uchta turdagi nuqtalar mavjud: yadro, chegara va shovqin. Manba Yuqoridagi rasmga qarasangiz, yadro o'zidan ma'lum (n) masofada ba'zi (m) nuqtalarga ega bo'lgan nuqtadir. Chegara n masofada kamida bitta asosiy nuqtaga ega bo'lgan nuqtadir . Shovqin - bu chegara ham, yadro ham bo'lmagan nuqta. Klasterlarni ajratish uchun zarur bo'lgan siyrak hududlardagi ma'lumotlar nuqtalari shovqin va kengroq nuqtalar hisoblanadi.
DBSCAN klasterlar qanday aniqlanganligini aniqlash uchun ikkita parametrdan foydalanadi:
