Cheklovga egamiz c

Softmax Regressiya funktsiyasi Softmax Regression yordamida ko'p sinfli tasnifni amalga oshirayotganda , bizning modelimiz faqat bitta sinf sinfini bashorat qilishi mumkin bo'lgan cheklovga egamiz c . Bizning ma'lumotlarimiz uchun bu model tasvirdagi raqamlardan faqat bittasini (0 dan 9 gacha) bashorat qilishini anglatadi.

Biz logistik modelning chiqishini ehtimollik sifatida izohladik. Xuddi shunday, biz ko'p toifali tasniflash modelining natijasini ehtimollik taqsimoti sifatida izohlashni xohlaymiz . Shunday qilib, biz modelimiz c har bir sinfning ehtimolini ifodalovchi vektordagi har bir qiymat bilan o'lchamli vektorni chiqarishini xohlaymiz . Boshqacha qilib aytganda, vektordagi c'- qiymat bizning bashoratimiz c'- sinf bo'lish ehtimolini ifodalaydi . Ularning barchasi ehtimollar bo'lgani uchun ularning yig'indisi 1 ga teng bo'ladi.

Yuqoridagi taxminlarga muvofiq bo'lish uchun biz softmax funktsiyasidan foydalanamiz.

c'-sinf uchun softmax quyidagicha aniqlanadi:

bu yerda, z chiziqli qism. Masalan, z1 = w1.X + b1boshqalar uchun ham xuddi shunday.

y_hat = softmax(wX + b)

c(sinflar soni) bizning ma'lumotlarimiz uchun = 10.

Quyidagi model diagrammasi yordamida Softmax funksiyasi va Softmax regressiyasini tushunishga harakat qilaylik.

• Birinchidan, biz yassilangan qilgan 28x28 uzunligi bir vektor ichiga tasvirni 784 vakili X Yuqoridagi rasmda.
• Ikkinchidan, biz har bir sinf → uchun chiziqli qismini hisoblash zc = wc.X + bc, zchamda chiziqli qismidir c'th sinf va wcog'irliklari to'plamidir c'th sinf. bcc'-sinf uchun tarafkashlikdir.
• Uchinchidan, zcyuqoridagi formuladan foydalanib, har bir sinf uchun softmax ni hisoblaymiz . Barcha sinflarni birlashtirib, biz kattalik vektorini olamiz cva ularning yig'indisi 1 ga teng. Va qaysi sinf eng yuqori qiymatga ega bo'lsa (ehtimollik) bizning bashoratimiz bo'ladi.

def softmax(z): # z--> chiziqli qism. # raqamli barqarorlik uchun maksimal z ni ayirish. exp = np.exp(z - np.max(z)) # Barcha misollar uchun softmaxni hisoblash. diapazondagi i uchun(len(z)): exp[i] /= np.sum(exp[i]) ekspluatatsiyani return

Softmax funksiyasi kodini yozamiz. Izohlarga qarang (#).

Shakllar -

• X →(m,n)
• y →(m,c) [bitta issiq kodlangan]
• w →(n,c)
• b → o'lchamdagi vektor c

Etiboringiz uchun Rahmat