Neyron tarmoq asoslari va uni chuqur o'rganish

Является ли СКО выпуклой функцией потерь?
Standart og'ish konveksni yo'qotish funktsiyasimi?

Технически СКО – выпуклая функция. Но при работе со скрытыми слоями нейронной сети она перестает быть таковой, потому что может существовать много наборов параметров, дающих одинаковую потерю.

Texnik jihatdan standart og'ish konveks funktsiyasidir. Ammo neyron tarmoqning yashirin qatlamlari bilan ishlaganda, u bunday bo'lmay qoladi, chunki bir xil yo'qotishlarni ta'minlaydigan ko'plab parametrlar bo'lishi mumkin.


Оптимизация СКО
SKO optimallashtirish

Оптимизация СКО эквивалентна оптимизации среднего.

Standart og'ishlarni optimallashtirish o'rtacha qiymatni optimallashtirishga tengdir.


Другие функции потерь для регрессии


Regressiya uchun boshqa yo'qotish funktsiyalari

СКО широко используется, но она очень чувствительна к выбросам, и это нельзя упускать из виду при выборе функции потерь. Решая, в какие акции инвестировать, мы хотим принимать выбросы во внимание, а при покупке дома – вряд ли.

23. 
    последнем случае нас больше интересует, какую сумму готово заплатить за него большинство людей, т. е. не столько среднее, сколько медиана.
    

RMSE keng qo'llaniladi, ammo u chiqindilarga juda sezgir va yo'qotish funktsiyasini tanlashda buni e'tibordan chetda qoldirmaslik kerak. Qaysi aktsiyalarni investitsiyalashni tanlashda biz chiqindilarni hisobga olishni xohlaymiz va uy sotib olayotganda bu dargumon.

ikkinchi holatda, biz ko'pchilik bu uchun qancha pul to'lashga tayyor ekanligi, ya'ni o'rtacha ko'rsatkich o'rtacha emasligi bilan qiziqamiz.

78  Основы нейронных сетей и глубокого обучения


Средняя абсолютная ошибка (САО, англ. MAE). Альтернатива СКО, вычис­ ляемая по следующей формуле:
O'rtacha mutlaq xato (CAO, inglizcha MAE). DISga alternativa quyidagi formula bo'yicha hisoblanadi:

Это просто усреднение абсолютной величины ошибки по всему набору данных. Среднеквадратическая логарифмическая ошибка (СКЛО, англ. MSLE). Вы-

числяется по формуле:
Bu shunchaki xatolarning mutlaq qiymatini butun ma'lumotlar to'plami uchun o'rtacha qiymatga tenglashtiradi. Ildiz-o'rtacha kvadratik logarifmik xato (SKLO, ingliz MSLE).
U quyidagi formula bo'yicha hisoblanadi: