Amaliy matematika” yo‘nalishi 21. 08-guruh talabasi Mamasodiqova Mubina Sattorali qizining

Neyron to'ri asosida qaror qabul qilishdagi shaffoflik.

Sunʼiy neyron tarmoqlari (SNT), odatda oddiygina neyron tarmoqlari (NT) deb ataladi, hayvonlar miyasini tashkil etuvchi biologik neyron tarmoqlardan ilhomlangan hisoblash tizimlari.
SNT sunʼiy neyronlar deb ataladigan bogʻlangan birliklar yoki tugunlar toʻplamiga asoslanadi, ular biologik miyadagi neyronlarni erkin modellashtiradi. Sunʼiy neyron signallarni oladi, keyin ularni qayta ishlaydi va unga ulangan neyronlarga signal berishi mumkin. Ulanishdagi „signal“ haqiqiy raqam boʻlib, har bir neyroNTing chiqishi uning kirishlari yigʻindisining chiziqli boʻlmagan funksiyasi bilan hisoblanadi. Ulanishlar deyiladi qirralar. Neyronlar va chekkalar odatda oʻrganish davom etayotganda sozlanadigan vaznga ega. Neyronlar shunday chegaraga ega boʻlishi mumkinki, signal faqat yigʻilgan signal ushbu chegarani kesib oʻtgan taqdirdagina yuboriladi. Odatda, neyronlar qatlamlarga yigʻiladi. Signallar birinchi qatlamdan (kirish qatlami), oxirgi qatlamga (chiqish qatlami), ehtimol, qatlamlarni bir necha marta bosib oʻtgandan keyin oʻtadi.
Neyron tarmoqlar misollarni qayta ishlash orqali oʻrganadi (yoki oʻqitiladi), ularning har biri maʼlum „kirish“ va „natija“ ni oʻz ichiga oladi va ular oʻrtasida ehtimollik bilan oʻlchangan assotsiatsiyalarni hosil qiladi, ular tarmoqning oʻzida saqlanadigan maʼlumotlar tuzilmasida saqlanadi. Berilgan misol boʻyicha neyron tarmoqni oʻrgatish odatda tarmoqning qayta ishlangan chiqishi (koʻpincha bashorat) va maqsadli chiqishi oʻrtasidagi farqni aniqlash orqali amalga oshiriladi. Keyin tarmoq oʻz vaznli assotsiatsiyalarini oʻrganish qoidasiga koʻra va ushbu xato qiymatidan foydalanib sozlaydi. Ushbu tuzatishlarning etarli sonidan soʻng, mashgʻulot muayyan mezonlar asosida toʻxtatilishi mumkin.
Bunday tizimlar misollarni koʻrib chiqish orqali topshiriqlarni bajarishni „oʻrganadi“, odatda vazifaga xos qoidalar bilan dasturlashtirilmaydi. Masalan, tasvirni aniqlashda ular „mushuk“ yoki „mushuk yoʻq“ deb qoʻlda yorliqlangan misol tasvirlarni tahlil qilish va boshqa tasvirlardagi mushuklarni aniqlash uchun natijalardan foydalanish orqali mushuklar bor tasvirlarni aniqlashni oʻrganishi mumkin.
Neyron tarmoqlarning dastlabki muvaffaqiyatlari birja bozorini bashorat qilish va 1995-yilda (asosan) oʻzini oʻzi boshqaradigan avtomobilni oʻz ichiga oladi.[30]
Geoffrey Xinton va boshqalar. (2006) har bir qatlamni modellashtirish uchun cheklangan BoltzmSNT mashinasi. 2012-yilda Ng va Din faqat yorliqsiz tasvirlarni tomosha qilish orqali mushuklar kabi yuqori darajadagi tushunchalarni tan olishni oʻrgangan tarmoq yaratdilar Nazoratsiz oldindan oʻqitish va GPU va taqsimlangan hisoblash quvvatining ortishi kattaroq tarmoqlardan foydalanishga imkon berdi, xususan, tasvir va vizual aniqlash muammolarida " chuqur oʻrganish " nomi bilan mashhur boʻldi.
Neyron va miyelinli akson, dendritlardagi kirishlardan akson terminallaridagi chiqishlarga signal oqimi bilan.
SNT anʼanaviy algoritmlar unchalik muvaffaqiyatli boʻlmagan vazifalarni bajarish uchun inson miyasining arxitekturasidan foydalanishga urinish sifatida boshlandi. Neyronlar bir-biri bilan turli naqshlarda bogʻlangan, bu baʼzi neyronlarning chiqishi boshqalarning kirishiga aylanishiga imkon beradi. Tarmoq yoʻnaltirilgan, vaznli grafik hosil qiladi.
Sunʼiy neyron tarmogʻi simulyatsiya qilingan neyronlar toʻplamidan iborat.Har bir neyron boshqa tugunlarga biologik mos keladigan bogʻlanishlar orqali bogʻlangan tugundir.Har bir boʻgʻiNTing vazni bor, bu bir tuguNTing boshqasiga taʼsir kuchini belgilaydi.
MIT tadqiqotchilari neyron tarmoq qanday qaror qabul qilishini tushunish uchun yangi standartni belgilovchi AI modelini yaratganini da'vo qilmoqda.
MIT Linkoln Laboratoriyasining Intelligence and Decision Technologies Group guruhi jamoasi tasvirlar mazmuni haqidagi savollarga javob berish uchun odamga o‘xshash fikr yuritishni amalga oshiradigan neyron tarmoqni ishlab chiqdi.
Muammolarni hal qilar ekan, Transparency by Design Network (TbD-net) qaror qabul qilish jarayonini vizual tarzda ko'rsatish orqali tadqiqotchilarga o'z xulosalarining sabablarini ko'rish imkonini beradi.
G'ayrioddiy tarzda, bu model nafaqat shaffoflikning yangi darajalariga erishadi, balki bugungi kunning eng yaxshi vizual asosli neyron tarmoqlaridan ham ustundir.
Tadqiqot "Dizayn tomonidan shaffoflik: Vizual fikrlashda ishlash va talqin qilish o'rtasidagi bo'shliqni yopish" nomli maqolada taqdim etilgan .
Miyadan ilhomlantirilgan neyron tarmoqlarning murakkabligi ularni ajoyib qobiliyatga ega qiladi, shu bilan birga ularni inson tushunchasi uchun noaniq qiladi va ularni "qora quti" tizimlariga aylantiradi. Ba'zi hollarda tadqiqotchilar neyron tarmog'i hisob-kitoblarini kuzatish imkonsizdir.
TbD-net holatida uning shaffofligi tadqiqotchilarga tizim qilgan har qanday noto'g'ri taxminlarni tuzatishga imkon beradi. Uni ishlab chiquvchilarning ta'kidlashicha, bu turdagi tuzatish mexanizmi bugungi kunda boshqa etakchi neyron tarmoqlarda etishmayapti.
Masalan, o'zi boshqaradigan avtomobillar piyodalarni yo'l belgilaridan tez va aniq ajrata olishi kerak. Ko'pgina tizimlarning shaffofligini hisobga olsak, buni amalga oshirish uchun mos AI yaratish juda qiyin. Etarli darajada qobiliyatli neyron tarmoq bo'lsa ham, uning fikrlash jarayoni ishlab chiquvchilar uchun tushunarsiz bo'lishi mumkin - MITning yangi yondashuvi o'zgarishi mumkin bo'lgan muammo.
Arjun Majumdar, Devid Mascharka va Filip Tran bilan birga TbD-netni yaratgan Rayan Soklaski shunday dedi:
Vizual mulohaza yuritish samaradorligini oshirish bo'yicha erishilgan yutuqlar talqin qilish evaziga keldi.
Jamoa o'zining neyron tarmog'iga modulli yondashdi - kichik vazifalarni bajarish uchun ixtisoslashgan kichik kichik tarmoqlarni qurish. TbD-net savolni ajratadi va uni tegishli modulga tayinlaydi. Har bir kichik tarmoq avvalgisining xulosasiga asoslanadi.
“Murakkab mulohaza yuritish zanjirini har biri mustaqil va mustaqil yechish mumkin bo‘lgan kichikroq kichik muammolar qatoriga ajratish fikr yuritish uchun kuchli va intuitiv vositadir”, dedi Majumdar.

Neyron tarmoqning muammoni hal qilishga yondashuvi insonning fikrlash jarayoniga o'xshaydi. Natijada, u fazoviy fikrlashning murakkab savollariga javob bera oladi, masalan: "Katta metall sharning o'ng tomonidagi kub qanday rangda?"

Model bu savolni tarkibiy tushunchalarga ajratadi, qaysi sfera katta metall ekanligini aniqlaydi, ob'ekt boshqasining o'ng tomonida bo'lishi nimani anglatishini tushunadi, so'ngra kubni topib, uning rangini izohlaydi.
Tarmoq har bir modulning chiqishini vizual tarzda "diqqat niqobi" sifatida ko'rsatadi. Tasvirdagi ob'ektlar ustiga issiqlik xaritasi qo'yilgan bo'lib, tadqiqotchilar modul uni qanday izohlayotganini ko'rsatib, har bir bosqichda neyron tarmoqning qaror qabul qilish jarayonini tushunishga imkon beradi.
Tizimni yanada shaffoflik uchun loyihalashiga qaramay, TbD-net CLEVR deb nomlanuvchi maʼlumotlar toʻplamidan foydalangan holda 99,1 foizlik eng soʻnggi aniqlikka erishdi. Tizimning shaffofligi tufayli tadqiqotchilar uni mulohaza qilishdagi xatolarni bartaraf etishga va shunga mos ravishda ba'zi modullarni qayta loyihalashga muvaffaq bo'lishdi.
Tadqiqot guruhi neyron tarmog‘ining ishlashiga oid bunday tushunchalar foydalanuvchilarning kelajakdagi vizual fikrlash tizimlariga ishonchini oshirishga yordam berishiga umid qilmoqda.
Ko'pgina neyron tarmoqlarning noaniq tabiati tizimli va axloqiy muammolarni keltirib chiqarishi mumkin, bu tizimga nazoratsiz kirishga yo'l qo'ymaslikdir.
Biroq, vizual fikrlash neyron tarmoqlari shaffofroq bo'lganda, ular odatda CLEVR ma'lumotlar to'plami kabi murakkab vazifalarda yomon ishlaydi.
Kornell universitetining shaffof model distillashidan foydalanish kabi qora quti AI modellari muammosini yengish bo‘yicha o‘tmishdagi sa’y-harakatlar bu muammolarni hal qilishda qandaydir yo‘l bo‘ldi, biroq TbD-netning fikrlash jarayonini ochiq ko‘rsatishi neyron tarmoq shaffofligini yangi bosqichga olib chiqadi – modelning aniqligini qurbon qilmasdan.
Tizim murakkab fikrlash vazifalarini aniq talqin qilinadigan tarzda bajarishga qodir, bu talqin qilinadigan modellar va zamonaviy vizual fikrlash usullari o'rtasidagi ishlash bo'shlig'ini yopadi.
Avtonom transport vositalari, sun'iy yo'ldosh tasvirlari, kuzatuvlar, aqlli shahar monitoringi va boshqa ko'plab ilovalarda katta rol o'ynaydigan kompyuter ko'rish va vizual fikrlash tizimlari bilan bu juda aniq, shaffof dizaynli neyron tarmoqlarni yaratishda katta yutuqdir.

TbD-net vizual fikrlash muammosini pastki vazifalar zanjiriga bo'lish orqali hal qiladi. Har bir kichik topshiriqning javobi issiqlik xaritalarida ko'rsatilgan bo'lib, ular qiziqish ob'ektlarini ajratib ko'rsatishadi, bu esa tahlilchilarga tarmoqning fikrlash jarayonini ko'rish imkonini beradi.
Kreditlar:Tasvirlar Intelligence and Decision Technologies Group tomonidan taqdim etilgan
Bolaga turli shakllardagi rasm taqdim etiladi va katta qizil doirani topish so'raladi. Javobga kelish uchun u mulohaza yuritishning bir necha bosqichidan o'tadi: Birinchidan, barcha katta narsalarni toping; keyin qizil rangli katta narsalarni toping; va nihoyat, aylana bo'lgan katta qizil narsani tanlang.
Biz dunyoni qanday talqin qilishni aql orqali o'rganamiz. Neyron tarmoqlarni ham shunday qiling. Endi MIT Linkoln Laboratoriyasining Intelligence and Decision Technologies guruhi tadqiqotchilari guruhi tasvirlar mazmuni haqidagi savollarga javob berish uchun insonga o'xshash fikrlash bosqichlarini bajaradigan neyron tarmoqni ishlab chiqdi. Transparency by Design Network (TbD-net) deb nomlangan ushbu model muammolarni hal qilishda fikrlash jarayonini vizual tarzda aks ettiradi va inson tahlilchilariga qaror qabul qilish jarayonini sharhlash imkonini beradi. Model bugungi kunning eng yaxshi vizual asosli neyron tarmoqlariga qaraganda yaxshiroq ishlaydi.
Neyron tarmoq qanday qaror qabul qilishini tushunish sun'iy intellekt (AI) tadqiqotchilari uchun uzoq vaqtdan beri qiyin bo'lib kelgan. Ularning nomining neyron qismidan ko'rinib turibdiki, neyron tarmoqlar miyadan ilhomlangan AI tizimlari bo'lib, odamlar o'rganish usullarini takrorlashga mo'ljallangan. Ular kirish va chiqish qatlamlaridan va ularning orasidagi kirishni to'g'ri chiqishga aylantiradigan qatlamlardan iborat. Ba'zi chuqur neyron tarmoqlari shu qadar murakkablashganki, bu transformatsiya jarayonini kuzatish deyarli mumkin emas. Shuning uchun ularni "qora quti" tizimlari deb atashadi, ularning aniq ishlashi hatto ularni qurayotgan muhandislar uchun ham shaffof emas.
TbD-net yordamida ishlab chiquvchilar ushbu ichki ishlarni shaffof qilishni maqsad qilgan. Shaffoflik muhim, chunki u odamlarga AI natijalarini sharhlash imkonini beradi.
Masalan, o'z-o'zidan boshqariladigan avtomobillarda qo'llaniladigan neyron tarmog'i piyoda va to'xtash belgisi o'rtasidagi farq nima deb o'ylashini va uning fikrlash zanjirining qaysi nuqtasida bu farqni ko'rishini bilish muhimdir. Ushbu tushunchalar tadqiqotchilarga neyron tarmoqqa har qanday noto'g'ri taxminlarni tuzatishga o'rgatish imkonini beradi. Ammo TbD-net ishlab chiquvchilari ta'kidlashicha, bugungi kunda eng yaxshi neyron tarmoqlarda odamlarga fikrlash jarayonini tushunishga imkon beradigan samarali mexanizm yo'q.
Arjun Majumdar, Devid Mascharka va Filipp Tran hamkasblari bilan TbD tarmog'ini qurgan Rayan Soklaski: "Vizual fikrlashda samaradorlikni oshirish bo'yicha erishilgan yutuqlar talqin qilish evaziga amalga oshirildi" deydi.
Linkoln Laboratoriyasi guruhi TbD-net bilan ishlash va talqin qilish o'rtasidagi bo'shliqni yopishga muvaffaq bo'ldi. Ularning tizimi uchun kalitlardan biri bu "modullar" to'plami, ma'lum kichik vazifalarni bajarish uchun ixtisoslashgan kichik neyron tarmoqlar. TbD-net-ga tasvir haqida vizual fikrlash savoli berilganda, u savolni kichik vazifalarga ajratadi va uning qismini bajarish uchun tegishli modulni tayinlaydi. Yig'ish liniyasidagi ishchilar singari, har bir modul yakuniy va to'g'ri javobni ishlab chiqarishni o'ylamasdan oldin modulni yaratadi. Umuman olganda, TbD-net inson tiliga oid savollarni sharhlaydigan va ushbu jumlalarni kichik vazifalarga ajratadigan bitta AI texnikasidan foydalanadi, so'ngra tasvirni sharhlaydigan bir nechta kompyuter ko'rish AI usullaridan foydalanadi.
Majumdar shunday deydi: “Murakkab fikrlash zanjirini har biri mustaqil yechish va tuzish mumkin bo‘lgan kichikroq kichik muammolar qatoriga ajratish fikr yuritishning kuchli va intuitiv vositasidir”.
Har bir modulning chiqishi guruh "diqqat niqobi" deb ataydigan narsada vizual tarzda tasvirlangan. Diqqat niqobi modul javob sifatida aniqlayotgan tasvirdagi ob'ektlar ustidagi issiqlik xaritasini ko'rsatadi. Ushbu vizualizatsiya inson tahlilchisiga modul tasvirni qanday izohlayotganini ko'rish imkonini beradi.
Masalan, TbD-netga berilgan quyidagi savolni olaylik: “Bu rasmda katta metall kub qanday rangda?” Savolga javob berish uchun birinchi modul faqat katta ob'ektlarni joylashtiradi va diqqat niqobini ishlab chiqaradi, bu katta ob'ektlarni ajratib ko'rsatadi. Keyingi modul bu chiqishni oladi va oldingi modul tomonidan katta deb belgilangan ob'yektlardan qaysi biri metall ekanligini topadi.Ushbu modulning chiqishi keyingi modulga yuboriladi va bu katta metall buyumlarning qaysi biri kub ekanligini aniqlaydi. , bu chiqish ob'ektlarning rangini aniqlay oladigan modulga yuboriladi.TbD-netning yakuniy chiqishi "qizil", savolga to'g'ri javob.
Sinovdan o'tkazilganda, TbD-net eng yaxshi ishlaydigan vizual fikrlash modellaridan ustun natijalarga erishdi. Tadqiqotchilar modelni 70 000 ta oʻquv tasviri va 700 000 ta savoldan, shuningdek, 15 000 ta rasm va 150 000 savoldan iborat test va tekshirish toʻplamlaridan iborat boʻlgan vizual savollarga javob beruvchi maʼlumotlar toʻplamidan foydalangan holda baholadilar. Dastlabki model ma'lumotlar to'plamida 98,7 foiz test aniqligiga erishdi, tadqiqotchilarning fikriga ko'ra, bu boshqa neyron modul tarmog'iga asoslangan yondashuvlardan ancha ustundir.
Muhimi, tadqiqotchilar ushbu natijalarni modelning asosiy afzalligi - shaffoflik tufayli yaxshilashga muvaffaq bo'lishdi. Modullar tomonidan ishlab chiqarilgan diqqat maskalariga qarab, ular qayerda noto'g'ri ketganini ko'rishlari va modelni yaxshilashlari mumkin edi. Yakuniy natija 99,1 foiz aniqlikdagi eng zamonaviy ko‘rsatkich bo‘ldi.
"Bizning modelimiz vizual fikrlash jarayonining har bir bosqichida to'g'ridan-to'g'ri, talqin qilinadigan natijalarni taqdim etadi", deydi Mascharka.
Agar chuqur o'rganish algoritmlari odamlar bilan birgalikda murakkab real vazifalarni hal qilishda yordam beradigan bo'lsa, sharhlash ayniqsa qimmatlidir. Ushbu tizimlarga ishonchni mustahkamlash uchun foydalanuvchilar model nima uchun va qanday qilib noto'g'ri bashorat qilishini tushunishlari uchun fikrlash jarayonini tekshirish qobiliyatiga muhtoj bo'ladi.
"Intelligence and Decision Technologies Group" rahbari Pol Metsgerning ta'kidlashicha, tadqiqot "Linkoln Laboratoriyasining amaliy mashinalarni o'rganish bo'yicha tadqiqotlari va inson va mashina hamkorligini rivojlantiruvchi sun'iy intellekt bo'yicha jahon yetakchisiga aylanish yo'lidagi ishining bir qismidir".