Sun'iy intellektning mudofaadagi o'rni

Harbiy ilovalar uchun sun'iy intellektning kamchiliklari
Harbiylar sun'iy intellektning ushbu vazifalardagi muvaffaqiyatini o'z tizimlariga kiritmoqchi ekan, ba'zi qiyinchiliklarni tan olish kerak. Birinchisi, ishlab chiquvchilar ma'lumotlarga kirishlari kerak. Ko'pgina sun'iy intellekt tizimlari ba'zi ekspert tizimi tomonidan belgilangan ma'lumotlardan (masalan, havo mudofaa batareyasini o'z ichiga olgan yorliqlash sahnalari), odatda odamdan foydalangan holda o'qitiladi. Katta ma'lumotlar to'plamlari odatda qo'lda usullarni qo'llaydigan kompaniyalar tomonidan belgilanadi. Ushbu ma'lumotlarni olish va ularni almashish, ayniqsa ma'lumotlarni tasniflashni va unga kirishni cheklashni afzal ko'rgan tashkilot uchun qiyin. Harbiy ma'lumotlar to'plamiga misol sifatida termal tasvirlash tizimlari tomonidan ishlab chiqarilgan va agar mavjud bo'lsa, tasvirda topilgan qurol tizimlarini tavsiflash uchun mutaxassislar tomonidan etiketlangan tasvirlar bo'lishi mumkin. Buni dastlabki protsessorlar va ishlab chiquvchilar bilan baham ko'rmasdan, ushbu to'plamdan samarali foydalanadigan AI yaratib bo'lmaydi. AI tizimlari, shuningdek, juda katta (va shuning uchun sekin) bo'lishga zaif va shuning uchun "o'lchov muammolari" ga moyil. Misol uchun, mavjud bo'lgan har qanday qurol tizimining tasvirlarini tanib olish tizimini o'rgatish minglab toifalarni o'z ichiga oladi. Bunday tizimlar katta hajmdagi hisoblash quvvatini va bu resurslarga ko'p ajratilgan vaqtni talab qiladi. Va biz model tayyorlayotganimiz uchun, eng yaxshi model to'liq aniq bo'lishi uchun bu tasvirlarning cheksiz miqdorini talab qiladi. Bu biz erisha olmaydigan narsa. Bundan tashqari, biz ushbu AI tizimlarini o'rgatganimizda, biz ko'pincha ularni grammatika qoidalari kabi "inson" qoidalariga rioya qilishga majburlashga harakat qilamiz. Biroq, odamlar ko'pincha bu qoidalarni e'tiborsiz qoldiradilar, bu esa hissiyotlarni tahlil qilish va nutqni aniqlash kabi narsalar uchun muvaffaqiyatli AI tizimlarini ishlab chiqishni qiyinlashtiradi. Nihoyat, AI tizimlari bahssiz, boshqariladigan domenlarda yaxshi ishlashi mumkin. Biroq, tadqiqotlar buni ko'rsatmoqda Bu hissiyotlarni tahlil qilish va nutqni aniqlash kabi narsalar uchun muvaffaqiyatli AI tizimlarini ishlab chiqishni qiyinlashtiradi. Nihoyat, AI tizimlari bahssiz, boshqariladigan domenlarda yaxshi ishlashi mumkin. Biroq, tadqiqotlar buni ko'rsatmoqda Bu hissiyotlarni tahlil qilish va nutqni aniqlash kabi narsalar uchun muvaffaqiyatli AI tizimlarini ishlab chiqishni qiyinlashtiradi. Nihoyat, AI tizimlari bahssiz, boshqariladigan domenlarda yaxshi ishlashi mumkin. Biroq, tadqiqotlar buni ko'rsatmoqdaqarama- qarshi sharoitlarda AI tizimlari osongina aldanib qolishi mumkin , bu esa xatolarga olib keladi. Albatta, ko'plab DoD AI ilovalari kiberdomen kabi bahsli joylarda ishlaydi va shuning uchun biz ularning natijalaridan ehtiyot bo'lishimiz kerak.
Dushmanning biz foydalanishi mumkin bo'lgan sun'iy intellekt tizimlarini mag'lub etishga bo'lgan urinishlariga e'tibor bermasdan, bu super-insoniy ko'rinadigan modellarda cheklovlar mavjud. AIning tasvirni qayta ishlash qobiliyati uning o'quv majmuasidan farqli tasvirlar berilganda unchalik mustahkam emas , masalan, yorug'lik sharoitlari yomon, to'liq burchak ostida joylashgan yoki qisman xiralashgan tasvirlar . Agar ushbu turdagi tasvirlar o'quv majmuasida bo'lmasa, model tarkibni aniq aniqlashda qiynalishi (yoki muvaffaqiyatsiz bo'lishi) mumkin. Axborot-operatsion missiyalarimizga yordam berishi mumkin bo'lgan chat botlari yuzlab so'zlar bilan cheklangan va shuning uchun odamni to'liq almashtira olmaydi.kim bir vaqtning o'zida sahifalarni yozishi mumkin. IBM ning Watson ob-havoni bashorat qilish vositasi kabi bashorat qilish tizimlari modellashtirishga harakat qilayotgan tizimlarning murakkabligi tufayli o'lchamlilik muammolari va kirish ma'lumotlarining mavjudligi bilan kurashadi. Tadqiqotlar ushbu muammolarning ba'zilarini hal qilishi mumkin, ammo ulardan bir nechtasi bashorat qilingan yoki xohlagancha tez hal qilinadi.
AI tizimlarining yana bir oddiy zaif tomoni shundaki, ularning ko'p vazifalarni bajarishga qodir emasligi. Inson dushman mashinasini aniqlashga, unga qarshi qurol tizimini tanlashga, uning yo'lini bashorat qilishga va keyin nishonni nishonga olishga qodir. Bu juda oddiy vazifalar to'plamini hozirda AI tizimi bajarishi mumkin emas. Eng yaxshi holatda, AIlarning kombinatsiyasi alohida modellarga individual topshiriqlar berilgan joyda tuzilishi mumkin. Bunday yechim, hatto imkoni bo'lsa ham, tizimni o'qitish va sinovdan o'tkazish haqida gapirmasa ham, sezish va hisoblash quvvati uchun katta xarajatlarni talab qiladi. Ko'pgina sun'iy intellekt tizimlari o'z ta'limini bir xil domenga o'tkazishga qodir emas. Masalan, T-90 tankini aniqlashga o'rgatilgan tizim Xitoyning 99-toifa tankini aniqlay olmaydi, garchi ular ikkala tank va ikkala vazifa ham tasvirni aniqlash bo'lsa ham.tizimlar o'z ta'limini uzatish imkonini berish uchun ishlamoqda , ammo bunday tizimlar ishlab chiqarishdan yillar uzoqda.
Sun'iy intellekt tizimlari, shuningdek, kirishlar ichidagi kirishlar va kontekstni tushunishda juda zaif. AIni aniqlash tizimlari tasvir nima ekanligini tushunmaydi, ular shunchaki tasvir piksellarining teksturalari va gradientlarini o'rganadilar. Xuddi shu gradientli sahnalarni hisobga olgan holda, AIlar rasmning qismlarini noto'g'ri aniqlaydi. Ushbu tushunchaning etishmasligi odamlar o'tkazmaydigan noto'g'ri tasniflarga olib kelishi mumkin, masalan, ko'ldagi qayiqni BMP sifatida aniqlash.
Bu ushbu tizimlarning yana bir zaifligiga olib keladi - ular qanday qaror qabul qilganini tushuntirib bera olmaslik. AI tizimida sodir bo'ladigan narsalarning aksariyati qora quti bo'lib, tizim o'z qarorlarini qanday qabul qilishini tushunish uchun odam juda kam narsa qila oladi. Bu majburiyat to'g'risida qarorlar qabul qiladigan yoki natijalari muhim qarorlarni qabul qilish jarayonlarida ishlatilishi mumkin bo'lgan yuqori xavfli tizimlar uchun juda muhim muammodir. Tizimni tekshirish va uning nima uchun xatoga yo'l qo'yganligini bilish qobiliyati huquqiy va ma'naviy jihatdan muhimdir. Bundan tashqari, sun'iy intellekt ishtirok etgan hollarda javobgarlikni qanday baholashimiz bilan bog'liq masalalar ochiq tadqiqot muammolaridir. Yaqinda yangiliklarda AI tizimlari kreditni tasdiqlash va shartli ravishda ozod qilish kabi sohalarda yashirin noto'g'ri qarorlar qabul qilishiga oid ko'plab misollar bor.. Afsuski, tushunarli AI ustida ishlash ko'p yillar davomida o'z mevasini beradi.
AI tizimlari, shuningdek, korrelyatsiya va sabab o'rtasidagi farqni ajratish uchun kurashadi. Farqni ko'rsatish uchun tez-tez ishlatiladigan mash'um misol - bu cho'kib ketish o'limi va muzqaymoq savdosi o'rtasidagi bog'liqlik. Ushbu ikki element haqidagi statistik ma'lumotlar bilan ta'minlangan AI tizimi ikkala naqsh faqat o'zaro bog'liqligini bilmaydi, chunki ikkalasi ham issiq ob-havo funktsiyasidir va cho'kib ketishdan o'limning oldini olish uchun muzqaymoq savdosini cheklash kerak degan xulosaga kelishi mumkin. Ushbu turdagi muammo har oyda xaridlar to'g'risidagi ma'lumotlar bilan ta'minlangan firibgarlikning oldini olish tizimida o'zini namoyon qilishi mumkin. Bunday tizim noto'g'ri xulosaga kelishi mumkinki, sentabr oyida firibgarlik ko'payadi, chunki xarajatlar ko'payadi, lekin bu yil oxiridagi xarajat odatlarining funktsiyasidir.
Ushbu AI zaif tomonlari bo'lmasa ham, hozirda harbiylar bilan shug'ullanishi kerak bo'lgan asosiy soha - bu raqib hujumlari. Potensial raqiblar biz foydalanadigan har qanday AI tizimlarini aldashga yoki buzishga harakat qiladi deb taxmin qilishimiz kerak. Tasvirni aniqlash dvigatellari va sensorlarini aldashga urinishlar amalga oshiriladi; kiberhujumlar hujumni aniqlash tizimlaridan qochishga harakat qiladi ; va logistika tizimlari ta'minot liniyalarini noto'g'ri talablar bilan yopish uchun o'zgartirilgan ma'lumotlar bilan oziqlanadi.
Qarama-qarshi hujumlarni to'rt toifaga bo'lish mumkin : qochish, xulosa chiqarish, zaharlanish va ekstraktsiya. Ushbu turdagi hujumlarni amalga oshirish oson va ko'pincha hisoblash ko'nikmalarini talab qilmasligi ko'rsatilgan. Qochish hujumlari ko'pincha aniqlanmaslik, masalan, kiberhujumni yashirish yoki sensorni tank maktab avtobusi ekanligiga ishontirish umidida AI dvigatelini aldashga harakat qiladi. Kelajakda omon qolishning asosiy qobiliyati AI sensorlaridan yashirinish qobiliyati bo'lishi mumkin. Natijada, harbiylar sun'iy intellekt tizimlarini yengish uchun yangi turdagi sun'iy intellekt kamuflyajini ishlab chiqishlari kerak bo'lishi mumkin, chunki strategik lentani joylashtirish kabi oddiy chalkashlik usullari ko'rsatilgan.AIni aldashi mumkin. Qochish hujumlari ko'pincha AI tizimi haqida ma'lumotga ega bo'lgan, qochish hujumlarini yoqish uchun ishlatilishi mumkin bo'lgan xulosalar hujumlari bilan davom ettiriladi. Zaharli hujumlar o'zlarining zararli niyatlariga erishish uchun mashg'ulot paytida AI tizimlariga qaratilgan. Bu erda tahdid bizning vositalarimizni o'rgatish uchun ishlatiladigan ma'lumotlar to'plamiga dushmanning kirishi bo'ladi. Maqsadli tizimlarni aldash uchun noto‘g‘ri yorliqlangan transport vositalari tasvirlari yoki tizimning tez orada yuzaga kelishi mumkin bo‘lgan nosozlikni normal ish sifatida tasniflash uchun mo‘ljallangan manipulyatsiya qilingan texnik ma’lumotlar kiritilishi mumkin. Ta'minot zanjirlarimizning zaif tomonlarini hisobga olsak, buni tasavvur qilib bo'lmaydi va uni aniqlash qiyin bo'ladi. Ekstraksiya hujumlari tizimning parallel modelini yaratish uchun sun'iy intellektning ishlashi haqida yetarlicha ma'lumot olish uchun AI interfeysiga kirishdan foydalanadi. Agar bizning AIlarimiz ruxsatsiz foydalanuvchilardan himoyalanmagan bo'lsa, keyin o'sha foydalanuvchilar bizning tizimlarimiz tomonidan qabul qilingan qarorlarni bashorat qilishlari va bu bashoratlardan o'z manfaati uchun foydalanishlari mumkin edi. Raqibning sun'iy intellekt tomonidan boshqariladigan uchuvchisiz tizim ma'lum vizual va elektromagnit stimullarga qanday javob berishini va shu tariqa uning yo'nalishi va xatti-harakatlariga ta'sir qilishini taxmin qilishini tasavvur qilish mumkin.