Sun'iy intellektning mudofaadagi o'rni

Xavflar

Rivojlanishlar bilan bir qatorda, bu tasavvur qilingan AI tizimlari qanchalik halokatli bo'lishi mumkinligi haqida tashvish ortib bormoqda.
Odamlar so'yish usullarida o'zlarini juda yaxshi isbotladilar, ammo bu afsonaviy robotlar bema'ni ishlaydi va odamlar boshqaruvni yo'qotadi, degan xavotirlar kuchaymoqda. Bu sharhlovchilar, tadqiqotchilar va potentsial ishlab chiqaruvchilarning asosiy tashvishidir.
Ammo sun'iy intellekt tizimi g'azablanmaydi, dushmaniga nafratlanmaydi yoki agar uning sun'iy intellekt bo'yicha o'rtoqlari yo'q qilingan bo'lsa, uni mahalliy aholidan tortib olishga qaror qilmaydi. Uning dasturiy ta'minotiga Qurolli mojaro qonunlari o'rnatilgan bo'lishi mumkin.
Eng murakkab va talabchan muhit bu shahar janglari bo'lib, u erda yaqin kelajakdagi urushlar tobora kuchayib boradi. Shaharlardagi mojarolar ko'pchilik odamlarni engib o'tishi mumkin va dunyoga juda tor nuqtai nazarga ega bo'lgan mashina uni boshqarishga qodir bo'lishi shubhali, u erda jiddiy xatolarga yo'l qo'ymasdan jang qilish va g'alaba qozonish mumkin.
Erkak Xitoydagi ko'rgazmada sun'iy intellekt echimlari ishlab chiqaruvchisi do'konida inson harakatini tahlil qilish dasturining namoyishiga qaramoqda [Fayl: Reuters]
Ular hozir mavjud bo'lmasa-da, "qotil robotlar" ko'pchilikni tashvishga solib qo'yishda davom etmoqda va axloq kodeksi allaqachon ishlab chiqilmoqda. Robot jangchi haqiqatan ham qurolli to'qnashuv qonunlarini tushuna oladimi va qo'llay oladimi? U do'stni dushmandan ajrata oladimi va agar shunday bo'lsa, uning munosabati qanday bo'ladi? Bu, ayniqsa, militsiyalarga, shunga o'xshash jihozlardan foydalanadigan qarama-qarshi tomonlarning askarlariga, odatda aniq kiyim kiymaydigan jangchilarga va jangovar bo'lmaganlarga tegishli.
Xavotir shunchalik yuqoriki, Human Rights Watch tashkiloti halokatli qarorlar qabul qilishga qodir bo'lgan to'liq avtonom AI bo'linmalarini taqiqlashga chaqirib, minalar va kimyoviy va biologik qurollarga o'xshab taqiqlashga chaqirdi.
Yana bir asosiy tashvish shundaki, mashinani inson tomonidan amalga oshirilmaydigan tarzda buzish mumkin. Bu bir daqiqa siz bilan birga jang qilishi mumkin, lekin keyin sizga yoqadi. Inson bo'linmalari ilgari qo'zg'olon ko'targan va o'zaro ittifoqchilikni o'zgartirgan, ammo tugmachani bosish bilan butun armiya yoki flotni ularga qarshi aylantirish harbiy rejalashtirishchilar uchun dahshatli imkoniyatdir. Va dasturiy ta'minot noto'g'ri ketishi mumkin. Zamonaviy fuqarolik hayotida keng tarqalgan ibora "kechirasiz, tizim ishlamayapti"; Tasavvur qiling, bu jangda qatnashayotgan qurolli mashinalarga tegishli.
Ehtimol, eng qiziq narsa bu sun'iy intellektning zararli dasturidan foydalanishdir. 10 yildan ko'proq vaqt oldin dunyodagi eng mashhur kiber-qurol Stuxnet o'zini Eronda uranni qayta ishlaydigan sentrifugalarning aylanishini boshqaruvchi dasturiy ta'minotga kiritishga harakat qildi. O'zini yashirishga qodir bo'lib, u o'z izlarini yashirdi va sentrifugalarning nazoratdan chiqib ketishiga va yo'q qilinishiga olib keladigan hujum uchun ma'lum bir kod qismini qidirdi. Garchi o'sha paytda juda murakkab bo'lsa-da, hozir mavjud bo'lgan va mojaro paytida qo'llanilishi mumkin bo'lgan narsalar bilan taqqoslanmaydi.
Vashingtondagi Pentagonning havodan surati; AQSh harbiylari urushda sun'iy intellektdan foydalanishni kengaytirmoqchi [Fayl: AP]