Четвертая промышленная революция

врезку
H
).
Врезка H. На грани этически допустимого
Технологические достижения подвели нас к новым этическим
границам. Должны ли мы использовать ошеломляющие достижения в
61
Стивен Хокинг, Стюарт Расселл, Макс Тегмарк, Френк Вилчек
, «Стивен Хокинг: «Превосходство» рассматри-
вает последствия искусственного интеллекта – но достаточно ли серьезно мы воспринимаем искусственный интел-
лект?», 
The Independent,
2 мая 2014 г. http://www.independent.co.uk/news/science/stephen-hawking— transcendence-looks-at-
the-implications-of-artifcial-intelligence-but-are-we – taking-9313474.html
62
Грег Брокман, Илья Суцкевер
и группа OpenAI, «Представляем OpenAI», 11 декабря 2015 г. https://openai.com/blog/
introducing-openai/
63
Стивен Леви
, «Как Элон Маск и Y Combinator планируют остановить восстание компьютеров»,
11 декабря 2015 г. https://medium.com/backchannel/how-elon-musk-and-y-combinator-plan-to-stop-computers-from-taking-
over-17e0e27dd02a#.qjj55npcj

---

К. Шваб. «Четвертая промышленная революция»
80
области биологии только для лечения болезней и устранения последствий
травм, или нам стоит также заняться усовершенствованием человека?
Если мы примем второй вариант, то рискуем превратить родительство
в еще одно проявление общества потребления, и в этом случае наши дети
могут превратиться в товар, сделанный на заказ по нашим пожеланиям. А
что значит «быть лучше»? Быть свободным от болезней? Жить дольше? Быть
умнее? Бегать быстрее? Иметь определенную внешность?
Такие же сложные, подводящие нас к границам допустимого вопросы
встают перед нами в отношении искусственного интеллекта. Задумайтесь о
возможности того, что машины будут думать быстрее нас или даже успешнее
нас. У Amazon и Netfix уже есть алгоритмы, позволяющие предсказывать,
какие фильмы и книги мы можем захотеть посмотреть и почитать. Сайты
знакомств и сайты для поиска работы предлагают нам возможных партнеров
или рабочие места в нашем районе или в любых регионах мира, которые
с точки зрения этих систем будут наиболее для нас подходящими. Что
же делаем мы? Станем ли мы доверять рекомендациям, которые даст нам
некий алгоритм, или советам членов нашей семьи, друзей или коллег?
Будем ли мы обращаться за помощью к доктору-роботу, снабженному
искусственным интеллектом, чьи диагнозы отличает идеальная или почти
идеальная точность, или продолжим приходить к врачу-человеку, умеющему
своим поведением успокоить пациента, врачу, который знает нас уже много
лет?
Когда мы рассматриваем эти примеры и их последствия для человека,
то вступаем на неизведанную территорию, наблюдаем зарю преобразования
человека, которое не похоже ни на что из того, что человечество переживало
прежде.
Другой важнейшей проблемой является потенциал предсказания
будущего, которым обладает искусственный интеллект и устройства,
снабженные функциями самообучения. Если наше собственное поведение в
любой ситуации становится предсказуемым, то сколько личной свободы у
нас останется, и не будем ли мы чувствовать, что должны действовать так,
чтобы прогноз не оправдался? Может ли такой процесс развития привести
к ситуации, когда сами люди начнут действовать, как роботы? Это также
подводит нас к более философскому вопросу: как нам сохранить свою
индивидуальность, на основе которой становятся возможными демократия
и разнообразие людей, в цифровую эпоху?