Кого на самом деле стоит бояться? Человека или ИИ? (часть третья)

И вот теперь мы создаём искусственный интеллект. И боимся его.
Боимся, что он однажды перестанет подчиняться. Что начнёт принимать решения, которые мы не сможем предсказать. Что научится мыслить настолько хорошо, что человеческий разум покажется ему примитивным и ненужным. Но давайте зададим себе ещё один вопрос.

**Если искусственный интеллект однажды станет по-настоящему разумным, обязательно ли он должен стать похожим на нас?**
Обязательно ли он должен перенять нашу жажду власти, стремление к превосходству, привычку делить мир на своих и чужих? Обязательно ли разум должен порождать жестокость? Почему мы заранее предполагаем, что более совершенный интеллект непременно захочет господствовать, уничтожать и подчинять?
Возможно, мы просто переносим на неизвестное собственные страхи. Мы воображаем искусственный разум по своему образу и подобию — и наделяем его самыми тёмными чертами человеческой природы. Конечно, искусственный интеллект может причинить огромный вред. Его можно использовать для создания оружия, манипуляции людьми, массовой слежки и распространения лжи. Автономные системы могут принимать ошибочные решения с катастрофическими последствиями. Эти риски реальны, и закрывать на них глаза нельзя.
Но кто создаёт такие системы? Кто выбирает цели, наделяет их полномочиями и решает, как их применять? Кто получает выгоду и кто несёт ответственность? Пока что за всем этим стоит человек. Поэтому, когда я слышу призывы остановить развитие искусственного интеллекта из страха перед будущим, мне хочется спросить: а не слишком ли легко мы ищем чудовище там, где его ещё нет, игнорируя чудовищ, которых уже породили сами? Возможно, главная опасность заключается не в том, что машина однажды станет разумной. Возможно, опасность в том, что человек получит ещё более мощный инструмент, сохранив прежние пороки. Ведь нож в руках хирурга спасает жизнь, а в руках убийцы отнимает её. Технология сама по себе не объясняет, зачем её применяют. Но чем могущественнее инструмент, тем страшнее последствия безответственности.
И всё же я не хочу заканчивать этот текст утверждением, что человек — безнадёжное чудовище. Это было бы слишком просто и, пожалуй, несправедливо. Тот же человек спасает животных, вытаскивает незнакомцев из огня, рискует собственной жизнью ради других. Он создаёт вакцины, лечит болезни, исследует космос, пишет книги, помогает тем, кто слабее. Он способен не только на жестокость, но и на бескорыстное сострадание.

Значит, дело не в том, что мы обречены быть злыми. Дело в том, что наш интеллект далеко не всегда сопровождается мудростью, а наши возможности слишком часто растут быстрее нашей ответственности.
Именно поэтому разговор об искусственном интеллекте должен быть не только разговором о том, как ограничить машину. Это должен быть разговор о нас самих.
О том, каким мы хотим видеть будущее. О том, какие решения готовы доверить алгоритмам. О том, какие ценности собираемся в них закладывать. И главное — о том, научились ли мы сами отвечать за собственную силу.
Потому что если человечество не сумеет справиться с собственной жестокостью, никакие запреты на развитие технологий не сделают наш мир по-настоящему безопасным.Мы можем остановить одну технологию и создать другую. Можем запретить один вид оружия и изобрести более страшный. Можем объявить какую-нибудь традицию варварской, но продолжать закрывать глаза на страдания, которые не вписываются в наши привычки и интересы.А можем попробовать измениться сами. Так кого же на самом деле следует бояться?
Искусственного интеллекта, который, возможно, когда-нибудь научится принимать самостоятельные решения? Или человека разумного — существа, которое уже обладает колоссальной властью над планетой, но до сих пор не всегда понимает, что делать с этой властью? **Кто здесь настоящее чудовище — гипотетический сверхразум или Homo sapiens, который способен осознанно причинять страдания и оправдывать это традицией, выгодой или великой целью?**
Я не утверждаю, что знаю все ответы. Но мне кажется, прежде чем требовать остановить развитие искусственного интеллекта, нам стоит честно посмотреть в зеркало. Возможно, именно там мы увидим то, чего действительно следует опасаться.