Кого на самом деле стоит бояться? Человека или ИИ? (часть вторая)

А теперь представьте белый лёд.

На нём — крошечные детёныши тюленей. Их мех почти сливается со снегом, и издалека кажется, будто на ледяной поверхности рассыпаны мягкие белые комочки. Они ещё принадлежат миру, в котором всё должно быть просто: холод, молоко матери, дыхание моря, первые движения по льду. Но над этим беззащитным миром появляется человек.
В старых кадрах промысла белоснежный лёд кажется чистым листом, на котором ещё ничего не произошло. Потом на него выходят охотники. В руках — орудия, предназначенные не для спасения и не для защиты, а для убийства. Детёныши, которые не могут ни убежать достаточно быстро, ни защититься, становятся добычей.
И белый цвет исчезает. На снегу расплываются алые пятна. Сначала отдельные, будто кто-то бросил на лёд лепестки красных цветов. Затем пятна множатся, соединяются, растекаются по поверхности. Белое пространство покрывается красными отметинами, словно на ледяном поле за одну ночь расцвёл сад, выращенный не весной, а смертью.
Только это не цветы. Не живое украшение зимнего пейзажа. Это кровь.
В этом образе есть что-то почти невыносимое: сама природа создала совершенную гармонию — белый мех, прозрачный лёд, холодный воздух, бескрайний горизонт. И человек пришёл, чтобы превратить её в картину насилия.

Можно спорить о промысле, экономике, истории и законах. Но невозможно сделать вид, будто перед нами всего лишь нейтральное взаимодействие человека с природой. Перед нами живое существо, которое страдает, и человек, обладающий властью прекратить это страдание — или причинить его. И самое страшное здесь даже не кровь. Самое страшное — то, как быстро к ней можно привыкнуть.
Как легко алое пятно на белом льду становится для кого-то обычной частью рабочего дня. Как чужая агония перестаёт быть событием и превращается в процедуру. Как человеческий разум, способный создавать музыку, философию и космические корабли, одновременно находит объяснения тому, почему беззащитное существо должно умереть.

И это мы называем разумом? Но дело ведь не только в охоте.
Мы создали войны, в которых люди уничтожают целые города вместе с теми, кто никогда не держал в руках оружия. Мы придумали способы убивать миллионы себе подобных на расстоянии, нажатием кнопки. Мы научились превращать человеческую жизнь в статистику, а чужую боль — в приемлемую цену за политические амбиции, территории, ресурсы и власть.
Мы вырубаем леса, загрязняем океаны, разрушаем места обитания других видов, а потом с удивлением обнаруживаем, что природа не бесконечна.
И всё это делает не искусственный интеллект. Это делаем мы.
**Homo sapiens. Человек разумный.** Какое ироничное название.
Мы называем себя разумными, потому что умеем рассуждать, изобретать и строить сложные системы. Но означает ли способность найти эффективный способ уничтожения способность понять, следует ли вообще уничтожать? Означает ли высокий интеллект нравственность? Способность просчитать последствия — то же самое, что желание их учитывать?
Можно ли назвать разумным существо, которое понимает, что причиняет боль, но продолжает это делать, потому что ему так выгоднее, удобнее или привычнее?