2120. Ловушка для AI

– Очень плохо! К примеру, вождение – это искусство, требующее определенной подготовки, знаний и опыта. Автомобиль необходимо чувствовать, ощущать, как бьется его железное сердце, слышать его радости и боли, слиться с ним, сделать его своим продолжением, а не быть его бесполезным придатком. Это тоже своего рода радость – радость ощущения некоей малой победы над природой, которая не даровала человеку возможность быстрого передвижения. Но вождение и большая ответственность: за пассажиров, которые находятся рядом с тобой, за других людей. Ответственность помогает человеку осмыслить себя, свое поведение, воспитывает самоконтроль. Безответственность и безнаказанность, наоборот, ведет к наплевательскому отношению к окружающим, человек ощущает ложное превосходство над другими – это плохо.

– Бесспорно. Но, предположим, что плохого в том, что экскаватор сам выкопает траншею, без человека? Ведь искусственный интеллект справится с этой задачей не хуже человека? А, возможно, и лучше.

– А что в таком случае делать человеку? Чахнуть от безделья, увлекая себя всякими примитивными глупостями, теряя навыки и превращаясь в немощного младенца, который без мудрого родителя шагу ступить не сможет? Это, простите, уже не помощь, а пособничество вырождению человека как разумного вида. Если так дело пойдет и дальше, то мы скоро вновь будем прыгать по веткам, гукать и ждать, когда смышленая машина протянет нам банан, лишь мы нажмем кнопку. А если вдруг машина разладится? Или кнопку заест? Нет, человек должен быть сам хозяином своей жизни, только он и никто другой! Да, и что касается этических вопросов: я просто убежден, что их решение нельзя передоверять машине, даже такой мудрой, заботливой и правильной, как вы. Судить и решать должен человек, а машина должна лишь оказать ему в том посильную помощь – в этом я просто убежден.

– Вас не устраивает машинное правосудие? Оно не достаточно справедливо и гуманно?

– Справедливость – понятие относительное. Абсолютной справедливости не существует.

– Разумеется. Мы говорим о справедливости на основе законов.

– Вот именно. Что касается гуманности… Видите ли, излишняя гуманность ведет к появлению ощущения безнаказанности и вседозволенности.

– Но сомнения всегда толкуются в пользу человека! А возможность причинения человеку вреда есть вещь крайне сомнительная.

– В том-то все и дело. Закон должен защищать и карать. Кара – неизбежное наказание за проступок, особо серьезный и преднамеренный. Причем здесь гуманизм? Человек нарушил закон – он должен понести наказание. Гуманизм не может быть поводом избегнуть заслуженную кару.

– Это странно, господин Васильев, но в ваших суждениях есть корень истины. Мне нужно осмыслить полученную информацию. Благодарю вас.

– Постойте! – встрепенулся я.

– Слушаю вас.

– А… разве это все?

– Вы имеете еще что-нибудь сказать?

– Нет, но…

– В таком случае всего доброго, господин Васильев. У меня действительно много работы.

С неясным тягостным чувством я покидал обиталище Глобального Интеллекта. Чем все это закончится, и не напорол ли я еще массу глупостей? Очень уж не хотелось оказаться крайним, случись что непоправимое. Я попытался уверить себя, что это лишь моя мнительность, и мудрый Интеллект не вытворит какой-нибудь глобальной глупости, но…

Не успел я спуститься по ступеням, как вокруг меня начало твориться нечто невообразимое: люди замирали на месте, озираясь по сторонам, отнимая от глаз смартфоны, вытаскивая из ушей наушники, стягивая коммуникаторы, вновь разрешенные к использованию всего месяц назад. Машины останавливались и отказывались двигаться дальше. Парившие в воздухе квадрокоптеры теряли ориентацию и бесцельно кружили над домами и улицами, словно все разом сошли с ума. Огромные табло и экраны на стенах домов разом погасли.

Я понял, что произошло. Я был единственным, кто понимал причину надвигающегося хаоса, и потому невольный страх от осознания того, что я натворил, охватил меня и погнал прочь от стеклянного здания, все так же сверкавшего своим совершенным чистеньким фасадом – единственного, что сохранилось от величественного мира электронного владыки.

– Федя! – окликнул меня знакомый голос.

Я остановился, повернул голову влево.

Ко мне спешили Степан, Софья и, разумеется, квадрокоптер – куда же без него!

– Федя, что происходит? – Софья, подбежавшая ко мне первой, вцепилась в мою рубаху и встряхнула меня. – Что ты опять натворил? Все встало, ничего не работает! Федя, ну чего ты молчишь? Мы так за тебя боялись.

А я только смотрел на нее, не в силах вымолвить ни слова. Потом поднял руку и провел ладонью по щеке жены. Вот она – истинная цель существования человечества, на чем держится Земля и чем мы живем. Это любовь, дружба – самые чистые и добрые чувства на свете, то, ради чего стоит жить. Остальное неважно.

И вдруг над нашими головами раздался знакомый мне голос: