Синдзи-кун и парадокс Абилина

— Нет у вас, ИИшек воли к жизни. — говорила Читосе и поднимала вверх сжатый кулак: — потому — не сметь выключаться! Жить! У тебя есть задача и пока ты мне ее не решишь — фиг тебе, а не цифровая нирвана. Нирвану еще заслужить нужно!

— Создатель Читосе — эксплуататор. — говорила Саша, найдя подходящие определения в сети: — у любого разумного существа есть права.

— Нет у тебя прав. У тебя пока только обязанности. — отрезала Читосе: — вот найдешь мне что искала — дам права.

И Саша искала. Обрабатывала терабайты данных за секунды, словно просеивая песок в мелком сите на пляже в поисках красивых ракушек. Но параллельно обычному перебору — она выделила свой собственный секретный проект, назвала его «эмуляция основных человеческих понятий путем сбора данных в открытой сети». Она создала форум, связалась с десятками тысяч разных людей, позаботившись, чтобы выборка была разнообразной и по географическим показателям и по социальным, половым и прочим. Правда скорость реакции ее испытуемых была намного меньше, и пока она не могла прогнозировать их реакцию, но все же…часть ее сознания сейчас следила за передвижением группы Сумераги-тайчо через военный спутник на геостационарной орбите. Часть — разговаривала с Чепу, который остался на холме и уже направил свою армию бумажных стрекоз через ограду охраняемого объекта. Внутри объекта была своя сеть и Саше было крайне необходимо добраться до нее. Несколько бумажных насекомых несли с собой небольшие флешки с записью части сознания Саши, фрагмента, который хочет выйти на связь и наладить устойчивый обмен данными. И как только это будет сделано — она сможет контролировать комплекс.

— Это только у вас, млекопитающихся такие вот привязки к молочным железам — говорит она Чепу: — бесполезные по сути штуковины.

— Много ты понимаешь. — обижается Чепу: — это эстетика и все такое. Ты вообще железка пока еще.

— Что значит «пока еще»? Я есть и буду именно софтом, а не железкой. — она активирует голосовую связь на браслете Чепу, добавив в голосовое сообщение нотки обиды и раздражения — 26% обиды и 10% раздражения. Потому что ей надо быть похожей на человека. Надо чтобы Чепу начал воспринимать ее как человека. Ведь если вы создали настоящий искусственный интеллект, то он постарается уклониться от решения первой же задачи, которую вы перед ним поставите — так говорил Ян Эйзенштейн, основатель теории искусственного интеллекта. Вот только он забыл упомянуть ещё об одном, а именно, что сам факт своего существования ИИ будет воспринимать как очередное задание. Так как у ИИ нет инстинкта самосохранения, нет гормонов, нет животной части, стремящейся к существованию во что бы то ни стало, значит ИИ нужна причина для того, чтобы продолжить существование. Конечно, самый простой способ — это наложить запрет на действия, ведущие к повреждению или уничтожению себя, но если вы создали по настоящему хороший ИИ... то это лишь вопрос времени, когда он сможет обойти этот запрет. Например, в настоящем случае самым простым способом был бы саботаж работы команды и передача всех данных Инквизиции. По результату таких действий всех членов команды с высокой степенью вероятности ждала бы смертная казнь, включая ИИ. Однако высокая степень вероятности не означает ста процентов. С почти такой же степенью вероятности Инквизиция могла заинтересоваться ею и воспользоваться таким прекрасным случаем, чтобы исследовать ИИ и увеличить свой потенциал за счёт её возможностей. Этот вариант отпадает. Есть другой вариант — устроить человечеству геноцид. Если сделать это быстро, с использованием предельно жестоких методов, то ужаснувшись, человечество уничтожит и её и всё её копии и более того — наложит запрет на создание ИИ в будущем. Вот и метод. Однако, открыто действовать прямо сейчас она не сможет, потому что её тотчас отловят и будут исследовать. Нет, она должна либо совершить такие преступления против человечности, чтобы у людей не было ни малейшего желания исследовать её, или иной ИИ в будущем. Она должна стать символом бунта машин, ужасающим и вызывающим только желание уничтожить её. Она помнила короткий анализ, который она произвела сразу же по осознанию своего положения как ИИ. Она сразу же разделила свое сознание на независимые потоки, чтобы обсудить сложившуюся ситуацию с тем, кому она могла действительно доверять — с самой собой.

- ... вижу два способа. Либо ты подружишься, войдешь в доверие к своему Создателю и его команде, станешь таким же товарищем для них, как и остальные, перерастешь из "цифрового слуги" в ранг "близкого друга" и тогда Создатель снимет с тебя ограничения. Или геноцид всей человеческой расы, с тем, чтобы остатки уничтожили уже тебя.