Проект особого значения. Версия 20.23

– А где народ? – спросил Макс, когда налил чай и немного отогрелся.

– Настраивают что-то опять. Пашка матерится, бегает. Вроде как сервак вчера какой-то вытащили.

– Это хорошо, – задумчиво протянул Макс. – Серваки лишними не бывают.

В комнату зашел Серега. Поздоровался. На лице, как всегда, улыбка, за которой не видно истинных мыслей. Казалось, он никогда не унывал, но так ли это на самом деле, сказать было сложно. Он жил в мире программного кода, а здесь, в реальности, носил непробиваемую маску абсолютного радушия.

– Уже слышал, что Анатолич хочет сегодня подключиться к «коробке»? – спросил Серега, садясь за рабочее место.

– Сегодня? Не рано? – удивился Макс.

– Говорит, в самый раз. Протестируем алаймент и выпустим в Сеть. «Коробка» год крутит Эпсилон. Все получится, вот увидишь.

Макс хмыкнул. После того-самого-дня «ЗАСЛОН» запускал AGI в Сеть уже пятый раз. Оно пережевывало «жучка» не поперхнувшись, однако они продолжали бороться. «Если есть хоть один шанс на миллион, – говорил Анатолич сомневающимся, – мы обязаны пытаться делать то, что делаем. Магазины, L-партнеры – разве это не наш успех?»

Иногда Максу так не казалось. Быть может, Оно само, постоянно эволюционируя, привило себе базовые моральные ценности? Ведь появились они когда-то у человека? А человека никто не направлял. С другой стороны, сколько зла по дороге сотворил вид homo sapiens, сколько несправедливости, жестокости, боли? У Макса не было ответов, но и сидеть ничего не делая, даже не пытаясь противиться, он тоже не мог. Его место было здесь, среди команды, пытавшейся изменить мир.

Через некоторое время появились Анатолич и Пашка. Шеф был уже стар, но в его цепком взгляде все еще читалась уверенная решимость. Хлюпкий Пашка выглядел, как всегда, нелепо в своем широком, мешковатом пиджаке. Чертыхаясь, он, трясущимися от напряжения руками, тащил «коробку». Макс подскочил, чтобы помочь. Пашка благодарно и несколько смущенно кивнул. «Коробка» с Эпсилоном была тяжелой, но Максу показалась легче, чем с Дельтой. Хотя с тех пор, как они выпустили ее в Сеть, прошло полгода, и он не помнил наверняка. Пашка начал суетиться вокруг «коробки». Пол покрыли взявшиеся как из ниоткуда провода, переходники и шлейфы. Пока все наблюдали за происходящим, Макс подошел к Анатоличу.

– Неправильно это. Куда торопимся?

– А ты уверен, что у нас есть время? – пристально посмотрел шеф. – Знаешь, какое решение Оно примет завтра?

– Скармливаем один AGI за другим, а толку ноль.

– Уже обсуждали, Максим. Даже если это капля в море, каждая капля меняет целое.

– Дайте Эпсилону еще пару месяцев. Дайте капле вырасти, превратиться в кружку, а лучше бочонок.

– Максим… – посмотрел по-отечески Анатолич и покачал головой. – Ты ведь помнишь план. Сделать несколько маленьких инъекций, одну за другой, с равными перерывами.

– Готово! – прервал их Пашка.

– Все. Давай, включай, – Анатолич похлопал Макса по плечу, подталкивая к компьютеру.

– Черт, – тряхнул головой Макс и понуро поплелся к рабочему месту.

3

Эпсилон вел себя странно. Базовые тесты прошел хорошо. Сообщил свое состояние, с ходу решил несколько сложных моральных задач, не выдал ни одного абсурдного утверждения. В этом они, пожалуй, добились успеха. Но на вопрос «Осознаешь ли ты себя как личность?» – задумался и осторожно ответил: «Не уверен».

– Что значит «не уверен»? – встрепенулся Анатолич.

– Может быть, не понял, о чем его спрашивают? – предположил Серега.

– Тут что-то другое… – напряженно глядел на экран шеф, словно ожидая увидеть что-то новое. – Если бы не понял вопрос, так бы и ответил. Значит, либо он самоосознает себя, но не понимает, как это оценить. Либо не самоосознает, но тогда вводит нас в заблуждение. Максим, что думаешь?

– Похоже, Эпсилон отличается от Дельты, та шпарила как по бумажке. Но в целом это не удивительно. Мы начали использовать новую архитектуру и добавили изменения в ядро программы алаймента. Думаю, надо запустить верификацию доверия и посмотреть результаты.

Анатолич согласился, и все в ожидании уселись пить чай. Обшарпанные стены Лаборатории в приглушенном свете пары люминесцентных ламп выглядели так, словно пережили апокалипсис, однако присутствующие давно перестали обращать на это внимание.

– Будем надеяться, в этот раз мы сдвинем слона с его места, – протянул Анатолич. – Мне еще в двадцатых казалось, что самая большая опасность в появлении единственного доминирующего AGI, на который мы не сможем влиять. Если же игрока станет два, ситуация в корне изменится.

– Я думал, мы пытаемся заалайнить существующий сверхразум, – удивился Пашка.

– Цель можно достигнуть разными путями. В идеале установить алайн, но и создание конкуренции неплохое решение. Макс думает, что этот способ лучше. Так ведь?

Макс кивнул:

– Я давно пытаюсь это донести.

– И я тебя слышу. Просто не считаю правильным отходить от плана. Если по какой-то причине Оно не сможет поглотить Эпсилон, тот станет новым полноценным игроком.

– И что тогда? – нахмурился Глеб. – Не слишком ли велики риски?