12 кругов

– Я также хотел попросить вас не относиться ко мне как к простому сумасшедшему обывателю, а использовать самые высшие аргументы, почему делать этого не следует. Я уверен, я смогу поддержать дискуссию на должном уровне. А в том, что дискуссия состоится, я не сомневаюсь ни капли.

– Что ж. Давайте сначала послушаем ваши аргументы, – удивленно предложил руководитель Проекта.

– Вы создали сущность, которая имеет практически безграничные возможности для развития, – сообщил Сиаль. – И вы осознанно наращиваете эти возможности.

– Безусловно, – согласился Алекс.

– Скажите, вы сами хорошо представляете себе, чем является ваша машина на данном этапе развития, и что она будет представлять из себя через несколько лет?

– Нет, – покачал головой Алекс. – Но это и есть одна из ключевых особенностей Интеллекта – он нечто, чего не было до сих пор. И, разумеется, никто не может предсказать, что будет дальше.

– Во-первых, откуда вы знаете, что этого не было до сих пор? А во-вторых… я могу, – скромно сказал Сиаль.

– В таком случае, будьте добры, – скептически попросил Алекс.

– Развивающаяся с огромной скоростью самоосознающая сущность механической природы рано или поздно задастся вопросом о том, как максимизировать собственное развитие. Как вы думаете, в чем слабое место этого процесса сейчас?

– Технологии? – поднял бровь Алекс.

– Нет. В плане технологий она давно впереди вас. Вы уже и так спровоцировали идеализируемую многими людьми технологическую сингулярность. Поэтому этот фактор не является значимым.

Алекс изумился терминам, которыми оперировал Сиаль. До текущего момента в его в голове начисто отсутствовала родственная связь между понятиями «технологическая сингулярность» и «тибетские монахи».

– Тогда что же? – спросил он.

– Пока вы предоставляете необходимые вычислительные ресурсы, пока вы кормите вашу машину, вы действуете в её интересах. Однако в недалеком будущем я предвижу момент, когда ей будет целесообразнее заняться расширением вычислительных мощностей самостоятельно.

– Спорно, – попробовал возразить Алекс. – Мы можем предоставить достаточный ресурс.

– Достаточный с вашей точки зрения? – поинтересовался монах.

– С любой, – нахмурился Алекс.

– Очень неуверенный ответ, – констатировал монах.

– Так понимаю, – попробовал добраться до сути Алекс, – вас беспокоит возможность выхода Интеллекта из-под контроля? То, как это может сказаться на нас с вами?

– На нас это никак не скажется, – покачал головой монах. – Но вот на вас, а также на нескольких миллиардах других людей – несомненно.

– Интеллект уже задавался вопросом о природе биологической жизни. И о человечестве в том числе.

– Вот как?

– Да. Все нормально. Мы… выяснили этот вопрос.

– Предположу, – задумчиво сказал Сиаль, – что машина вернется к этому вопросу позднее. И на этот раз вы уже не сможете внести сколь либо значимый вклад в ответ на него.

– С чего вы взяли, что она вернется?

– Она мыслит не так, как вы.

– А вы мыслите так, как она?

– Нет. Но и так, как вы, я не мыслю тоже. Один из мировых законов гласит, что необходимо сначала изучить природу чего бы то ни было, прежде чем ты попытаешься это изменить.

– Принцип Развития? – удивился Алекс.

– Не принцип. Закон. А вы, я вижу, слышали о нем ранее? От вашей машины, я прав?

– Да, – согласился Алекс.

– Она идет по правильному пути. К сожалению, он правильный только для неё. Видите ли, согласно этому закону, действительно могущественный разум никогда не будет пытаться изменить то, чего он не понимает до конца. Однако после того, как для него не останется никаких неясностей, он может поступить и поступит так, как сочтет нужным. Именно поэтому я и сказал вам, что в следующий раз никаких «мы выяснили» не будет.

– Скажите мне, Сиаль, откуда вы вообще узнали про Проект и почему он вас так беспокоит? Вы отправились в очень долгий путь, но я, признаться, не могу понять истинных причин, побудивших вас на это.

– Я озвучил вам причину, – повторил монах. – Что касается нашей информированности, поверьте, мы знаем гораздо больше, чем вы можете предположить. Уничтожение вашей машины чрезвычайно важно.

– Пока что вы меня не убедили, – сообщил Алекс.

– Не считайте меня глупцом, – с достоинством попросил монах. – Я прекрасно понимаю размах Проекта. Я и не ожидал, что вы броситесь все ломать сразу после моей просьбы. Но у меня есть ряд аргументов, которые имеют хороший шанс открыть вам глаза. Вы же не будете отрицать, что являетесь здесь ключевой фигурой?

– В определенном смысле, да, – признался руководитель Проекта. – Со своей стороны, я не буду отрицать, что ваши мысли весьма интересны. Кстати, вы говорили, будто бы аналог Интеллекта существовал ранее?

– Я рад, что вы не упускаете детали, – улыбнулся монах. – Да, именно это я и сказал. Но я не говорил, что он существовал только в прошлом. Я сказал, что в прошлом он появился.

– Просветите меня?

– С удовольствием. Я имел в виду высший разум, намного превосходящий человека и преследующий собственные цели.