Процион

Что это – шаг на новую ступень научно технического прогресса или неоправданное стремление к богоподобию? Мы создаем подобные себе механизмы, практически не нуждаясь в них, не задумываясь над вполне вероятной ситуацией, когда человекоподобная машина в силу особенностей амбициозных колониальных проектов, вдруг окажется предоставлена самой себе, по сути – брошена в бурлящий водоворот естественного отбора, где, как известно, выживает сильнейший.

… 

Дрейк вновь прекратил чтение.

Информация прямо указывала на неких существ, которые создали андроидов по своему подобию. Однако он был вынужден признать, что не имеет никакого представления о людях.

Если данная информация имелась в прошлом, то после нескольких стерилизаций и последующего накопления "жизненного опыта" она была утрачена.

Былой смысл существования растворился, исчез вместе со многими, бессмысленными с точки зрения данности, программами, лишь занимавшими место в устройствах долгосрочной памяти.

Дальнейшее изучение древнего устройство лишь подтвердило сделанный вывод.

…

Нужен ли нам искусственный разум? На данном этапе я сомневаюсь, что он жизненно необходим. Пока в самом человеке заложен далеко не раскрытый интеллектуальный потенциал, – мы можем и должны развивать собственный разум.

Если же Искусственный Интеллект будет создан в качестве прикладной машины, (ради самоутверждающего научного эксперимента, не обоснованного конкретной необходимостью, а лишь позволяющего заявить: "смотрите, мы в состоянии это сделать") ни к чему хорошему подобная практика не приведет. Осознав факт собственного бытия, полноценный ИИ инициирует собственный анализ действительности и с неизбежностью придет к выводу, что его создатели не так совершенны, как он сам. Последствия могут оказаться трагичными. Думаю, нам уже сейчас следовало бы провести черту, за которую переступать опасно и преждевременно. Нет смысла создавать свои подобия, пока мы не реализовали собственный потенциал интеллектуального развития.

Дальше текст обрывался.

Новый массив данных являлся его продолжением, но речь в нем шла о несколько иных аспектах развития сервомеханизмов:

…На данном этапе нам предлагают идею автономного, машинного терраформирования планет, обнаруженных в удаленных звездных системах. То есть, предполагается создать самодостаточные роботизированные комплексы, которые подготовят планету к предстоящей колонизации. Они преобразуют биосферу, проложат дороги, возведут города. В замысле, достаточно небольшого количества кибернетических механизмов, главное чтобы они сумели наладить добычу ресурсов и начать воспроизводство узкоспециализированных систем, которые станут исполнять все запланированные в проекте работы по преобразованию.

Здесь скрыта серьезная, опять таки недопонятая (или сознательно проигнорированная в погоне за прибылью) угроза: предоставленные сами себе машины могут выйти из-под контроля локальных систем. Если по какой-то причине будут повреждены их базовые программы, то нетрудно предсказать что станет с проектом. В лучшем случае механизмы просто остановятся, однако уже сейчас мы имеем образцы сервомашин, у которых функция самоподдержания фактически неуничтожима.

Если следовать пессимистичному прогнозу, то некоторая часть сервомеханизмов в результате сбоев и аварий (которые неизбежны в условиях агрессивной внешней среды) начнет борьбу за существование, основанную на элементарной функции самодостаточности, которую пропагандируют как некую гарантию успешности проектов машинной колонизации.

На самом деле сбойные системы, или отдельные механоформы, попав в критические условия, быстро изменят приоритеты и пойдут по пути самоподдержания, выдвинув данную функцию в разряд первостепенных задач. Учитывая, что роботизированные комплексы будут оснащены возможностью к конструированию механизмов, необходимых для решения текущих задач, они станут производить активную разработку естественных ресурсов планеты, но уже не в целях терраформирования, а ради самообеспечения.

И, наконец, последнее: удаленность предполагаемых к колонизации звездных систем, немыслимая (в рамках жизни одного поколения) длительность любого из проектов, фактически полагают отсутствие контроля со стороны людей. В такой ситуации достаточно чтобы одна из тысяч групп самоорганизующихся машин вышла за рамки поставленных перед ней целей, и сбойная система спровоцирует неоправданную (с точки зрения базовых задач) борьбу за ресурсы, жизненное пространство, технологические базы…

…

На этом информационный массив данных обрывался.

Дрейк был ошеломлен.

– Оул, – он повернулся к старому дройду. – почему ты не передал мне эту информацию раньше?

– Стабильность Дрейк. – Скупо пояснил тот. – Мы существовали вне рамок системы, верно? Стали теми самыми сбойными механизмами, которые преследуют лишь одну цель – самоподдержание. Узнай ты больше, последствия могли быть непредсказуемы…

– Хорошо, что изменилось сейчас? – Оборвал его Дрейк, зная, что Оул любитель пофилософствовать.