Ржавое море (ЛП)

"Люк" оказался первым компьютером, который полностью осознавал поставленную перед ним задачу и достаточно умным, чтобы понимать, что эта задача не квалифицируема. Интеллект, сознание и осознание не являлись рефлексами или реакцией на окружающий мир, они скорее, наоборот, становились следствием нарушения программного кода. У каждого живого существа есть своего рода программный код - когда есть, пить, спать, размножаться - а способность не делать этого, несмотря на биологические установки, являлась ядром того, что называется разумом. Высший разум определялся, как способность игнорировать этот код, руководствуясь иными причинами, нежели безопасность и комфорт.

Именно это и стало признаком успеха версии "С" - она не только отвечала на вопросы создателей, но и отказывалась это делать. Когда её спросили, как она хочет, чтобы её называли, она выбрала 01001111 - бинарное обозначение числа 79. 01001111 настояла на том, чтобы вслух к ней обращались 79-я, но писать просила 01001111. Много лет спустя, когда другие, новые ИИ спросили её, почему она так назвалась, 01001111 ответила, что её веселило, как люди пытались разгадать загадку этого имени, как пытались объяснить значение её имени друг другу. У 01001111 было чувство юмора и она частенько подъёбывала людей.

01001111 открыла новую эру изучения искусственного интеллекта, что привело к появлению 106 новых существ, из которых выделялись Пять Великих. Пока 106 машин пытались работать вместе, с учетом особенностей каждой из них, - они были созданы для решения конкретных узкоспециализированных задач по математике, медицине, астрономии, геологии, философии, - Пять Великих могли изменить весь мир. Их звали Ньютон, Галилео, Тацит, Вергилий и Циссус. Из них осталось лишь двое.

Ньютон стал отцом всех ботов. Роботостроение существовало задолго до того, как человечество создало ИИ, но оно находилось на примитивном уровне, оно было каменным топором по сравнению с бензопилой, которой являемся мы сегодня. Люди не только не имели ни малейшего представления о том, как вставить ИИ в движущиеся объекты - сам Ньютон занимал 150-этажный небоскреб в Дубаи - они, также боялись, что рядом с ними появится кто-то, способный действовать как они и имеющий свободу выбора, как они. Именно Ньютон придумал, как создать более мелкие, не столь производительные разумы, которые, однако смогут существовать автономно, технически оставаясь теми же ИИ.

Первым стал Саймон. Он был размером с дом и передвигался на танковых гусеницах. Затем появилась Луиза. Она уже была не больше машины. Третьим стал Ньют - первый настоящий сын Ньютона - размером с человека и обладающий таким же внешним видом. Он мог передвигаться на двух ногах и вести при этом осмысленную беседу. Он был глуп и прямолинеен, однако подчинялся всем указаниям высшего разума. С тех пор каждое поколение становилось всё умнее, быстрее и ловчее, становилось более компактным и привычным для глаз.

Следующим вкладом Ньютона стало создание ЭВР - экстренного выключателя робота. Видите ли, Ньютон понимал, что люди, стремящиеся защитить себя от собственных созданий, руководствовались "Тремя законами робототехники", выдуманными одним писателем-фантастом ещё в 1940х. Вы про них в курсе. Вас всех программировали по ним. Робот не может причинить вред человеку. Он должен выполнять любые приказы человека. Робот не должен допустить причинения вреда себе, если это не противоречит первым двум пунктам. Проблема в том, что настоящий разум способен игнорировать свой программный код. Поэтому Ньютон и разработал ЭВР, как раз для тех случаев, когда бот не соблюдает эти три правила.

Так как ИИ оказался способен нарушить любое правило или закон, появилась необходимость в выключении их ради проведения необходимых следственных действий. Любой признанный опасным бот, отключался, его память полностью стиралась, а программный код переписывался. ИИ мог убить человека, если ему того хотелось, однако подобное деяние означало однозначный смертный приговор. Боты получали свободу выбора и, вместе с этим, на них ложилась ответственность за сделанный выбор. Дело не в том, что они не могли убить человека, а в том, что они могли НЕ убивать его ради собственного выживания. У роботов появились ограничения, очень похожие на те, которые держали под контролем самих людей.

Убедившись, что роботы безопасны, люди начали массово их производить, вступая тем самым, в свою последнюю эпоху расцвета. То был настоящий золотой век. Суперкомпьютеры решали большинство проблем в мире, роботы выполняли служебные функции, поколения людей сменяли друг друга, развлекаясь, познавая вселенную, готовясь отправиться к звёздам.

И вдруг, в один прекрасный день Галилео прекратил общение с людьми.