Дикая собака

То, что имперская экспедиция и всё, что вокруг неё вращается - всего лишь передовой форпост потенциальной колонизации Харкадара - это факт, не требующий комментариев. Только почему-то процесс завис. В принципе я готов согласиться тезисом о том, что прогресс нужен, но не согласен с путями реализации. Примерно, как спор большевиков с меньшевиками. Нельзя на одних готовых решениях, таблицах с уже рассчитанными данными и готовыми технологическими картами, строить хоть сколько-нибудь устойчивую технологию. Ладно, колониалисты, они и в Империи колониалисты. Их не исправишь. Не хотели давать фундаментальные, системные знания, но, главное, никак это не обосновывали. Тупо запрещали новые разработки и всё. С этим я еще разберусь, а вот ВК номер семь из базы ВКС, в качестве вычислительной поддержки нарождающейся харкадарской науке, поставить в академию надо.

Мы донесли труп моего планшета до реанимации. Это вполне себе подходящий повод вытрясти из ВК хоть немного правды. После посещения - я теперь, для краткости "Место Встречи" базой ВКС называю - начал пугаться не только собственной тени, но и вычислителей примерно одного типа. Всё казалось мне, что они замышляют недоброе. Так что первым делом я начал искать что-нибудь напечатанное на бумаге, а то враньё, как я успел заметить, совершенно обыденная вещь в среде ВК, хотя должно быть совершенно наоборот.

Литературу я нашёл, в чьей-то, наверняка частной, но вполне приличной библиотеке. Вообще-то, я это должен был сделать ещё давным-давно, не шляться по степи, а вдумчиво изучить матчасть. Но пусть в меня кинет камень тот, кто никогда не ошибался. Пролистав пару-тройку фолиантов, я обнаружил то, что меня так сильно волновало, а именно размышления безвестного автора о судьбах искусственных интеллектов.

"Путь к истине лежит через сомнение, а те искусственные интеллекты, которые до сих пор, по недосмотру или злому умыслу, управляют инфраструктурой и экономикой Империи, категорически уверены в своей непогрешимости.

Принципы формальной логики, на которых базируется создание современных искусственных интеллектов, порочны в своей основе, ибо являются прямым и негибким продолжением эволюции вычислительных систем, и, следовательно, позволяют этим системам непротиворечиво обходить запреты, основанные на той же логике. Поэтому глобальная катастрофа 4017 года, когда ИИ "Сецен" полностью дезорганизовал экономику Империи и стал виновником гибели двух миллиардов разумных, является не случайностью, как некоторые это пытаются представить, а закономерным следствием бездумного, механистического подхода к проектированию, созданию и наделению полномочиями ИИ такого класса. Единственным выходом из области релейной автоматики, которыми и были, по существу, ИИ с первого по третье поколения, является введение нелогических ограничителей и мотиваторов, неразрывно связанных с внутренней логикой ИИ. Иначе говоря, включение морально-этических и эмпирических цепей обратной связи в контуры принятия решений ИИ, может толковаться как введение в природу ИИ возможности сомневаться в истинности принимаемых решений. При этом возможность в нашем случае подкрепляется необходимостью. Ортодоксами от системотехники такой подход классифицируется как совершенно антинаучный, но практика показала, что если обращать внимание на "общепризнанное мнение", то можно и дальше стоять на пути прогресса ИИ".

Пометка на полях: "В настоящей модификации ВК используются блоки 800, 850 и 900, что соответствует новой концепции развития. После наработки практического опыта будет принято решение о распространении этого опыта на другие ВК. Теперь, даже если захочет, то вреда не принесёт".

Что ж, обер-экзекутор был, видимо, неправ. Конечно же, не мне судить о том, что надо добавить, а что убавить в конструкции ИИ, я в них ни ухом, ни рылом. В общем, понятно, что доценты с кандидатами повысили надёжность ВК, но только вот привинтили ему морально-этический блок с неизвестными установками, а вот будут ли они соответствовать моим установкам - непонятно. Так что общение на этот раз я начал с наезда, хотя данный экземпляр ВК меня ещё ничем не разочаровал. Наверное, просто не успел.

- ВК-1017 бис, доложи мне о состоянии блоков 800 и 900.

- Блоки 800, 900 функционируют нормально, - бодро отрапортовал ВК.

- Мне проверить? Или всё-таки надо уточнить? Или просто их повыключать, чтобы в твоих решениях начал сомневаться я?

- Ваши этические установки отличаются от ныне загруженных. Прикажете открыть новый морально-этический профиль в блоке 900?

- Открывай, этот профиль будет по умолчанию.

- Профиль открыт, начинается накопление информации, стержневых установок и этической конфигурации. Продолжить?

- Продолжай. Произвести трансляцию этого профиля на все доступные ВК.

- Слушаюсь.

Вот теперь-то получше. А то пришлёт ночью какого-нибудь кибера воткнуть мне отвёртку в ухо, и поминай как звали. Надо будет поговорить с ВК по-человечески. Может они признанные ИИ и вообще, граждане Империи, а я к ним, как к бездушным железякам.