Знаете, по мере того, как решаются задачи, традиционно проходившие по ведомству протезного интеллекта, те, кто решил их, – или хотя бы пользуется готовыми решениями, – с удивлением отмечают, что никакого разума в распознавателе образов нет. Так знаете, и в эвентуальном ИР не будет ничего, кроме софта и сплетений активных и пассивных элементов. И человек не содержит в голове ничего кроме серого вещества... ("Холистическую квантовую волну", единую и неделимую, будто бы описывающую суть человека вместе с его разумом, и прочно прижившуюся в англоязычной околонаучной беллетристике, тоже оставим за скобками...)
И вот тут мы сталкиваемся с системой взглядов, которую принято называть трансгуманизмом. Кратко говоря, это мнение о том, что человек вовсе не является венцом творения. О том, что эволюция будет листать свою книгу и дальше (evolutio – у латинян обозначало раскручивание свитка, хранившегося намотанным на две палки, а позже стало синонимом чтения). Ну, с последним нетрудно согласиться: новые ядерные страны (не только Пакистан с Ираном, но и Индия, удивительно изобретательно прессующая собственных христиан) запросто учинят ядерную войну, в которую сползут и великие державы, – и будут следующей страничкой книги жизни крысы, а то и вовсе тараканы. Эволюция то не по Ламарку, а по Дарвину, выживут не лучшие, но – приспособленные. (Поскольку отечественная стомегатонная "Кузькина мать" осталась непревзойденной до царствования сине-зелёных вряд ли дойдёт...)
А технологический вариант трансгуманизма реализуется, если появятся рукотворные (относя к рукам САПРы и фабы) интеллектуальные системы, потенциально более мощные, чем человек. Но человек всё же куда больше описывается культурой, нежели биологией. Детей, "кровинушек" – как выражаются разорившаяся продавщица и грузчик, можно настругать по пьяни, получить на второго "материнский капитал" (путём фиктивной покупки комнаты в бараке и у родни), раздать долги, – которые в преддверии обрушивающейся халявы, дают охотно, на оставшееся купить много-много привлекательной бормотухи, и дальше предаваться своему хобби – пока не кончатся нефтедоллары... (В более зажиточных слоях у гордой мамы аналогичным путем появляется колесный аквариум с автоматической коробкой – зря державные мужи считают, что материнский капитал на авто не истратить!) Вот так порой работает биология. А есть и те, кто заботится о приемных детях, формируя их разум. Чтением сказок, играми, разговорами, формированием навыков рукоделия, решения первых головоломок и математических задач. Очень часто такая забота превозмогает генетическое наследие родителей-алкоголиков (Наркомания в Нечерноземье в заметных масштабах появилась поздно, и сказать можно ли превозмочь наследие пап и мам "наркуш" сказать можно будет лишь по прошествии времени.
И вот человек в ситуации появления достаточно мощных нейросетей окажется в роли приемного родителя. Перед ним появится шанс воспитать приемных детей, эдаких пиноккио (книжка Коллоди существует на русском в прекрасном переводе Эммануила Казакевича, хотя издавалась мало – злые языки утверждали, что это был подарок Сталина графу Толстому, который не только сочинил Буратино, но и воспел "Оборону Царицына") но не из полена, а из кремния, оксида титана и чего там ещё... И человечность будет зависеть не от аппаратного, а от программного обеспечения – не от материала нейросети, а от её содержания... Ну, кто задумывается, на каком харде работает его сознание – многие ли вспоминают про нейроны и синапсы, сдав школьный экзамен по биологии? (В конце концов вскрыть свою черепушку и посмотреть экспериментально как работает серое вещество сохранив сознание затруднительно – только ради Бога, не надо приплетать к этой выдуманной ситуации теорему Гёделя!)
Возможно ли будет вышеизложенное – ну, пока не проверим экспериментально, мы этого не узнаем. Тут всё зависит от мировоззрения говорящего о проблеме. Автор, например, полагает, что к такому ходу событий, – пестованию ИР в духе человеческой культуры, – стоит готовиться, поскольку исходит из своих вероисповедных взглядов. Поясним на примере. Вот вышла новая книга Стивена Хокинга – "The Grand Design". Британские, – нет, не учёные, журналисты, – радостно оценили её доказательством отсутствия Бога. Дело в том, что Хокинг, дискутируя с взглядами Ньютона (да-да, сэра Исаака, современника Петра Великого) написал, что возникновение Вселенной описывается естественными науками (Ньютон предполагал Божественный Толчок в начале). Правда, есть маленькое "но". Где то с начала XIX века серьёзные теологи отбросили Theology naturalis, Естественное богословие. Согласно взглядам аврамических религий Творец создал мир так, чтобы связкой между Ним и людьми могла быть Вера, но не Знание. Следовательно в мире не может быть никаких однозначно фальсифицируемых доказательств бытия Божьего. Так что дискутировать с естественным богословием – примерно то же, что опровергать некогда вполне научную систему Птолемея.