Конец света: прогнозы и сценарии

Может ли машинный разум превзойти человеческий? В принципе, может, но пока до этого далеко — лет тридцать-сорок, не меньше. Мне кажется, что дата, называемая многими учеными (вторая половина 2020-х годов), — это слишком оптимистично. С такой грандиозной задачей, как построение полноценного интеллекта, не уступающего человеческому, мы вряд ли сумеем справиться столь быстро. Ведь, кроме прочего, его создание должно сопровождаться разработкой систем контроля. Человек сможет контролировать интеллект, превосходящий его по уровню, есть возможность это делать. А сценарий захвата власти роботами пока представляется нереальным, хотя предоставление машине слишком большой самостоятельности может привести к тому, что она будет сама ставить перед собой задачи и сама решать их, не заботясь о том, насколько это нужно и нужно ли вообще человеку. Если вдруг искусственный интеллект выйдет из-под контроля, то потом сделать что-то будет очень трудно. Но если контролировать весь процесс постепенной эволюции, то, я думаю, есть способы обезопасить себя. Дело ведь не только в том, умнее ли нас машина. Контроль не требует превосходства интеллекта. Умные всегда были на службе у сильных, хотя и тяготились этим. Проблема контроля — это проблема допуска к возможностям: к ресурсам, принятию решений и т. д.

Еще многих беспокоит такой вопрос: насколько реально человечеству свалиться после появления искусственного сверхинтеллекта в технологическую сингулярность, когда мы перестанем понимать, что творится вокруг нас. Да мы и сейчас уже не все понимаем, что творится вокруг нас, и никогда этого не понимали. Суть — в объеме этого непонимания. Мы считаем себя очень умными, а все ли мы знаем даже о своем организме? Как он работает, что мы там можем выключить, а что нет, способны ли мы предусмотреть все последствия своих действий. Точно так будет и с искусственным интеллектом. Рядовой человек даже и не заметит этого «сваливания». Если мы будем держать искусственный интеллект под контролем, ничего страшного не произойдет. И потом, у человечества нет другого пути. Мы в любом случае будем стараться делать все более мощные и умные машины. Сценарий с луддитами, ломавшими на английских фабриках станки, на которых вязали дешевые чулки, не пройдет сейчас так же, как он не прошел в XIX веке. Уж слишком прочно наша жизнь связана с машинами. Говорят, что искусственный интеллект будет следующей за нами ступенью эволюции, займет оставленный нами трон «царя природы», опустив человечество до уровня наших домашних собачек и кошечек. Думаю, такой сценарий в далекой перспективе возможен, только если, повторю, человечество будет недооценивать проблемы контроля. Это касается не только искусственного интеллекта, но и генной инженерии, и биотехнологий, и прочего. Надо вести себя разумно и почаще перечитывать «Войну с саламандрами» Карела Чапека.

Нереальная реальность

Наверное, каждый после просмотра фильма «Матрица» задал себе вопросы: «А не живу ли и я в такой или подобной матрице? И насколько реально то, что меня окружает?» Зададимся другим простым вопросом: возможна ли вообще такая «матрица».

А, собственно, почему она может быть невозможна? Технология виртуальной реальности уже давно (лет десять) опробована и не представляет ни для кого великой тайны. Желающие и обладающие достаточными, уже не такими большими, средствами вполне могут купить шлем виртуальной реальности, перчатки виртуальной реальности и прочее оборудование. Если заплатить чуть подороже, то получишь оборудование с обратной связью, и камень, подобранный в виртуале, будет ощущаться в руке, как некий тяжелый и твердый предмет. Информационные технологии развиваются такими темпами, что дела минувшего десятилетия уже воспринимаются как седая древность.

Игровые отрасли — это лишь верхушка айсберга ценой 15 миллиардов долларов в год. Именно такой суммой определяется рынок технологий ВР (так для краткости называют виртуальную реальность; не путать с другим, английским ВР — British Petroleum!). В основном эта сумма состоит из затрат на военные тренажеры. Согласитесь, что, к примеру, начинающим пилотам разумнее начинать свои тренировки на виртуальных самолетах над виртуальными полями сражений, чем сразу на машинах, стоимость которых может «зашкаливать».