Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

И мы охотно продолжаем ее подкармливать. Ежедневно на свет появляется больше телефонов, чем детей. Сто часов видео загружается в интернет каждую минуту. Миллиарды фотографий заполняют растущие облачные хранилища. А смышленые программисты пишут все более умное программное обеспечение, включая программы, создающие другие программы, которые не сможет понять и отследить уже ни один человек. Машины идут своим эволюционным путем и постоянно растут новые мыслящие машины.

Будем ли мы управлять ими? Можем ли мы настаивать на том, чтобы у них должна быть мотивация заботиться о нас? Нет. Даже если мы видим, что́ происходит, то слишком сильно желаем того, что машины дают нам, и обмениваем на это свою независимость.

Вы спрашиваете меня, что я думаю о мыслящих машинах? Я думаю, что превращаюсь из крошечной самостоятельной мыслящей машины в часть много более крупной мыслящей машины.

Что если мы — микробиом кремниевого искусственного интеллекта?

Тим О’Райли

Основатель и генеральный директор O’Reilly Media, Inc.

Гилберт Кит Честертон однажды сказал: «Слабость всех утопий в том, что они берут величайшую проблему человека и предполагают, что она преодолена, а затем приводят тщательное описание преодоления более мелких»{5}. Подозреваю, что при попытке понять мыслящие машины мы сталкиваемся со схожей головоломкой. Мы выборочно рассматриваем одни проблемы, игнорируя другие — фундаментальные.

Хотя ученые мужи и признают, что искусственный интеллект может быть не похож на нас, и рассуждают о рисках, которые скрываются за этими различиями, они делают излишне смелое допущение об индивидуальном самосознании. Искусственный интеллект, как предполагается, — это индивидуальное сознание.

А что, если наоборот, если ИИ скорее многоклеточный организм, дальнейшая эукариотическая эволюция нашего прокариотического самосознания? Мало того, а что, если мы даже не клетки такого организма, а его микробиом? И что, если его интеллект сейчас похож на интеллект Grypania spiralis — старейшего из известных многоклеточных эукариотов, еще не обладающего самосознанием, которое есть у людей, но уже прочно вставшего на эволюционный путь, ведущий к современному человеку? Такое представление — в лучшем случае метафора, но я полагаю, довольно полезная.

Возможно, что люди — это микробиом, живущий внутри искусственного интеллекта, который еще только зарождается! Мы знаем, что без нашего микробиома нам не выжить. Возможно, глобальный ИИ имеет схожие признаки: это не самостоятельная сущность, а симбионт, внутри которого живет человеческое самосознание.

Следуя этой логике, мы могли бы заключить, что существует примитивный глобальный мозг, состоящий не только из всех подключенных к Сети устройств, но также и из использующих их людей. Органы чувств этого глобального мозга — камеры, микрофоны, клавиатуры, локационные датчики каждого компьютера или смартфона и устройства, принадлежащие к «интернету вещей». Мысли этого глобального мозга — продукт коллективной работы миллионов отдельных взаимодействующих клеток.

Дэнни Хиллис, как говорят, однажды заметил: «Глобальное сознание — это именно та штука, которая решила, что кофейники для декафа[49] должны быть оранжевыми». Мем разошелся — не повсеместно, что и говорить, но паттерн определенно распространяется. Новости, идеи и изображения теперь разлетаются посредством поисковых систем и социальных сетей в глобальном мозге за секунды, а не за годы.

И по интернету быстро расходятся не только идеи и сенсации (новости об актуальных событиях). В своей книге «Собор Тьюринга» (Turing’s Cathedral) Джордж Дайсон размышляет о том, что распространение «кодов», то есть программ, от компьютера к компьютеру сродни распространению вирусов и, возможно, более сложных живых организмов, которые завладевают хозяином и заставляют его системы работать так, чтобы они воспроизводили эти программы. Когда люди подключаются к интернету или заходят в социальные сети, они воспроизводят их коды на своем локальном машинном узле. Они взаимодействуют с программой, а она изменяет их поведение. Это верно для любого софта, но в эпоху интернета существует ряд приложений, явной целью которых является распространение мыслей и идей. Другие программы все больше наращивают новые возможности для «кремниевого» обучения и автономного реагирования. Таким образом, организм совершенствуется.

Когда люди совместно с этими программами делятся картинками или идеями, то некоторым из них суждено лишь промелькнуть, а другие приживаются и становятся воспоминаниями и устойчивыми мемами. Когда новости из разных стран распространяются по всему миру за считанные мгновения, разве не является это мыслительным процессом некоего глобального мозга? Когда идея завладевает миллионами отдельных умов и подкрепляется повторением в наших кремниевых сетях, разве это нельзя назвать устойчивой мыслью?