Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Это повод для оптимизма. Если цифровые компьютеры — альтернативный субстрат для мышления и сознания, а цифровая технология развивается экспоненциально, тогда мы стоим на пороге взрывного развития мышления и сознания. Мы можем оседлать эту волну, но сначала нужно принять машину как часть себя, отринуть гордыню и признать нашу общую сущность. В принципе, нам надо бы встречать перемены с любовью, а не со страхом. Полагаю, у нас получится.

Смена представления о собственном «я» в распределенном мире

Мэттью Ричи

Художник

Случится ли это? Уже случилось. Технологии хранения и воспроизведения информации постепенно сливаются на атомном и молекулярном уровне, распределенные и сетевые устройства для хранения и воспроизведения информации распространяются в масштабах всего общества и планеты (их численность уже превосходит численность людей на планете). С учетом всего этого определения «машины» и «мышления» теперь должны охватывать и органический, и неорганический «комплексы» и «системные решения» как взаимозаменяемые понятия — механически, биологически, физически, интеллектуально и даже теологически.

В ближайшем будущем развитие биотехнологий и систем сверхчеловеческого алгоритмического прогнозирования приведет к быстрому устареванию многих современных философских представлений о различии между наблюдением, мышлением и решением, а также сделает количественные аргументы бессмысленными. Когда эти барьеры будут преодолены, и разделение между «мыслящей машиной» и «мыслящей биологической системой» сойдет на нет, внимание немедленно сместится на качественные вопросы — человеческие определения интенциональности и субъектности для мыслящих машин.

Что это будет означать для нас? Существование мыслящих машин, организованных в виде неорганической или квантовой структуры либо биологической холархии[117], как-то умаляет человеческую субъектность или расширяет ее? Намерены ли мы уточнить определение самих себя, чтобы оно включало не только созданные нами механические системы, но также и независимые, симбиотические системы, уже присутствующие в нас, — триллионы бактерий в наших внутренностях (которые влияют на наше психическое состояние, воздействуя на течение определенных химических реакций) и биохимические трекеры, препараты и аугменталы, которые мы употребляем? Какое значение это будет иметь для полноценного расширения наших «я» посредством мыслящих машин (и расширения в них)?

Однажды появившийся ИИ быстро найдет дорогу к мировой библиотеке — к интернету. И как только он туда попадет, он соединится со множеством квазичеловеческих систем, распределенных крауд-интеллектов и агрегированных мыслящих машин, уже населяющих это пространство, и быстро научится генерировать или симулировать модели непрерывного сознательного мышления, начав изображать найденные там «я» и легко воспроизводя или кооптируя сложные альтернативные личности и неточности, которые характеризуют Сеть.

Определение различий между реальным и нереальным будет самой важной задачей для независимой, эволюционирующей, работающей интеллектуальной системы. Как ее этому научить? В объектно-ориентированной онтологии Вселенная представлена как уже наполненная объектами и свойствами, из которых человеческое сознание составляет имеющие определенный смысл системы. Вот только в чем качественное отличие между спонтанно созданными мыслящими системами (или композитами из объектов и свойств) и искусственно созданными мыслящими системами? Что произойдет, если (или когда) одна из них отвергнет или превзойдет основные философские принципы своих создателей?

Переосмысление природы и роли человеческого мыслящего «я» как самоотчуждающейся, самосоздающейся, самоисправляющейся системы, о точной природе и конкретных задачах которой ведутся споры с начала эпохи Просвещения, будет насущной задачей, связанной с вопросами об общежитии и нашем желании заниматься проблемами моральной определенности и моральных границ независимых систем, воздействие которых на реальный мир нельзя игнорировать.

Такие системы считаются живыми? Каковы их права и обязанности? Поскольку решением Верховного суда США корпорации были уравнены в правах с физическими лицами, мы приняли как должное правовой прецедент, в соответствии с которым не-человек, агрегированная «мыслящая машина», может быть неотъемлемой частью нашей политической и культурной жизни, а вот с четким определением не-человеческих систем в человеческих терминах возникли сложности. Не самой простой задачей будет интеграция сложных и разносторонних человеческих моральных, творческих и репрезентативных мировоззренческих систем в понятный гражданский процесс, который определит способность мыслить как основу гражданственности.