Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Если такое случится, то вопрос будет не в том, что мы думаем по поводу мыслящих машин, а в том, что они думают по поводу старомодных человеческих разумов. Чего не нужно бояться, так это порабощения несчастных людей их кибернетическими преемниками. Люди слишком беспомощны и неэффективны, чтобы разумные роботы решили их эксплуатировать. Даже сейчас корпорации пытаются сократить число работников, избавляясь от приматов с большим мозгом. Для человеческих разумов останется один способ избежать устаревания: слиться с кибернетической цивилизацией, загрузив исчерпавший лимит роста биологический мозг в быстро развивающийся кибернетический. Это, может быть, и к лучшему. Если высокоразвитый интеллект сумеет выбраться из миллиардов человеческих тел, тяжелым бременем висящих на экосистеме планеты, биосфера вполне может снова стать такой же живой, какой была до нашего появления.

История Джона Генри

Андриан Крейе

Редактор научного раздела немецкой ежедневной газеты Süeddeutsche Zeitung (Мюнхен)

Находящаяся за рамками серьезных научных обсуждений широкая общественная полемика по поводу мыслящих машин сильно перегружена новой мифологией. В ней есть две основные догмы. Первая состоит в том, что в момент сингулярности пробудится некий синтетический дух, значительно превосходящий по силе человеческий разум. Вторая пугает нас тем, что мыслящие машины одержат верх над человечеством и в конечном счете уничтожат его. При этом обе догмы игнорируют тот факт, что в основе полемики лежит история Джона Генри.

В фольклоре конца XIX века есть персонаж — молотобоец Джон Генри, который погиб, победив в состязании с паровым молотом во время строительства Западно-Виргинской магистрали. «Белые воротнички» и работники умственного труда сейчас сталкиваются с тем, что машины превосходят их в эффективности благодаря развитию искусственного интеллекта. В данном случае ИИ по большей части — синоним цифровой производительности. Все это, конечно, не столь увлекательно, как ожидание сингулярности или конца света. В то же время реальное положение дел с ИИ не так приятно, как представление о том, что если правильно пользоваться машинами, то они всегда будут верно служить своим хозяевам.

Антиутопические взгляды на ИИ, излагаемые в фильмах и книгах, столь же обманчивы. Такие идеи редко связаны с наукой или технологией; в основном люди исходят из собственной природы. Большинство вариаций на тему воображаемого владычества машин проецирует на них человеческий страх перед злом и жестокостью. Машины просто выступают в качестве символа извечного неконтролируемого стремления к самосовершенствованию, усилению и неограниченному развитию.

Перевод полемики в плоскость теологии превращает оптимизм по поводу технологического прогресса в теорию спасения. Как уже неоднократно подтверждено, вероятность появления синтетического духа нулевая. Искусственный интеллект может оказаться случаем наиболее быстрого нарастания сложности в науке и технологии. Но он все еще имитирует человеческую природу и продолжит делать это и дальше. Прежде всего, ему не хватает времени. Искусственный интеллект не может позволить себе роскоши потратить несколько миллиардов лет на работу методом проб и ошибок. Верить в близящийся момент сингулярности, когда ИИ выйдет из под контроля человека и превзойдет его интеллектуально, — то же самое, что верить в технологическое Вознесение. Такие мифы могут быть популярны в островных мирах типа Кремниевой долины. Реальность искусственного интеллекта иная. И она уже здесь.

Искусственный интеллект сегодня глубоко затронул миллиарды людей. И пока главный результат — это улучшение нашей жизни благодаря множащимся цифровым помощникам. Вычисление решений покупателя, паттернов поведения и даже рыночных изменений все-таки больше относится к сфере статистики, чем к мышлению. Однако и эти грубые формы не стоит ни недооценивать, ни переоценивать, даже если настоящий момент Джона Генри еще не наступил. Массы пролетариев всегда можно было заменить мерами по повышению производительности труда или более дешевой рабочей силой. А не существует рабочей силы дешевле и эффективнее, чем машина. Как и паровой молот в истории про Джона Генри, большинство цифровых инструментов лучше людей справятся с высокоспециализированными задачами. Конечно, спрос на мастерство и выдающийся талант никуда не денется. Никакой компьютер не заменит ученого, художника, изобретателя. За бортом останутся «белые воротнички».

По мере роста эффективности и числа навыков искусственного интеллекта он также станет инструментом власти. С наружным наблюдением, военными действиями и пытками лучше справляются сущности, не склонные к эмоциям, конфликтам ценностей или усталости. Однако опасность того, что враждебные или даже смертоносные машины выработают у себя злонамеренное сознание и обратятся против человечества, равна нулю. Свободой воли будут обладать только институты и организации, которые станут использовать ИИ — с добрыми или злыми намерениями.