Власть роботов. Как подготовиться к неизбежному

На мой взгляд, экзистенциальную угрозу со стороны ИИ нужно принимать всерьез. Я очень рад, что исследователи из таких организаций, как Институт будущего человечества, реально работают над этой проблемой. Я считаю, именно так и должны распределяться ресурсы: этой проблеме в настоящий момент самое место в академических кругах. Пока очень трудно обосновать государственное финансирование программы масштабов Манхэттенского проекта. Вряд ли разумна и любая попытка встраивания этого вопроса в и без того неэффективный политический процесс. Мы действительно хотим, чтобы политики, почти или совершенно ничего не знающие об ИИ, писали твиты об опасности сверхразумных машин? С учетом очень ограниченной способности правительства США решать что-либо, хайп вокруг футуристической экзистенциальной угрозы или ее политизация лишь отвлекут от реальных, уже существующих рисков, таких как превращение ИИ в оружие и проблемы безопасности и предвзятости. Вот задачи, в решение которых мы должны немедленно начать вкладывать существенные ресурсы.

Острая необходимость регулирования

Из знакомства с рисками, представленными в этой главе, следует лишь одно — важность государственного регулирования в сфере ИИ продолжает возрастать и становится всеобъемлющей. Я, однако, считаю большой ошибкой чрезмерное регулирование или ограничение исследований искусственного интеллекта. Скорее всего, это будет неэффективно в глобальном масштабе, поскольку исследования ведутся повсюду. В частности, Китай активно конкурирует с Соединенными Штатами и другими западными странами, расширяя границы возможного для ИИ. Ограничения на фундаментальные исследования, очевидно, поставят нас в невыгодное положение, а мы не можем себе позволить отстать от Китая в борьбе за место на переднем крае развития этой технологии, оказывающей огромное влияние на нашу жизнь.

Правильнее было бы регулирование конкретных сфер применения искусственного интеллекта. В отношении беспилотных автомобилей и средств медицинской диагностики на основе ИИ правила уже выработаны, поскольку эти сферы и без того регулируются. А вот в областях распознавания лиц и использования алгоритмов в системе уголовного судопроизводства нет практически никаких гарантий эффективного и справедливого применения технологии.

С учетом темпов развития искусственного интеллекта и сложности затронутых вопросов я считаю нереалистичным ожидать, что Конгресс США, да и любой другой парламентский орган, своевременно разработает необходимые нормы и воплотит их в жизнь. Похоже, что лучше всего было бы создать независимое государственное ведомство с полномочиями регулятора специально для сферы искусственного интеллекта — что-то вроде Администрации по контролю за продуктами питания и лекарствами, Федерального управления гражданской авиации или Комиссии по ценным бумагам и биржам. Любое из этих управлений — как и их аналоги во всем мире, например Европейское агентство по лекарственным средствам, — имеет собственный штат экспертов, позволяющий решать вопросы в пределах их компетенции. То же самое следует сделать и в сфере искусственного интеллекта. Орган, регулирующий создание и использование ИИ, должен получить от конгресса широкие полномочия и финансирование и иметь право разрабатывать конкретные нормы, причем намного быстрее и эффективнее, чем законодательный орган.

Скорее всего, сторонники либертарианских взглядов станут возражать и обоснованно указывать, что подобный государственный орган будет таким же неэффективным, как и весь существующий регуляторный аппарат. Агентство по контролю ИИ, безусловно, будет поддерживать тесные связи с крупными технологическими компаниями, и мы почти наверняка столкнемся с пресловутой практикой «вращающихся дверей», когда чиновники, уходящие с госслужбы, находят теплые места в подконтрольном частном секторе. Велик и риск «приватизации регулирующего органа» и злоупотребления влиянием со стороны технологической отрасли. Это небеспочвенные опасения, тем не менее для меня совершенно очевидно, что подобное ведомство — оптимальное решение. Альтернативой будет бездействие, что, безусловно, худший выбор. Тесные отношения между регулирующим органом и компаниями, разрабатывающими и использующими технологии ИИ, это, как всегда, палка о двух концах. Поскольку правительство не может конкурировать за ведущих специалистов в области ИИ, предлагая им зарплаты и условия, характерные для хай-тека, сотрудничество ведомства с частным сектором, пожалуй, единственная возможность идти в ногу с достижениями в этой сфере. Идеального решения не существует, но возможен плодотворный союз частного сектора, научных кругов и властей, в центре которого стоит регулирующий орган, достаточно компетентный, чтобы направлять развитие в нужную сторону. Это значительно приблизило бы нас к гарантиям безопасного, инклюзивного и справедливого применения ИИ.

Заключение ИИ: два варианта будущего