Власть роботов. Как подготовиться к неизбежному

Это разительный контраст с требованием недовольных сотрудников Google выйти из борьбы за контракт с Пентагоном по облачным вычислениям JEDI. Другая оборонная инициатива — проект Maven по созданию алгоритмов компьютерного зрения для анализа изображений, собранных американскими военными дронами, — еще сильнее разъярила работающих в Google. В 2018 году более 3000 сотрудников компании подписали петицию протеста против этого проекта, а некоторые технические специалисты ушли из компании[261]. Как и в случае JEDI, Google в конечном счете свернула проект. Разумеется, сотрудники компании имели полное право выражать свое мнение, но я усматриваю в этой ситуации очевидную и вызывающую обеспокоенность асимметрию. Мысль о том, что работники Baidu или Tencent могли бы подать аналогичный протест (или стали бы его подавать), попросту не приходит в голову. Невозможно обойти вниманием тот факт, что свободы, которыми пользуются граждане демократических государств, не являются естественными человеческими правами, существующими безусловно; это политические права, которые необходимо защищать от авторитаризма. Уровень развития технологии искусственного интеллекта в США и Китае выравнивается. Непонятно, как Соединенные Штаты надеются сохранить конкурентоспособность в области национальной безопасности, если такие компании, как Google, не хотят сотрудничать с американскими военными и силовыми ведомствами, в то время как их китайские коллеги обязаны помогать авторитарной власти, причем эта обязанность выражена настолько явно, что даже закреплена в конституции.

Очевидно, что Соединенные Штаты и другие страны Запада должны очень серьезно отнестись к стремительному взлету Китая в области искусственного интеллекта. Это, скорее всего, потребует увеличения правительственной поддержки фундаментальных исследований в университетах. Также необходимо, чтобы США сохранили одно из своих самых важных преимуществ — то, что их университеты и технологические компании являются центрами притяжения для профессионалов всего мира. Следовательно, США должны быть открытыми для иммиграции, о чем убедительно свидетельствует биография 23 ведущих исследователей ИИ, которых я опросил в ходе работы над книгой «Архитекторы интеллекта». Девятнадцать из них в настоящее время работают в США. Однако больше половины из этих 19 человек родились за пределами Соединенных Штатов в таких странах, как Австралия, Китай, Египет, Франция, Израиль, Родезия (теперь Зимбабве), Румыния и Великобритания. Если Соединенные Штаты перестанут привлекать самых ярких компьютерщиков со всего мира, Китай неизбежно получит преимущество, поскольку продолжает тратить больше денег на образование своего населения, по численности примерно в четыре раза превышающего население США.

Превращение китая в полицейское государство

Нигде синергия авторитарной системы власти Китая и коммерческой экосферы искусственного интеллекта не проявляется очевиднее, чем в растущем кластере стартапов, занимающихся технологией распознавания лиц. В начале 2020 года четыре из них — SenseTime, CloudWalk, Megvii и Yitu — достигли статуса «единорогов», то есть компаний с рыночной стоимостью более $1 млрд[262]. Пока аналитики спорят, приблизился ли Китай к паритету с Соединенными Штатами в развитии технологии искусственного интеллекта, не приходится сомневаться, что в сфере алгоритмов глубокого обучения, используемых для анализа и распознавания лиц и других особенностей людей, китайские компании являются абсолютными лидерами. Как и в других областях применения искусственного интеллекта в Китае, важнейшей движущей силой этого процесса является доступ к огромному массиву данных, на которых можно обучать машинные алгоритмы. По оценкам, в 2020 году в Китае насчитывалось 300 млн камер слежения. Таким образом, с точки зрения доступности цифровых фотографий лиц во всех мыслимых ситуациях и под любыми углами Китай с большим отрывом является мировым лидером.