Сверхдержавы искусственного интеллекта

Каждый из описанных рисков связан с болезненными этическими вопросами. Так как же обеспечить сосуществование на дорогах миллионов управляемых людьми грузовиков и беспилотных транспортных средств, экономящих миллиарды долларов и миллионы рабочих часов? Чем должен руководствоваться беспилотный автомобиль, принимая решение, в какую машину врезаться? Как алгоритм автономного транспортного средства должен оценивать жизнь его владельца? Должен ли ваш самоуправляемый автомобиль пожертвовать вашей жизнью, чтобы спасти жизни трех других людей? Таковы вопросы, которые не дают покоя моралистам. Эти же вопросы могут задержать принятие законов, необходимых для внедрения автономных транспортных средств, и втянуть компании, специализирующиеся на ИИ, в многолетние судебные тяжбы. Они вполне могут привести к тому, что американские политики, уже имевшие неприятный опыт стычек с оппонентами, начнут ставить беспилотному транспорту палки в колеса. Мы уже видели первые признаки этого, когда профсоюзы водителей грузовиков успешно лоббировали исключение грузовых автомобилей из принятых в 2017 году законов, которые должны были ускорить внедрение автономных транспортных средств.

Я верю, что китайское правительство будет рассматривать эти непростые темы как важные проблемы, требующие изучения, но не как повод препятствовать внедрению технологии, способной в недалеком будущем спасти десятки, если не сотни тысяч жизней. Я понимаю, что большинство американцев могут не принять эту точку зрения, но для китайской политической культуры не так характерно стремление к полному консенсусу по морально-этическим вопросам. Речь идет о более важном общественном благе – возможности спасти множество жизней в долгосрочной перспективе, – и это само по себе станет достаточным основанием, чтобы начать внедрять инновацию, а рассмотрение юридических и моральных тонкостей оставить на потом. Опять же, я не призываю правительства США и Европы подражать техно-утилитарному подходу, применяемому в Китае: каждая страна выбирает свой путь, основываясь на собственных культурных ценностях. Но важно понять и позицию Китая, и то, как она повлияет на скорость развития искусственного интеллекта.

Ускорение этого процесса будет означать все ту же борьбу за ИИ, в ходе которой местные чиновники сделают все возможное в надежде на повышение. Они будут привлекать с помощью субсидий лучшие компании, работающие с ИИ, а мэры городов и губернаторы провинций поспешат первыми реализовать самые громкие проекты, такие как ИИ-консультанты для врачей государственных больниц, создание сети маршрутов грузовых беспилотников и «Умный город», оптимизирующий потоки и график уличного движения. Они будут поддерживать эти проекты как ради собственного, так и ради общественного блага, не очень задумываясь о проблемах, которые могли бы отпугнуть американских политиков, боящихся рисковать. Я не пытаюсь дать этическую оценку ни одной из этих двух систем. И утилитарные методы управления, и сугубо правовой подход имеют свои уязвимые стороны и недостатки. Открытость Америки для иммиграции и уважение прав личности всегда помогали ей привлекать самых одаренных ученых из разных стран мира. Именно так в США оказались и Энрико Ферми, и Альберт Эйнштейн, и многие современные ведущие ученые в области искусственного интеллекта. С другой стороны, «вертикальная» модель экономической модернизации и рьяное стремление рядовых чиновников претворить в жизнь распоряжения Центрального правительства могут привести к расточительным тратам и долгам. Но в данном случае основа для освоения потенциала ИИ уже была подготовлена за годы социального и экономического строительства, и теперь техно-утилитарный подход Китая дает ему определенное преимущество. Готовность китайского правительства пойти на риск позволяет ему делать большие ставки на революционные технологии, а его практический подход будет способствовать их скорейшему внедрению. Имея в виду эти сильные и слабые стороны, связанные с особенностями национальной культуры, мы можем построить график внедрения ИИ и посмотреть, как некоторые его продукты изменят мир вокруг нас.

Глава 5. Четыре волны искусственного интеллекта

В 2017 году я впервые услышал, как Дональд Трамп говорит по-китайски. Во время первой поездки президента США в Китай его выступление с приветствием, адресованным участникам крупной технической конференции, транслировалось на большой экран.

Он начал свою речь на английском, а затем резко перешел на китайский.

«ИИ изменяет мир, – сказал он на безупречном китайском, но с типичным для Трампа напором. – И разработки iFlyTek – это что-то фантастическое».