Сверхдержавы искусственного интеллекта

Школы по всему миру также могут извлечь много полезного из американских экспериментов в области социального и эмоционального воспитания, направленного на развитие навыков, которые окажутся неоценимыми в гуманном обществе будущего. С точки зрения отношения к труду было бы мудро взглянуть на культуру производства в Швейцарии и Японии, где стремление к совершенству превратило обычную работу в средство самовыражения и едва ли не искусство. Между тем насчитывающие множество участников и решающие важные задачи волонтерские программы в таких странах, как Канада и Нидерланды, демонстрируют, что пора менять наше отношение к самому понятию «работа». Китайская культура тоже может быть источником знаний и опыта, когда дело касается ухода за пожилыми людьми и взаимопонимания между поколениями. Сближение государственной политики и личных ценностей означает, что мы обязательно должны найти время для новых экспериментов в области определения и измерения прогресса, таких как решение Бутана использовать «валовое национальное счастье» в качестве ключевого показателя развития. Наконец, наши правительства должны будут постоянно работать сообща в поисках новых компромиссов в области обмена данными и их защиты, цифровых монополий, онлайн-безопасности и алгоритмической предвзятости. Мы можем многому научиться, сравнивая различные подходы к этим вопросам регулирующих органов в Европе, Соединенных Штатах и Китае. В свое время Европа выбрала жесткий подход – компания Google, например, была оштрафована за несоблюдение антимонопольного законодательства и попытки отобрать у технологических компаний контроль над данными, – но Китай и Соединенные Штаты позволяют технологиям и рынкам свободно развиваться, прежде чем вмешиваются в их деятельность. Оба подхода, по сути, компромиссные, при этом одни государства ставят конфиденциальность выше технического прогресса, а другие – наоборот. Если мы хотим построить процветающее общество на основе технологий, нам нужно отслеживать и изучать реальные последствия и той и другой политики в разных географических регионах и оставаться открытыми для разных подходов к управлению ИИ.

Как создается история ИИ

Ежедневный шквал информации об ИИ может вызвать ощущение, что люди теряют контроль над собственными судьбами. Пророчества о господстве роботов и формировании «бесполезного класса» безработных пагубно влияют на наше сознание, вызывая гнетущее чувство беспомощности перед лицом всемогущих технологий. Это чувство заставляет нас забыть об очень важном факте: будущее искусственного интеллекта зависит от действий людей.

Мы не пассивно наблюдаем за историей ИИ, а пишем ее. Это означает, что наши представления о будущем ИИ вполне могут подействовать как самосбывающееся пророчество. Если мы говорим себе, что ценность человека заключается исключительно в его вкладе в экономику, мы будем и поступать соответственно. Машины вытеснят людей с их рабочих мест, и мы можем оказаться в извращенном мире, подобном тому, который показала нам Хао Цзинфан в своем рассказе «Складной Пекин», где так называемые «полезные люди» и «бесполезные массы» разделены гранью ночи и дня. Но исход кризиса ИИ еще не предрешен. Сама угроза его возникновения связана с идеологией, определяющей роль человека всего лишь как сумму экономических показателей, и говорит о том, что человечество сбилось с верного пути. Мы были посланы на Землю не для того, чтобы постоянно делать одно и то же. И нам не нужно тратить свою жизнь, усердно накапливая богатства, чтобы после нашей смерти их могли получить наши дети, чья жизнь станет всего лишь новой итерацией общечеловеческого алгоритма.

Но если мы верим, что смысл жизни не сводится к погоне за материальным благополучием, то ИИ может оказаться просто инструментом, способным помочь нам глубже понять ее значение.

Ум и сердце человека

В самом начале своей карьеры исследователя ИИ, поступая в 1983 году в Университет Карнеги – Меллона, я украсил свое заявление некоторыми философскими отступлениями – например, я описывал ИИ как «количественную оценку человеческого мышления, объяснение человеческого поведения» и «решающий шаг» человечества к пониманию самого себя. Это была лаконичная дистилляция романтических представлений об ИИ того времени, и я черпал в них вдохновение долгие годы. С тех пор прошло 35 лет, я стал старше и, надеюсь, немного мудрее, и теперь я вижу вещи иначе. Программы на основе ИИ, созданные нами, справляются со многими задачами настолько же хорошо или даже лучше, чем мозг человека. Как исследователь и ученый, я горжусь этими достижениями. Но если первоначальной целью было по-настоящему понять себя и других людей, то эти десятилетия «прогресса» не дали мне ничего. По сути, я ошибся в анатомии. Вместо того чтобы пытаться превзойти человеческий мозг, я должен был попытаться понять человеческое сердце.