Власть роботов. Как подготовиться к неизбежному

Чтобы решить ее, необходимо обеспечить разнообразие разработчиков, которые создают, тестируют и применяют алгоритмы ИИ. Поскольку искусственный интеллект неизбежно станет определяющим фактором для нашей экономики и общества, принципиально важно, чтобы эксперты, наиболее глубоко понимающие эту технологию и, следовательно, способные влиять на направление ее развития, представляли общество в целом. Однако прогресс в этом направлении до сих пор был очень скромным. Исследование 2018 года показало, что женщины составляют лишь около 12 % ведущих исследователей ИИ, а представительство меньшинств еще ниже. Как говорит Фей-Фей Ли из Стэнфорда, «если вы посмотрите вокруг — неважно, на группы по исследованию ИИ в компаниях, преподавателей по ИИ в учебных заведениях, докторантов по этому направлению или докладчиков на ведущих конференциях, — то увидите: у нас нет разнообразия. Не хватает женщин, не хватает представителей меньшинств»[319]. Университеты, ведущие технологические компании и практически все руководители высшего звена в области ИИ полны решимости изменить ситуацию. Ли стала соосновательницей одной из самых многообещающих инициатив — AI4ALL. Это организация, нацеленная на привлечение молодых женщин и членов недостаточно представленных групп в сферу исследования искусственного интеллекта. Она организует летние лагеря для талантливых старшеклассников. Организация быстро растет и предлагает летние программы уже в 11 университетских кампусах Соединенных Штатов. Хотя предстоит еще многое сделать, такие программы, как AI4ALL, в сочетании с приверженностью идее инклюзивности при привлечении свежих сил, безусловно, выльются в значительное повышение разнообразия рядов исследователей ИИ в дальнейшие годы и десятилетия. Обеспечение широты взглядов напрямую ведет к появлению более эффективных и непредвзятых систем искусственного интеллекта.

Суперинтеллект и «проблема контроля» как экзистенциальная угроза

Присущий ИИ риск, который затмевает все остальное, — возможность того, что машины, обладающие сверхчеловеческим интеллектом, однажды выйдут из-под нашего контроля и станут угрозой существованию человечества. Вопросы безопасности, использования в качестве оружия и предвзятости алгоритмов — это непосредственные или ближайшие риски. Очевидно, что их необходимо решать безотлагательно, пока не стало слишком поздно. Экзистенциальная угроза, связанная с суперинтеллектом, является намного более умозрительной и почти наверняка отнесенной в будущее на десятилетия, если не на столетие или больше. Тем не менее именно этот риск завладел воображением многих известных людей и удостоился пристального внимания СМИ.

Экзистенциальный риск, присущий ИИ, стал предметом серьезной публичной дискуссии в 2014 году. В мае того года группа ученых, в том числе космолог из Кембриджского университета Стивен Хокинг, эксперт в области ИИ Стюарт Рассел и физики Макс Тегмарк и Фрэнк Вильчек, написала открытое письмо, опубликованное в британской газете Independent, где утверждалось, что появление искусственного суперинтеллекта «станет величайшим событием в истории человека» и что компьютер, обладающий сверхчеловеческими интеллектуальными возможностями, может «переиграть финансовые рынки, превзойти исследователей, перехитрить наших руководителей и изобрести оружие, которое мы даже не понимаем». Письмо предупреждало, что если мы не примем эту угрозу всерьез, то совершим «худшую ошибку в истории» человечества[320].

В том же году философ из Оксфордского университета Ник Бостром опубликовал книгу «Искусственный интеллект: Этапы. Угрозы. Стратегии»[321], быстро ставшую, как это ни удивительно, бестселлером. Бостром открывает повествование мыслью о том, что люди главенствуют на нашей планете исключительно в силу интеллектуального превосходства. Многие животные быстрее и сильнее человека, и на вершину его привел именно мозг. Если появится другая сущность, радикально превосходящая нас по интеллектуальным способностям, ситуация может измениться. По словам Бострома, «как судьба горилл сейчас зависит в большей степени от людей, чем от самих горилл, так и судьба нашего вида будет зависеть от действий машинного суперинтеллекта»[322].