Илон Маск

В 2013 году на праздновании дня рождения Маска в долине Напа они вступили в жаркую дискуссию в присутствии других гостей, в том числе Люка Носека и Рида Хоффмана. Маск утверждал, что если не предусмотреть меры предосторожности, то системы искусственного интеллекта могут заменить человека, сделав наш вид неактуальным или даже вымершим.

Пейдж возразил. Почему, спрашивает он, имеет значение, если машины когда-нибудь превзойдут человека по интеллекту и даже сознанию? Это будет просто следующая ступень эволюции.

Человеческое сознание, - возразил Маск, - это драгоценное мерцание света во Вселенной, и мы не должны позволить ему погаснуть. Пейдж счел это сентиментальной чепухой. Если сознание можно воспроизвести в машине, то почему бы ей не быть столь же ценной? Возможно, когда-нибудь мы даже сможем загрузить в машину свое собственное сознание. Он обвинил Маска в том, что тот является "спекулянтом", то есть человеком, который предвзято относится к своему виду. "Ну да, я за человечество", - ответил Маск. "Мне чертовски нравится человечество, чувак".

Поэтому Маск был обескуражен, когда в конце 2013 года узнал, что Пейдж и Google планируют купить DeepMind. Маск и его друг Люк Носек попытались собрать финансирование, чтобы остановить сделку. На одной из вечеринок в Лос-Анджелесе они отправились в кладовку на верхнем этаже, чтобы провести часовой разговор по Skype с Хассабисом. "Будущее ИИ не должно контролироваться Ларри, - сказал ему Маск.

Попытка не удалась, и в январе 2014 г. было объявлено о приобретении компанией Google компании DeepMind. Первоначально Пейдж согласился создать "совет по безопасности", в который вошел Маск. Первое и единственное заседание было проведено в компании SpaceX. На нем присутствовали Пейдж, Хассабис, председатель совета директоров Google Эрик Шмидт, а также Рид Хоффман и некоторые другие. "Илон понял, что совет - это полная чушь, - говорит Сэм Теллер, бывший в то время его руководителем. "Эти ребята из Google не намерены заниматься вопросами безопасности ИИ или делать что-либо, что ограничило бы их власть".

Маск стал публично предупреждать об опасности. "Наша самая большая экзистенциальная угроза, - заявил он в 2014 году на симпозиуме в Массачусетском технологическом институте, - это, вероятно, искусственный интеллект". Когда в том же году компания Amazon анонсировала своего цифрового помощника-чатбота Alexa, а за ним последовал аналогичный продукт от Google, Маск начал предупреждать о том, что произойдет, когда эти системы станут умнее человека. Они могут превзойти нас и начать относиться к нам как к домашним животным. "Мне не нравится идея быть домашней кошкой", - сказал он. Лучший способ предотвратить проблему - обеспечить тесное взаимодействие и партнерство искусственного интеллекта с человеком. "Опасность возникает тогда, когда искусственный интеллект отделяется от человеческой воли".

Поэтому Маск начал организовывать серию ужинов с участием членов своей старой мафии PayPal, включая Тиля и Хоффмана, посвященных способам противодействия Google и обеспечения безопасности ИИ. Он даже обратился к президенту Обаме, который согласился на встречу один на один в мае 2015 года. Маск объяснил, в чем заключается риск, и предложил регулировать его. "Обама все понял", - говорит Маск. "Но я понял, что это не поднимется до уровня того, что он будет что-то делать".

Затем Маск обратился к Сэму Альтману, плотному предпринимателю, занимающемуся разработкой программного обеспечения, любителю спортивных автомобилей и любителю выживания, который за своей полированной внешностью обладал схожей с Маском интенсивностью. Альтман познакомился с Маском несколько лет назад и провел с ним три часа в беседе, пока они осматривали завод SpaceX. "Было забавно, что некоторые инженеры при виде приближающегося Илона разбегались или отворачивались", - рассказывает Альтман. "Они боялись его. Но я был поражен тем, насколько детально он разбирался в каждой маленькой детали ракеты".

На небольшом ужине в Пало-Альто Альтман и Маск решили стать соучредителями некоммерческой лаборатории по исследованию искусственного интеллекта, которую они назвали OpenAI. Она будет предоставлять программное обеспечение с открытым исходным кодом и попытается противостоять растущему доминированию Google в этой области. Тиль и Хоффман присоединились к Маску и внесли деньги. "Мы хотели иметь что-то вроде Linux-версии искусственного интеллекта, которая не контролировалась бы одним человеком или корпорацией", - говорит Маск. "Цель заключалась в том, чтобы повысить вероятность безопасного развития ИИ, полезного для человечества".