Читаем Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир полностью

Осенью 2014 года Институту будущего жизни было меньше года от роду, когда под его эгидой это растущее сообщество собралось на закрытый саммит257 в Пуэрто-Рико. Его организатором выступил Макс Тегмарк, космолог и физик из Массачусетского технологического института, и за образец была взята основополагающая конференция258, состоявшаяся в 1975 году в конференц-центре Asilomar, на которой ведущие генетики мира встретились, чтобы обсудить, не приведет ли их работа – редактирование генов – к уничтожению человечества. На приглашениях, разосланных институтом, были две фотографии: на одной был изображен пляж в Сан-Хуане, на другой – какой-то бедолага, раскапывающий свой «Фольксваген-жук», утонувший в снежном сугробе (смысл был такой: «В начале января в Пуэрто-Рико вам будет гораздо веселее»). Было также обещание, что прессы на мероприятии не будет (смысл такой: «Вы можете свободно обсуждать свои страхи по поводу будущего искусственного интеллекта, не опасаясь, что назавтра вас будут дразнить “Терминатором”»). Эта встреча за закрытыми дверями получила название «Будущее искусственного интеллекта: возможности и вызовы». Среди прочих, присутствовали Демис Хассабис и Шейн Легг. Илон Маск тоже. В первое воскресенье 2015 года, через шесть недель после обеда с Марком Цукербергом, Маск вышел на сцену, чтобы обсудить угрозу «интеллектуального взрыва»259, то есть момента, когда искусственный интеллект внезапно достигнет уровня, который не предвидели даже эксперты. В этом, по его словам, заключен большой риск260: технология может внезапно перейти в опасную зону, и никто этого не заметит. Это был отзвук предостережений Бострома, который также выступал на сцене в Пуэрто-Рико, но Маск даже усилил его посыл.

Яан Таллинн, когда основал Институт будущего жизни, обещал платить по 100 000 долларов в год. В Пуэрто-Рико Маск решил выделить 10 миллионов261 долларов на проекты по изучению вопросов безопасности ИИ. Он собирался публично объявить об этом новом подарке262, но передумал, опасаясь, что это новость отвлечет внимание от предстоящего запуска ракеты SpaceX и ее последующей посадки на автономный плавучий космодром в Тихом океане. Кто-то напомнил ему, что на конференции нет репортеров263 и что присутствующие были связаны «правилами Чатем-Хауса», то есть согласились не разглашать то, о чем говорилось на совещании в Пуэрто-Рико, но Маск все же был настороже. Поэтому он сделал объявление, не назвав конкретную цифру264. Через несколько дней, после того как его ракета разбилась во время попытки посадки, он сообщил о гранте в размере 10 миллионов долларов в своем твите265. Для Маска угроза со стороны сверхразума была лишь одной из многих забот. Главной же его заботой, казалось, было привлечь к себе максимум внимания. «Он очень занятой человек, и у него нет времени копаться в нюансах вопросов, но он понимает основные контуры проблемы, – говорит Таллинн. – Он также искренне наслаждается вниманием прессы, чем объясняются его твиты, похожие на лозунги, и многое другое. Между Илоном и прессой существует симбиоз, который раздражает многих исследователей ИИ, но это цена, которую наше сообщество должно заплатить».

На конференции Тегмарк распространил открытое письмо266, в котором стремился оформить общие взгляды тех, кто собрался в Пуэрто-Рико. «Мы считаем, что исследования267, нацеленные на то, как сделать системы искусственного интеллекта надежными и полезными, являются одновременно важными и своевременными», – говорилось в письме, а дальше шли разного рода рекомендации – от подготовки прогнозов состояния рынка труда до разработки инструментов, которые могли бы обеспечить безопасность и надежность технологий ИИ. Тегмарк отправил копию письма всем присутствующим, чтобы каждый мог под ним подписаться. Тон письма был сдержанным, а содержание простым – все было в рамках здравого смысла, – но его подписание фактически означало, что вы привержены идее безопасности ИИ или, по меньшей мере, готовы выслушать глубокие опасения таких людей, как Легг, Таллинн и Маск. Одним из тех, кто присутствовал на конференции, но не подписал письмо, был Кент Уокер268, главный юрисконсульт Google, который в Пуэрто-Рико был скорее наблюдателем, чем участником, поскольку его компания стремилась расширить свои усилия по разработки ИИ как в Калифорнии (силами Google Brain), так и в Лондоне (силами DeepMind). Но большинство других участников подписались, в том числе один из ведущих сотрудников Google Brain269 Илья Суцкевер.

Перейти на страницу:

Похожие книги

12 недель в году
12 недель в году

Многие из нас четко знают, чего хотят. Это отражается в наших планах – как личных, так и планах компаний. Проблема чаще всего заключается не в планировании, а в исполнении запланированного. Для уменьшения разрыва между тем, что мы хотели бы делать, и тем, что мы делаем, авторы предлагают свою концепцию «года, состоящего из 12 недель».Люди и компании мыслят в рамках календарного года. Новый год – важная психологическая отметка, от которой мы привыкли отталкиваться, ставя себе новые цели. Но 12 месяцев – не самый эффективный горизонт планирования: нам кажется, что впереди много времени, и в результате мы откладываем действия на потом. Сохранить мотивацию и действовать решительнее можно, мысля в рамках 12-недельного цикла планирования. Эта система проверена спортсменами мирового уровня и многими компаниями. Она поможет тем, кто хочет быть эффективным во всем, что делает.На русском языке публикуется впервые.

Брайан Моран , Майкл Леннингтон

Зарубежная образовательная литература, зарубежная прикладная, научно-популярная литература
1991. Хроника войны в Персидском заливе
1991. Хроника войны в Персидском заливе

Книга американского военного историка Ричарда С. Лаури посвящена операции «Буря в пустыне», которую международная военная коалиция блестяще провела против войск Саддама Хусейна в январе – феврале 1991 г. Этот конфликт стал первой большой войной современности, а ее планирование и проведение по сей день является своего рода эталоном масштабных боевых действий эпохи профессиональных западных армий и новейших военных технологий. Опираясь на многочисленные источники, включая рассказы участников событий, автор подробно и вместе с тем живо описывает боевые действия сторон, причем особое внимание он уделяет наземной фазе войны – наступлению коалиционных войск, приведшему к изгнанию иракских оккупантов из Кувейта и поражению армии Саддама Хусейна.Работа Лаури будет интересна не только специалистам, профессионально изучающим историю «Первой войны в Заливе», но и всем любителям, интересующимся вооруженными конфликтами нашего времени.

Ричард С. Лаури

Зарубежная образовательная литература, зарубежная прикладная, научно-популярная литература / История / Прочая справочная литература / Военная документалистика / Прочая документальная литература
100 способов уложить ребенка спать
100 способов уложить ребенка спать

Благодаря этой книге французские мамы и папы блестяще справляются с проблемой, которая волнует родителей во всем мире, – как без труда уложить ребенка 0–4 лет спать. В книге содержатся 100 простых и действенных советов, как раз и навсегда забыть о вечерних капризах, нежелании засыпать, ночных побудках, неспокойном сне, детских кошмарах и многом другом. Всемирно известный психолог, одна из основоположников французской системы воспитания Анн Бакюс считает, что проблемы гораздо проще предотвратить, чем сражаться с ними потом. Достаточно лишь с младенчества прививать малышу нужные привычки и внимательно относиться к тому, как по мере роста меняется характер его сна.

Анн Бакюс

Зарубежная образовательная литература, зарубежная прикладная, научно-популярная литература / Детская психология / Образование и наука