Читаем Сингулярность полностью

Сингулярность

  Создание интеллекта, превосходящего человеческий, произойдет в ближайшие тридцать лет. …Это та самая точка, где наши прежние модели перестают работать, и в свои права вступает новая реальность. Как приближение Сингулярности повлияет на человеческое мировоззрение? И что случится в течение пары месяцев (или пары дней) после этого? В моем распоряжении есть только аналогия, на которую я могу указать: возникновение человечества. Мы окажемся в постчеловеческой эпохе… – это цитата из программной статьи Вернора Винджа «Грядущая технологическая сингулярность», одной из самых часто упоминаемых работ об искусственном интеллекте за последние 25 лет.  

Вернор (Вернон) Стефан Виндж

Зарубежная публицистика / Документальное18+
<p>Вернор Виндж</p><p>Сингулярность</p>

Vernor Vinge

The Coming Technological Singularity What If the Singularity Does Not Happen? The Cookie Monster

* * *<p>Грядущая технологическая сингулярность. Как выжить в постчеловеческую эпоху</p>

Предлагаемая статья была написана для симпозиума VISION-21, спонсированного исследовательским центром НАСА Lewis Research Center и Аэрокосмическим институтом Огайо и проходившего 30–31 марта 1993 года. Ее можно также найти на сервере технических отчетов НАСА как часть документа NASA CP-10129. Слегка измененная версия была опубликована в зимнем выпуске 1993 года Whole Earth Review.

<p>Резюме</p>

В ближайшие тридцать лет у нас появятся технические средства для создания сверхчеловеческого интеллекта. Вскоре после этого эра человека закончится.

Можно ли избежать такого развития событий? И если нет, то можно ли направить эти события таким образом, чтобы у нас была возможность выжить? Этим вопросам посвящена данная статья, в которой представлены некоторые возможные ответы (и указаны некоторые дальнейшие угрозы).

<p>Что такое Сингулярность?</p>

Основной характеристикой текущего столетия было и остается ускорение технического прогресса. Я в данной работе утверждаю, что мы стоим на грани перемены, сравнимой с возникновением на Земле человека. Конкретная причина этой перемены – неизбежное создание с помощью техники сущностей, чей интеллект превзойдет человеческий. Средств, которыми наука может добиться этого прорыва, существует несколько (и это усиливает уверенность в его неизбежности):

– Развитие компьютеров, «проснувшихся» и сверхчеловечески умных. (До сих пор основные споры про ИИ вертелись вокруг вопроса, сможем ли мы создать эквивалент человека в виде машины. Если ответ будет положительным, то вне, всяких сомнений, вскоре после этого можно будет создать и более разумные существа.)

– Сотрудничество человека с компьютером может стать столь тесным, что пользователей вполне реально будет рассматривать как обладателей сверхчеловеческого интеллекта.

– Большие компьютерные сети (вместе с пользователями) могут «осознать себя» как сущности, обладающие сверхчеловеческим разумом.

– Биология может дать средства развития и совершенствования природного человеческого интеллекта.

Первые три возможности во многом зависят от развития аппаратного обеспечения компьютеров. График прогресса в этой отрасли в последние десятилетия был на удивление стабилен [16].

Основываясь на этой тенденции, я считаю, что создание интеллекта, превосходящего человеческий, произойдет в ближайшие тридцать лет. (Чарльз Платт [19] указывает, что энтузиасты ИИ говорят то же самое последние тридцать лет. Чтобы не прятаться за неоднозначностью относительного времени, скажу конкретнее: меня удивит, если это событие произойдет до 2005 или после 2030 года.)

Каковы следствия этого события? Прогресс, подхлестнутый интеллектом сильнее человеческого, пойдет намного быстрее. Действительно, мы не видим никаких причин, чтобы сам по себе прогресс не подразумевал возможности создания еще более интеллектуальных сущностей – и в еще более короткое время. Наилучшую аналогию этому я вижу в прошлой эволюции: животные умеют приспосабливаться к трудностям и «изобретать» способы их преодоления, но не быстрее, чем делает свою работу естественный отбор: в случае естественного отбора мир действует как симулятор самого себя. Мы, люди, обладаем возможностью строить модель мира у себя в голове и на ней прокручивать всяческие «что, если»; многие проблемы мы можем решать в тысячи раз быстрее естественного отбора. Теперь, создавая средства, еще сильнее ускоряющие этот процесс, мы входим в режим, который так же радикально отличается от нашего человеческого прошлого, как отличаемся мы сами от низших животных.

Человеческому взгляду эта перемена представится как выбрасывание на свалку всех прежних правил (вероятно, произойдет это в мгновение ока), как экспоненциальное разбегание из-под контроля без малейшей надежды его остановить. События, которые, как считалось ранее, могли случиться «где-то через миллион лет» (если вообще могли), с большой вероятностью произойдут в следующем веке. (Грег Бир в [4] рисует картину коренных перемен, происходящих в считанные часы.)

Я думаю, правильно будет назвать эту перемену сингулярностью (в данной же статье – Сингулярностью, с большой буквы). Это та самая точка, где наши прежние модели перестают работать и в свои права вступает новая реальность. Чем ближе мы подбираемся к этой точке, тем сильнее нависает эта угроза над всей человеческой жизнью, и упоминание о ней превращается уже в общее место. Но когда она все же осуществится, это может оказаться огромной неожиданностью – и еще большей неизвестностью. Некоторые (очень немногие) видели это еще в 50-х годах XX века. Стэн Улам [27] так перефразировал Джона фон Неймана:

Перейти на страницу:

Похожие книги

21 урок для XXI века
21 урок для XXI века

«В мире, перегруженном информацией, ясность – это сила. Почти каждый может внести вклад в дискуссию о будущем человечества, но мало кто четко представляет себе, каким оно должно быть. Порой мы даже не замечаем, что эта полемика ведется, и не понимаем, в чем сущность ее ключевых вопросов. Большинству из нас не до того – ведь у нас есть более насущные дела: мы должны ходить на работу, воспитывать детей, заботиться о пожилых родителях. К сожалению, история никому не делает скидок. Даже если будущее человечества будет решено без вашего участия, потому что вы были заняты тем, чтобы прокормить и одеть своих детей, то последствий вам (и вашим детям) все равно не избежать. Да, это несправедливо. А кто сказал, что история справедлива?…»Издательство «Синдбад» внесло существенные изменения в содержание перевода, в основном, в тех местах, где упомянуты Россия, Украина и Путин. Хотя это было сделано с разрешения автора, сравнение версий представляется интересным как для прояснения позиции автора, так и для ознакомления с политикой некоторых современных российских издательств.Данная версии файла дополнена комментариями с исходным текстом найденных отличий (возможно, не всех). Также, в двух местах были добавлены варианты перевода от «The Insider». Для удобства поиска, а также большего соответствия теме книги, добавленные комментарии отмечены словом «post-truth».Комментарий автора:«Моя главная задача — сделать так, чтобы содержащиеся в этой книге идеи об угрозе диктатуры, экстремизма и нетерпимости достигли широкой и разнообразной аудитории. Это касается в том числе аудитории, которая живет в недемократических режимах. Некоторые примеры в книге могут оттолкнуть этих читателей или вызвать цензуру. В связи с этим я иногда разрешаю менять некоторые острые примеры, но никогда не меняю ключевые тезисы в книге»

Юваль Ной Харари

Обществознание, социология / Самосовершенствование / Зарубежная публицистика / Документальное
Лучшее в нас. Почему насилия в мире стало меньше
Лучшее в нас. Почему насилия в мире стало меньше

Сталкиваясь с бесконечным потоком новостей о войнах, преступности и терроризме, нетрудно поверить, что мы живем в самый страшный период в истории человечества.Но Стивен Пинкер показывает в своей удивительной и захватывающей книге, что на самом деле все обстоит ровно наоборот: на протяжении тысячелетий насилие сокращается, и мы, по всей вероятности, живем в самое мирное время за всю историю существования нашего вида.В прошлом войны, рабство, детоубийство, жестокое обращение с детьми, убийства, погромы, калечащие наказания, кровопролитные столкновения и проявления геноцида были обычным делом. Но в нашей с вами действительности Пинкер показывает (в том числе с помощью сотни с лишним графиков и карт), что все эти виды насилия значительно сократились и повсеместно все больше осуждаются обществом. Как это произошло?В этой революционной работе Пинкер исследует глубины человеческой природы и, сочетая историю с психологией, рисует удивительную картину мира, который все чаще отказывается от насилия. Автор помогает понять наши запутанные мотивы — внутренних демонов, которые склоняют нас к насилию, и добрых ангелов, указывающих противоположный путь, — а также проследить, как изменение условий жизни помогло нашим добрым ангелам взять верх.Развенчивая фаталистические мифы о том, что насилие — неотъемлемое свойство человеческой цивилизации, а время, в которое мы живем, проклято, эта смелая и задевающая за живое книга несомненно вызовет горячие споры и в кабинетах политиков и ученых, и в домах обычных читателей, поскольку она ставит под сомнение и изменяет наши взгляды на общество.

Стивен Пинкер

Обществознание, социология / Зарубежная публицистика / Документальное
Открытый заговор
Открытый заговор

Работа «Открытый Заговор» принадлежит перу известного английского писателя Герберта Уэллса, широко известного в России в качестве автора научно-фантастических романов «Машина времени», «Человек-невидимка», «Война миров» и другие. Помимо этого, Уэллс работал в жанрах бытового романа, детской, научно-популярной литературы и публицистики. «Открытый Заговор» – редкий для английского писателя жанр, который можно назвать политическим. Предлагаемую работу можно даже назвать манифестом, содержащим призыв к человечеству переустроить мир на новых началах.«Открытый Заговор» ранее не переводился на русский язык и в нашей стране не издавался. Первая версия этой работы увидела свет в 1928 году. Несколько раз произведение перерабатывалось и переиздавалось. Настоящая книга является переводом с издания 1933 года. Суть предлагаемого Уэллсом переустройства мира – в демонтаже суверенных государств и создании вместо них Мирового государства, возглавляемого Мировым правительством. Некоторые позиции программы «Открытого Заговора» выглядят утопичными, но, вместе с тем, целый ряд положений программы уже воплощен в жизнь, а какие-то находятся в стадии реализации. Несмотря на то что работа писалась около 90 лет назад, она помогает лучше понять суть процессов, происходящих сегодня в мире.

Герберт Джордж Уэллс , Герберт Уэллс

Государство и право / Политика / Зарубежная публицистика / Документальное