Млечный Путь № 3 2020

Серьезной опасности можно ожидать от ИИ, если он действительно заимствует человеческую психологию. Это возможно в трех случаях. Первый - воспитание конкретного ИИ человеком с опасной для людей психологией (Станислав Лем, "Ананке"). Второй случай - изучение ИИ истории людей и выборе зла; этого можно избежать, поставив критерием со знаком минус количество жертв на ограниченном интервале, скажем, за поколение (чтобы ИИ не вздумал устроить текущую гекатомбу ради будущего светлого царства, как некоторые люди). Третий случай - эволюция системы ИИ, похожая на эволюцию людей, выбор конкретным ИИ зла, и распространение этого выбора на всю деятельность. Это маловероятно, поскольку человечество в целом вроде бы зло не выбирает.

В этой статье мы пользовались интуитивным представлением об ИИ, но обещали более серьезное. Вот оно:

искусственный интеллект - это (1) обработчик информации, (2) созданный иначе, нежели обучением в обычном мире дитеныша человека, (3) непонятно как действующий и (4) дающий результат, неожиданный для человека.

Определение сконструировано примитивно - по аналогии с нашим интуитивным пониманием ЕИ, естественного интеллекта. Действительно, человека, делающего примерно то же, что делает промышленный робот, мы интеллектуалом не сочтем. И не потому, что мы его не уважаем, а потому, что можем понять и повторить его действия. А повторить или хотя бы понять действия того же человека в области, профессионально знакомой ему по многолетнему опыту, но в нестандартной ситуации - например, при ремонте сложного повреждения какого-то устройства - мы не сможем. Именно в этой ситуации мы сочтем этого человека носителем интеллекта. Такое определение некоторым покажется обидным. Претензии можете направлять прямо Алану Тьюрингу, который тоже использовал как критерий ИИ именно "не срабатывание" человеческого интеллекта, неумение распознать.

Второй пункт сформулирован "с запасом". Не исключено, что человек, выросший вне обычного мира, например, обученный внеземным разумом или ИИ, созданным людьми, окажется вполне нормальным человеком. Хотя в первом случае это крайне сомнительно (хотя у Стругацких получилось), да и во втором не гарантировано. Сегодня секс, деторождение, воспитание в нормальной семье и получение серьезного образования мы считаем естественным путем создания интеллекта, а глубокое обучение компьютерных моделей считаем искусственным путем. Но к середине века ситуация может усложниться, например, принципы обучения нейронных сетей могут проникнуть в человеческую педагогику.

Сейчас область ИИ в целом находится на участке подъема кривой Gartner. Мы видим потрясающе интересные новые результаты, которые соседствуют с мусором и шумом, с тем, что сейчас называют "хайп". Некоторые авторы, рассказывая о применении ИИ в медицине и критикуя этот "хайп", пишут: "Когнитивные, аналитические, интуитивные аспекты клинического мышления автоматизировать невозможно, по крайней мере в ближайшие пару сотен лет". До чего надо довести серьезного человека, чтобы он написал такое! Впрочем, люди, ничего не понимающие в проблеме ИИ пишут и так: "Создание робота, который обладал бы чувствами, индивидуальным выбором и непредсказуемостью реакций, не говоря уже о сложнейшей психике подсознания, невозможно в принципе". Не разочарует ли жизнь ИИ-отрицателей? А новые результаты могут иметь как самые позитивные для людей, так и самые мрачные для большинства людей следствия - все зависит от общества, от людей.

А вот в этом нет ничего нового.

Автор благодарен своим друзьям, Наталье К., Татьяне К. и Анатолию Д. за многочисленные полезные замечания; почти все они учтены.

Илья Корман СТАУТ НЕОЖИДАННЫЙ

Введение

Двадцатые и тридцатые годы прошлого века были временем расцвета детективного жанра в Великобритании (Агата Кристи), Франции (Жорж Сименон) и США (Рекс Стаут) - мы назвали лишь самых ярких и известных мастеров. В частности, в 1934 году началась публикация серии романов и повестей Стаута о работающих в паре сыщиках: Ниро Вулфе и Арчи Гудвине. Этой серии и будет посвящена данная статья.

А в Советском Союзе эти годы были не слишком благоприятны для проникновения в страну западных детективов, и как раз в 1934-м железный занавес опустился окончательно. В докладе на Первом съезде советских писателей Максим Горький объявил: "Ловкостью воров, хитростью убийств буржуазия любовалась с таким же наслаждением, как и проницательностью сыщиков. Детективный роман до сего дня служит любимейшей духовной пищей сытых людей Европы, а проникая в среду полуголодного рабочего, этот роман служил и служит одной из причин медленности роста классового сознания, возбуждая симпатию к ловким ворам, волю к воровству... способствует росту убийств и других преступлений против личности".