Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Исследователь робототехники Ханс Моравек описал различные биологические и технологические системы с точки зрения их способностей обрабатывать и хранить инофрмацию. С одного конца — простые, основанные на правилах и стереотипические существа, такие как вирусы, черви и компьютеры. С другого — подлинно мощные информационные процессоры вроде китов, слонов и людей. Все существа с большими способностями — млекопитающие. Их потомство не рождается с полным набором программ, необходимых для функционирования. Они проходят через многолетнее обучение, прежде чем смогут существовать самостоятельно. Их навыки определены не как правила, а как уроки, выученные на собственном опыте. Вы бьетесь головой о стол, пока не научитесь так не делать. Учитесь методом проб и ошибок. Исследуете. Это возможно только потому, что о молодых млекопитающих заботятся старшие млекопитающие. Воспитание. Забота. Любовь.

Любовь создает доверие, которое дает молодым млекопитающим достаточно уверенности в себе, чтобы отправиться в путешествие за большими данными о мире. И переварить их. И залечить раны.

Любовь — вот рецепт, как вырастить человеческий интеллект, человеческий набор навыков и человеческую способность мыслить. Чтобы заставить машины мыслить, нам придется отдать им нашу любовь. Это будет больше похоже на детский сад, чем на высокотехнологичную лабораторию. Нам придется позволить машинам исследовать все самим, делать странные вещи, а не просто действовать согласно нашим пожеланиям. Им придется быть не смирными, а дикими, действовать по собственной воле.

Вызовом для нас окажется необходимость любить дикие мыслящие машины. Нам придется отойти от наших представлений о них и об искусственной жизни, поскольку когда что-то становится живым, а следовательно, способным к самовоспроизводству и изменению, оно перестает быть искусственным. Когда оно мыслит самостоятельно, оно уже не машина, а мыслящее существо. Оно будет нелогичным, обладающим интуицией и благими намерениями. Мы будет дивиться тому, как оно стало таким. Пока не поймем, что оно создано по нашему образу.

Зловещий тест трех колец для Machina sapiens

Кай Краузе

Программист-новатор; философ; автор A Realtime Literature Explorer

Вот и весна, ведь мир сочно —
грязный хлипкий хромой
продавец воздушных шаров
тихо насвистывает вдали
и бегут эддиибилл
прочь от пиратов и шариков
из стекла. да — весна
ведь мир тало-дивный[124]…

Когда я думаю об ИИ, у меня пробегает по спине такой классный холодок и замечательные мурашки. Детский восторг от прыжков по сочно-грязным лужам, забавы со стеклянными шариками, игры в пиратов и бег вприпрыжку… Все это никак не объяснить гипотетической разумной машине.

Можно добавить в машину десятки камер и микрофонов, тактильных сенсоров и устройств речевого вывода; вы правда думаете, что она когда-нибудь побежит вприпрыжку, как в стихотворении Эдварда Эстлина Каммингса 1916 года (здесь, к сожалению, приведенном с сокращением)?

По-моему, дело не в упрощенческом «У машин нет души», а в рубеже между манипулированием символами и действительным пониманием их подлинного смысла. Не просто точка зрения или отсутствие подхода к семантике, но подлинный скачок из этой системы.

Проблема заключается в том, что мы до сих пор говорим об ИИ, слишком часто пользуясь терминами и аналогиями первооткрывателей отрасли. Нам нужно оказаться в настоящем моменте и дать вещам определения с новой исходной отметки, которой станет подлинный интерес к проверке достижений «сознания».

Нам нужен тест трех колец[125]. Что такое настоящий ИИ? Что такое «интеллект» вообще? Шкала интеллекта Стэнфорд — Бине, коэффициент интеллекта как отношение умственного возраста к истинному (IQ) Уильяма Штерна — им уже больше ста лет! Это нам уже не подходит, а еще меньше будет подходить для ИИ. Так на самом деле можно проверить только способность выполнять эти тесты и способность действительно умных людей… избегать их выполнения.

Мы слишком легко пользуемся терминами типа «искусственный интеллект»; как там было у Хемингуэя: «Все наши слова притупились из-за небрежного обращения с ними»[126]. Детям об искусственном интеллекте известно из игр: зомби, драконы, солдаты, пришельцы. Если они уклоняются от ваших выстрелов или слаженно вас атакуют, то это называется «ИИ». Если регулируют отопление, освещение, закрывают дверь гаража, нам говорят, что это «умный дом». Конечно, ум подобных механизмов сводится к обычным «экспертным системам»: справочным таблицам, правилам, библиотекам кейсов. Может быть, их следует называть, по выражению художника Тома Беддарда, просто «искусственными хитростями»?