Бумерит

– Задумайся об этом, Джордж: только человек способен всерьёз размышлять о самоубийстве, потому что самоубийство – это по-настоящему разумный и обоснованный ответ существованию. Глупые люди никогда не кончают с собой – они для этого слишком глупы. Так что если эта твоя машина до сих пор не задумалась о самоубийстве, поверь мне, она не обладает интеллектом.

– Да нет, вообще-то, это всё та же старая проблема. Мы пишем много разнообразного кода, в результате выполнения которого, как нам кажется, может появиться что-то новое. Вдобавок, мы программируем максимально гибкие возможности обучения и надеемся, что рано или поздно из чёртовой машины, в которую мы всё это запихнули, выскочит творческое мышление. Но почему-то этого до сих пор не произошло.

– Точно, – согласился Скотт, – это как с айбиэмовским Дип Сот, который обыграл Каспарова в шахматы. Но шахматы – это просто бесконечное количество комбинаций ходов, которые можно линейно запрограммировать. Конечно, эта победа очень впечатляет, но никому и в голову не приходит говорить о ней как о проявлении творческого мышления.

– Наша главная проблема в том, – сказал Джордж, – что прежде чем научиться думать, машины должны научиться учиться. Для этого мы создаём невероятно сложные системы с использованием параллельных вычислений, нечёткой логики, нейронных сетей и поразительно хитроумных биомолекулярных вычислений, – в некоторых системах всё перечисленное используется одновременно. И всё же каждый раз мы сталкиваемся с одной и той же проблемой: чтобы машина чему-то научилась на опыте прошлого, она должна это прошлое помнить. Но то, что мы называем прошлым, на самом деле состоит из миллиарда миллиардов различных событий, поэтому не ясно, запоминание каких именно событий мы должны запрограммировать.

– Я этого не понимаю, – сказал Скотт.

– А я понимаю, – сказала Хлоя. Она схватила себя руками за горло, изобразила, что задыхается, и, пытаясь схватить ртом воздух, медленно сползла со стула под стол.

– Слушай, раз уж ты всё равно там…

– И не мечтай, – она вылезла из-под стола и посмотрела на Джорджа. – Ладно, я пошутила. На самом деле я ловила каждое твоё слово. – Она дважды мигнула и уставилась на него.

– Ну ладно, хорошо, – Джордж посмотрел на неё и, немного поколебавшись, решил продолжить свою мысль, – приведу пример. Допустим, я положу на землю книгу «Основы машиностроения». Потом придёт моя собака, и мы с ней одновременно посмотрим на эту книгу. Как вы думаете, какие у каждого из нас останутся воспоминания об увиденном?

– Вы с собакой запомните разные вещи, – предположил я.

– Вот именно. Мы запомним разные вещи, потому что мы видели разные вещи. Я видел очень информативный учебник, а моя собака учебника не видела – она видела какой-то прямоугольник, который могла бы съесть, если бы он пах повкуснее.

– И что ты хочешь этим сказать? – спросил я.

– Существует множество интерпретаций реальности, но как нам решить, какие из них должен помнить компьютер? Мне кажется, что «Основы машиностроения» – полезный учебник, поэтому я, возможно, запрограммирую машину на то, чтобы она его запомнила. Потом придёт какая-нибудь феминистка и скажет: «Минуточку, это книга учит объективистской науке, – я не хочу, чтобы компьютер её запоминал!» А потом придёт учитель дзен и увидит в книге что-то совсем другое. И кто из нас будет прав? Мы не можем запрограммировать машину так, чтобы она запоминала все интерпретации, поскольку их бесконечное множество, к тому же некоторые из них противоречат друг другу. Поэтому мы не знаем, что именно запрограммировать в компьютер. Это и есть наша проблема, понимаешь?

– О да, я поняла, в чём проблема, – отозвалась Хлоя. Я дотронулся до её руки, молча умоляя быть повежливей.

– Постмодернисты тоже говорят о важности интерпретации, – вставил Скотт. – Реальность – это не то, что мы воспринимаем, а то, как мы это интерпретируем, – добавил он, выделяя каждое слово – очевидно, очень гордый собой за то, что запомнил хотя бы один вывод с занятий по культурной матрице. Ободрённый тем, что никто, в особенности Хлоя, не пытается спорить со сказанным, Скотт продолжил. – Помимо окружающей нас единой «объективной реальности», существует множество интерпретаций этой реальности, которые также необходимо учитывать. Любое настоящее мышление должно уметь работать с интерпретациями. А поскольку никто из нас в ИИ не знает, как запрограммировать интерпретации на компьютере, мы не можем научить компьютеры думать.

– Вот именно, – подхватил я. – И это ещё раз доказывает тот факт, что не существует единой фиксированной реальности – существуют уровни реальности, уровни сознания. И наш собственный разум обладает такой низкой пропускной способностью, что ему доступно только очень ограниченное количество этих уровней. Поэтому у нас в ИИ ничего и не выходит. В смысле, вообще, нахрен, ничего.

Джордж посмотрел на меня с лёгким недоумением, как будто, увлёкшись новой теорией, я отступил от истинной религии ИИ.