Deep Utopia: Life and Meaning in a Solved World

"Генеративная модель была обучена выдавать текст, который по аналогии соответствовал заданным исходным данным. Например, если в качестве входных данных было предоставлено видео без звука, на котором кто-то разговаривает, сеть выдавала предположение о том, что говорит человек на видео, основываясь на движении губ (если оно было заметно) и ситуационных подсказках. Модель обладает некоторой способностью экстраполировать наблюдаемые статистические закономерности за пределы распределения данных, на котором она обучалась, и поэтому смогла генерировать результаты и для объектов, которые на самом деле не разговаривают. Хотя достоверность этих экстраполяций нельзя легко измерить по объективной истине, они, по крайней мере в некоторых случаях, выглядят вполне разумными. Например, если на вход подать видео (без звука) с кошкой, сеть может выдать "Мяу, дай мне молока!". Если в качестве входных данных предоставить скриншот из игры Pac-Man с центром внимания на одном из призраков, сеть может выдать что-то вроде "Я хочу поймать Pac-Man". Изменяя некоторые параметры, можно увеличить "расстояние вменения". Это приближало выходной вектор к тому, что, по прогнозам сети, мог бы сказать прототипичный человек в аналогичных обстоятельствах, то есть делало вывод более антропоморфным. Например, выбрав большее расстояние интерполяции, можно получить модель, которая выдаст что-то вроде "Я попытаюсь перехватить Пакмана, когда он будет убегать от преследующих его призраков" или "Интересно, собирается ли Пакман пойти за энергетической таблеткой?". В некотором смысле это менее реалистичная вербальная атрибуция, поскольку реальные агенты-призраки в игре Pac-Man не чувствительны к наличию или отсутствию несъеденных гранул энергии или к активности других призраков. Тем не менее, если прищуриться, то можно увидеть, что это вполне правдоподобная вещь для слегка "идеализированной версии" призрака, которая говорит сама себе в тех обстоятельствах. Философы могут рассматривать это как несколько дикий способ применения Дэвидсоновского принципа благотворительности в атрибуции значения - хотя в данном случае не к приписыванию значений реальным высказываниям, а более широко к существам в ситуации." ["The Empathy Engine", автор Alcibiades Joseph Christopher Hunden-Snow, выпуск 73 журнала The Snout].

В этом отрывке обойдены некоторые важные сложности, но читателю придется обратиться к первоисточнику для получения более подробной информации.

Трудности, с которыми пришлось столкнуться команде Хирнемейстера, включали в себя две особые задачи, выходящие за рамки тех, что обычно присущи передовым исследованиям в области искусственного интеллекта. Они возникали исключительно из-за морального статуса ThermoRex и связанного с ним морального императива уважать, а желательно и приумножать его достоинства и ценность.

Первым из них было "Требование подлинности". Поскольку речь шла о том, чтобы дать голос ThermoRex, необходимо было, чтобы он действительно - в максимально возможной степени - был голосом ThermoRex. Он не должен быть, например, простым отголоском чувств и идей исследователей, благодаря которым технология появилась на свет. Это вызывало серьезную озабоченность, поскольку в ходе разработки приходилось делать множество выборов - задавать множество значений параметров и т. д., - что создавало для исследователей соблазн опробовать различные варианты, а затем выбрать тот, который давал наиболее приемлемые результаты. Однако если бы они слишком часто занимались таким предварительным отбором и оценкой возможных результатов, то команда Хирнемейстера добилась бы того, что вербатрон стал бы не более чем автоматизированным способом генерирования зашифрованных записей их собственных предубеждений. Методология, которой они следовали, чтобы смягчить эту проблему, довольно интересна, но мой лимит слов не позволяет мне описать ее здесь.

Вторым особым вызовом, с которым столкнулись Хирнемейстер и его команда, было "Требование единственного рождения", которое гласило, что недопустимо, если вербатрон будет появляться на свет в разных версиях и на разных экспериментальных стадиях. Причина настаивать на единичном рождении была, в частности, этической: нельзя относиться к ThermoRex или любой его основной части как к простой вещи. Предположим, была бы реализована некая "предварительная" версия вербатрона, и она выразила бы пожелание - тогда было бы оскорбительно просто проигнорировать это пожелание; но также было бы невозможно выполнить это пожелание, например, если бы оно противоречило пожеланиям, выраженным другой вербатронной версией. Такой ситуации необходимо было избежать.