Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир

К тому времени Мег Митчелл собрала в Google команду, занимающуюся вопросами «этичного искусственного интеллекта». Еще будучи в Microsoft, Митчелл участвовала в самых ранних разработках методики глубокого обучения и привлекла внимание сообщества исследователей ИИ, когда в интервью Bloomberg заявила, сказав, что ИИ страдает от проблемы «мужского засилья»⁴⁸⁷ и что, по ее оценкам, за последние пять лет среди ее коллег были сотни мужчин и лишь около десятка женщин. «Я абсолютно уверена, что гендерная принадлежность исследователей предопределяет⁴⁸⁸ категории вопросов, которыми они задаются, – сказала она. – Это такая форма близорукости». Перейдя в Google, Митчелл – а потом и присоединившаяся к ней Тимнит Гебру – прикладывала все силы к тому, чтобы заложить прочный этический фундамент для технологий ИИ, обращая внимание на такие проблемы, как предвзятость разработчиков, а также на использование этих технологий правоохранительными органами и военными. Еще одна сотрудница Google, Мередит Уиттакер, работавшая в группе облачных вычислений, помогала созданию исследовательской организации в Нью-Йоркском университете. Консорциум компаний, включавший в себя Google, Facebook, Microsoft и другие фирмы, основал некоммерческую организацию под названием Partnership on AI («Партнерство по ИИ»). Такие организации, как Институт будущего жизни (Future of Life Institute, основанный Максом Тегмарком в Массачусетском технологическом институте) и Институт будущего человечества (Future of Humanity Institute, основанный Ником Бостромом в Оксфорде), также занимались этикой ИИ, но они больше интересовались экзистенциальными угрозами, относящимися к отдаленному будущему. Организации же новой волны, посвященные этичному использованию ИИ, сосредоточились на более приземленных, насущных вопросах.

И для Митчелл, и для Гебру проблема предвзятости разработчиков была лишь частью более масштабной проблемы, охватывающей всю технологическую отрасль. Женщины изо всех сил стараются проявить себя во всех областях науки и техники, но сталкиваются с доходящей до крайностей предвзятостью, а иногда и с притеснениями на рабочих местах. В сфере ИИ эта проблема была более выраженной и потенциально более опасной. Вот почему они написали Amazon открытое письмо.

В письме они отвергли аргументы⁴⁸⁹, которые Мэтт Вуд и Amazon выдвинули против Буоламвини и Раджи. Они настаивали на том, чтобы компания переосмыслила свой подход⁴⁹⁰. А позицию компании по поводу государственного регулирования они назвали блефом⁴⁹¹. «Нет никаких законов или обязательных стандартов⁴⁹², которые гарантировали бы, что система Rekognition не будет использоваться в нарушение гражданских прав и свобод, – заявили они. – Мы призываем Amazon прекратить продавать Rekognition правоохранительным органам». Их письмо было подписано двадцатью пятью разработчиками ИИ⁴⁹³ из Google, DeepMind, Microsoft и научных кругов. Одним из них был Йошуа Бенжио. «Конечно, нам было боязно бросить вызов такой большой корпорации, – говорит Раджи. – Но мы были очень тронуты, когда научно-исследовательское сообщество поддержало нас и выступило в нашу защиту. Я поняла, что это уже не просто мы с Джой против Amazon. На нашей стороне теперь вся наука».

Глава 16 Вепонизация. «Вы, наверное, слышали комментарий Илона Маска о том, что искусственный интеллект спровоцирует Третью мировую войну»

Среди офисных помещений, которые Clarifai занимала в центре Манхэттена осенью 2017 года, окна одной из комнат в дальнем углу были заклеены бумагой, а на двери висела табличка «Тайная комната». Слова эти, с намеком на второй том приключений Гарри Поттера, были написаны от руки, а вывеска слегка покосилась. За дверью команда из восьми инженеров работала над проектом, который им нельзя было обсуждать с другими сотрудниками компании. Собственно, даже сами инженеры не совсем понимали, над чем они работают. Они знали, что обучают систему автоматической идентификации людей, транспортных средств и зданий по видеозаписям, снятым где-то в пустыне, но не знали, как и где эта технология будет использоваться. На все вопросы основатель и генеральный директор компании Мэтт Зилер отвечал, что это государственный заказ, связанный с видеонаблюдением и слежкой. Он говорил, что эта система призвана «спасать жизни».