Будущее: рассекречено

Стэнфордский профессор и археолог Ян Моррис в своей последней книге «Война! Для чего она нужна?» начинает повествование с инцидента, который мог бы уничтожить большую часть мира, если бы не было системы защиты на случай сбоя алгоритма. Станислав Петров дежурил на командном пункте советской системы предупреждения ракетного нападения в Серпухове-15. Алгоритмы, над которыми работали Петров и его команда, зафиксировали 26 сентября 1983 г. запуск ракет из США. К счастью, Петров понял, что тревога ложная, и убедил советский Генштаб, что произошел сбой алгоритма. Ему пришлось принять решение за доли секунды и добиться того, чтобы его руководство отменило ответный удар{108}.

Остается надеяться, что в будущем таких ложных тревог не будет. Однако пример ситуации, случившейся несколько десятилетий назад, еще до появления суперкомпьютеров, невероятного расширения использования и развития алгоритмов, ставших сегодня привычными во всех сферах жизни, а не только в системах предупреждения ракетного нападения, только подчеркивает опасность.

Гаррет справедливо предупреждает: неважно, насколько хорошо написаны и качественно протестированы алгоритмы. В реальной жизни существуют исключительные ситуации, и они возникают тогда, когда алгоритмы сталкиваются с непредвиденным сочетанием событий или факторов. А значит, кибербезопасность становится все более важной темой по мере того, как все больше «вещей» подключаются к интернету. С подключением новых устройств появляются новые уязвимые места, а для компаний, ориентированных на повышение эффективности систем коммутации, «безопасность не является главной заботой на этом высококонкурентном рынке»{109}. При наличии миллиардов устройств, запрограммированных выполнять разнообразные функции автономно и асинхронно, любой узел может стать вектором атаки на всю систему{110}. В конце концов, это мир, где «машины при помощи сложных алгоритмов и адаптивного поведения [теперь] ведут себя как разумные исполнители, действующие по поручению человека. Выполняя задачи от оптимизации организации движения до наблюдения за здоровьем пожилых или детального контроля использования электроэнергии, “интернет всего” призван сделать мир разумнее, а нашу жизнь проще. Но хакерам будет куда легче нанести серьезный ущерб в реальном мире»{111}. Уже было несколько тестовых случаев, когда компьютеризированные системы в современных автомобилях и электронные кабинеты для ведения медицинской документации продемонстрировали, насколько они уязвимы перед хакерской атакой{112}. Учитывая возможность серьезного ущерба или даже катастрофы, ключевым системам в будущем понадобится отдельная система для управления и мониторинга.

В мире, где машины будут управлять целыми системами без существенного вмешательства со стороны человека, необходимо найти пути обеспечения стабильности работы систем и выполнения ими изначальных функций и при этом минимизирования нежелательных последствий. Вспоминается знаменитый фильм Джозефа Лоузи «Слуга» (1963 г.) с Дирком Богартом в главной роли. По сюжету богатый молодой лондонец нанимает героя Богарта с качестве камердинера. Сначала эти двое формируют тихий союз, укрепляя свои социальные роли как хозяина-аристократа и прислуги, но по мере развития сюжета меняются ролями. Состоятельный лондонский житель становится все более зависимым и в результате полностью деградирует, а слуга все больше захватывает бразды правления. Такого будущего хотелось бы избежать.

Глава 4 Эра дефицита или эра изобилия

В июне 2012 г. я в рамках кругосветного путешествия отправился в Абуджу, столицу Нигерии, чтобы протестировать предварительную версию «Глобальных тенденций 2030». На первый взгляд Абуджа не казалась местом, где стоит искать научно-исследовательские центры: в других столицах именно они были основным местом обитания экспертов, чье мнение мы хотели услышать. Американский посол показал нам в окно место, где «Боко Харам», мусульманская повстанческая группировка, организовала атаку террориста-смертника на представительство ООН. В те нескольких дней, что мы провели в столице Нигерии, нас всегда сопровождали многочисленная охрана и представители посольства.