Кибербезопасность в условиях электронного банкинга. Практическое пособие

Создавая искусственный интеллект, мы призываем демона. Во всех историях, где есть парень с пентаграммой и святой водой, он уверен, что сможет контролировать его. Но обычно у него ничего не получается.

Илон Маск, основатель компаний Tesla Motors и Space X

Рост «квалификации» AI при одновременном удешевлении роботов ведет к размыванию представления о незаменимости человека. В 2014 г. компьютерная программа впервые в истории прошла знаменитый тест Тьюринга[288] на человечность[289]. Мы уже наблюдаем автоматизацию рутинных операций и замену людей ботами в сфере виртуального сервиса в банковском и других бизнесах, связанных с массовым обслуживанием розничных клиентов.

Благодаря deep learning[290] компьютеры уже могут выявлять основополагающие рекомендации, принципы и правила, а в недалеком будущем станут способны их понимать и, возможно, успешно имитировать. И вот тогда настанет время проверки когнитивных способностей человека, уже ослабленных привычкой опираться на различных электронных помощников: смогут ли пользователи оценить, выдает AI правильные рекомендации или нет, поскольку его вычислительные возможности уже значительно превысят человеческие. «Если краткосрочное воздействие искусственного интеллекта зависит от того, кто его контролирует, то долгосрочное – от того, будет ли вообще возможен такой контроль…»[291].

В отличие от предыдущих трех индустриальных революций, в четвертой технологический прогресс более не является катализатором роста зарплат и рабочих мест. Маржинальные и общие прибыли компаний растут, когда машины работают вместо людей, сокращение рабочих мест и рост безработицы становятся новой нормой. Фактически занятость еще будет расти в высокодоходных когнитивных и творческих профессиях и низкодоходном ручном труде, который экономически нецелесообразно роботизировать, но она значительно снизится в среднедоходных профессиях, суть которых составляют рутинные операции.

На какое-то время еще сохранится ориентация компаний на высококвалифицированные кадры[292], но «средний класс» как наиболее желанная целевая аудитория многих финансовых институтов будет подвергнут деструкции.

А это в свою очередь ведет к снижению платежеспособного спроса и заставляет финансовые институты корректировать скоринговые модели (оценивать как перспективность источника дохода в зависимости от позиции заемщика и сферы деятельности его работодателя, так и вообще возможность сохранения источника дохода при долгосрочном, особенно ипотечном, кредитовании). Неизбежен рост популярности идеи «скидывания денег с вертолета» для обеспечения минимально гарантированного уровня потребления[293]. Банкам же придется сфокусироваться на создании максимально гибких и ситуативных кредитных продуктов.

С высокой степенью вероятности можно предполагать, что роботизация технологических процессов, виртуализация рабочих мест и AI приведут к конфликту человека и технологий, который будет заключаться не только в потере рабочих мест, но и во все возрастающем искушении создать аватары людей путем загрузки сознания (whole brain emulation, WBE[294]) и (или) киборгизации – реализовать заветные мечты трансгуманистов [295].

Все более актуальной угрозой для развивающихся стран с относительно низким уровнем доходов населения, в период глобализации превратившихся в промышленные площадки, становится reshoring[296], так как доступность дешевой рабочей силы более не является определяющим фактором конкурентоспособности компаний. А поскольку платежеспособный спрос в этих странах сохранится на относительно низком уровне, это усугубит социальное напряжение и конфликты, будет способствовать развитию деглобализации и еще большей нестабильности мира. Четвертая промышленная революция в итоге сделает принцип omnes vincit accipit[297] доминирующим в отношениях между странами и внутри их.

Уже на нынешней стадии развития AI ощутимы рост неопределенности (трудно достоверно определить, общается с вами чат-бот или человек, сам ли человек принимал решение или им искусно манипулировал интеллектуальный помощник, ограждающий от «излишней информации») и потеря контроля (нелегко распознать, являются рекомендации пока еще псевдо-AI истинными или ложными, потому что невозможно отследить логику нейросети, т. е. возникает дилемма: либо полностью доверять AI, либо всегда его перепроверять, а последнее становится все сложнее)[298].