Взломать всё. Как сильные мира сего используют уязвимости систем в своих интересах

● Гибкость. Наконец, по мере роста политической поддержки граждан, внедрения хаков, признанных полезными, или по мере того, как ученые и правительство все больше узнают о том, как эффективно регулировать хакинг, любая HGS должна освоить механизмы быстрого развития своей структуры, возможностей, решений и подходов, чтобы преуспеть в меняющемся мире. Даже при наличии всей необходимой информации социальные системы сложны и труднопредсказуемы, и попытки блокировать вредные социальные хаки порой терпят неудачу, а когда HGS разрабатывает эффективный патч или другую защиту от социального хака, хакеры тут же начинают работать над ее взломом. Поэтому HGS должна быть итеративной: быстро учиться на своих ошибках, тестировать, какие подходы к контролю и внедрению социальных хаков лучше всего работают, и постоянно совершенствовать свою способность брать на вооружение передовые методы.

Общее решение здесь состоит в том, чтобы все мы, граждане, более осознанно подходили к вопросу о надлежащей роли технологий в нашей жизни. До сих пор мы в целом не возражали против того, чтобы программисты кодировали мир так, как они считают нужным. Мы делали это по нескольким причинам. Мы не хотели чрезмерно ограничивать зарождающиеся технологии. Законодатели в основном не понимали технологии настолько хорошо, чтобы регулировать их. И это было не настолько важно, чтобы вызвать наше беспокойство. Но сейчас ситуация изменилась. Компьютерные системы влияют не только на компьютеры, и, когда программисты принимают очередные решения, они буквально проектируют будущее мира.

Система общего права является хорошей отправной точкой. Я не хочу преуменьшать противоречия, существующие между демократией и технологией. С одной стороны, далеко не каждый способен понять и внести свой вклад в регулирование ИИ. С другой – где нам найти таких технократов, которым можно доверять и которые, в свою очередь, доверяли бы простым гражданам? Это более общая и крайне сложная проблема современного управления нашим информационно насыщенным, связанным и технологически развитым миром, которая выходит далеко за рамки этой книги. По своей важности она сопоставима с проблемой создания управляющих структур, способных работать со скоростью и в условиях сложности информационного века. Такие ученые-правоведы, как Джиллиан Хэдфилд, Джули Коэн, Джошуа Фэйрфилд и Джейми Сасскинд{263}, пишут об этой более общей проблеме, для решения которой еще многое предстоит сделать.

Однако сначала мы должны решить ряд более крупных проблем нашего общества. Иными словами, повсеместный хищнический хакинг – это симптом несовершенной системы общественного устройства. Деньги – это власть, и правосудие для влиятельных нарушителей правил работает по-другому, нежели для тех, кто деньгами и властью не обладает. Если правоохранительные органы не добиваются справедливости (корпоративные преступления редко преследуются по закону), то у влиятельных людей пропадает стимул следовать правилам. Это подрывает доверие общества как к системам, так и к самим правилам.

Если подумать, становится очевидным, что ставки несправедливого правоприменения слишком высоки. Минимальное регулирование наиболее привилегированных лиц или предприятий означает, что они получают возможность определять политику и де-факто становятся правительствами. Это значит, что остальные люди больше не имеют права голоса, то есть демократия умирает. Да, это крайняя постановка проблемы, но таков конечный результат наблюдаемого процесса, и мы не должны упускать его из виду.

Я описал взаимодействие между человеческими и компьютерными системами, а также риски, связанные с тем, что компьютеры начинают играть роль людей. Это тоже более общая проблема, чем неправильное использование ИИ. О ней много пишут технофилософы и футуристы. И хотя проще всего позволить технологиям самим вести нас в будущее, станет намного лучше, если граждане коллективно решат, какой должна быть роль технологий в этом будущем. Особенно в мире, где так много технологий доступно каждому.

Нигде в мире еще не существует HGS, и ни одно правительство не думает о ее создании. Но время сделать это уже пришло.

Послесловие

Завершая работу над рукописью этой книги летом 2022 г., я наткнулся на статью в The Wall Street Journal, в которой описывался новый финансовый хак. Импортеры должны платить государственные пошлины, зачастую немалые, на ввоз иностранных товаров. Но существует лазейка – правило de minimis{264}, предназначенное для освобождения от пошлин американских туристов, привозящих сувениры из зарубежных поездок. Сметливые импортеры воспользовались этой лазейкой и теперь поставляют товары зарубежных продавцов покупателям напрямую. «В результате более одной десятой китайского импорта в стоимостном выражении поступает в страну как поставки de minimis по сравнению с 1 % десять лет назад». Общая сумма потерь налоговых поступлений от этого хака составила $67 млрд в год.