Co-Intelligence: Living and Working with AI

Интернет ознаменовал собой еще один новый набор технологий для организации и контроля работы, поэтому в последние десятилетия мы наблюдаем появление новых систем организации труда и управления, таких как гибкая разработка программного обеспечения, бережливое производство, холакратия и самоуправляемые команды. Эти тенденции в управлении, вызванные волнами инструментов, начиная от электронной почты и заканчивая сложным корпоративным программным обеспечением, приняли новые, основанные на данных подходы к организации работы. Но, как и все предыдущие, они по-прежнему опираются на человеческие возможности и ограничения. Человеческое внимание по-прежнему ограничено, наши эмоции по-прежнему важны, а работникам по-прежнему нужны перерывы на туалет. Технологии меняются, но работники и менеджеры остаются людьми.

Именно это может изменить ИИ. Выступая в роли коинтеллекта, управляющего работой или, по крайней мере, помогающего менеджерам управлять работой, расширенные возможности ИИ могут радикально изменить отношение к работе. Один ИИ может общаться с сотнями работников, предлагая советы и контролируя производительность. Он может наставлять, а может манипулировать. Они могут направлять решения, как тонко, так и открыто.

Компании экспериментировали с формами компьютеризированного контроля над работниками задолго до появления этого поколения ИИ. Часы, камеры и другие формы контроля были распространены уже более века, но эти подходы набрали обороты с появлением ИИ, предшествующего LLM, и особенно с использованием алгоритмов для контроля над работой и работниками. Вспомните гиг-работника, который надеется, что Uber обеспечит ему хороший поток клиентов, несмотря на низкий рейтинг от разгневанного пассажира, или водителя UPS, каждую минуту работы которого алгоритм проверяет на предмет того, был ли он достаточно эффективен, чтобы сохранить свою работу. Кэтрин Келлог из Массачусетского технологического института, а также Мелисса Валентайн и Анжель Кристин из Стэнфорда рассказали, чем эти новые виды контроля отличаются от прежних форм управления. Если раньше менеджеры располагали ограниченной информацией о том, чем занимаются работники, то алгоритмы всесторонне и мгновенно, используя огромные массивы данных из многих источников, отслеживают работников. Алгоритмы также работают в интерактивном режиме, направляя работников в реальном времени на выполнение любой задачи, поставленной компанией. Кроме того, они непрозрачны - их предвзятость и даже способ принятия решений скрыты от работников.

Профессор Уортона Линдси Кэмерон убедилась в этом на собственном опыте, когда в течение шести лет подрабатывала гиг-драйвером в рамках интенсивного этнографического исследования того, как работники справляются с алгоритмическим управлением. Вынужденные зависеть от алгоритмов Uber или Lyft при поиске работы, они прибегают к скрытым формам сопротивления, чтобы получить хоть какой-то контроль над своей судьбой. Например, водители могут опасаться, что конкретный водитель может поставить им более низкий рейтинг (тем самым снизив их будущий заработок), поэтому они убеждают водителя отменить поездку до того, как его заберут, возможно, утверждая, что водитель не видит потенциального места встречи. Но даже такие формы сопротивления не освобождают водителей от алгоритма, который контролирует, куда они едут, сколько зарабатывают и как проводят время.

Мы можем представить, как LLM могут усилить этот процесс, создав еще более всеобъемлющий паноптикон: в этой системе каждый аспект работы отслеживается и контролируется ИИ. ИИ отслеживает деятельность, поведение, результаты и итоги работы работников и менеджеров. ИИ ставит перед ними цели и задачи, распределяет задания и роли, оценивает их эффективность и соответствующим образом вознаграждает. Но, в отличие от холодного, безличного алгоритма Lyft или Uber, LLM может также предоставлять обратную связь и коучинг, чтобы помочь работникам улучшить свои навыки и производительность. Способность ИИ выступать в роли дружелюбного советчика может сгладить грани алгоритмического контроля, прикрыв коробку Скиннера яркой оберточной бумагой. Но главным все равно останется алгоритм. Если история прецедентна, то это вероятный путь для многих компаний.

Но существуют и другие, более утопичные возможности. Нам не нужно подчинять огромное количество людей машинным владыкам. Напротив, LLM могли бы помочь нам процветать, сделав невозможным игнорировать правду: большая часть работы действительно скучна и не имеет особого смысла. Если мы признаем это, то сможем обратить внимание на улучшение человеческого опыта работы.