Co-Intelligence: Living and Working with AI

Фух, похоже, мне пора заканчивать писать эту книгу. Это очень хорошая трактовка неудачи как потери, и она говорит о том, что мы можем начать использовать ИИ, чтобы изучить, как помочь себе, как в профессиональном, так и в личном плане. Сильные и слабые стороны ИИ могут не совпадать с вашими собственными, и это преимущество. Такое разнообразие мышления и подходов может привести к инновационным решениям и идеям, которые никогда не придут в голову человеку.

Мы не просто изучаем сильные стороны ИИ, определяя форму Зазубренного рубежа. Мы изучаем его слабые стороны. Использование ИИ в повседневных задачах помогает нам лучше понять его возможности и ограничения. Эти знания бесценны в мире, где ИИ продолжает играть все большую роль в нашей рабочей силе. По мере знакомства с LLM мы сможем не только более эффективно использовать их сильные стороны, но и упреждать потенциальные угрозы для нашей работы, готовясь к будущему, которое требует органичной интеграции человеческого и искусственного интеллекта.

ИИ - это не серебряная пуля, и будут случаи, когда он может сработать не так, как ожидалось, или даже привести к нежелательным результатам. Одна из потенциальных проблем - конфиденциальность ваших данных, которая выходит за рамки обычных вопросов о передаче данных крупным компаниям и затрагивает более глубокие вопросы, связанные с обучением. Когда вы передаете информацию ИИ, большинство современных LLM не учатся непосредственно на этих данных, поскольку они не являются частью предварительного обучения модели, которое обычно уже давно завершено. Однако не исключено, что загруженные вами данные будут использованы в будущих тренировках или для тонкой настройки модели, с которой вы работаете. Таким образом, хотя маловероятно, что ИИ, обучающийся на ваших данных, сможет воспроизвести точные детали того, чем вы поделились, это не исключено. Несколько крупных компаний, занимающихся разработкой ИИ, решили эту проблему, предложив частные режимы, которые обещают защитить вашу информацию. Некоторые из них отвечают самым высоким нормативным стандартам для таких вещей, как медицинские данные. Но вы сами должны решить, насколько вы доверяете этим соглашениям.

Второе опасение, которое может возникнуть у вас, - это зависимость: что если мы слишком привыкнем полагаться на ИИ? На протяжении всей истории человечества появление новых технологий часто вызывало опасения, что мы потеряем важные способности, перепоручив выполнение задач машинам. Когда появились калькуляторы, многие опасались, что мы потеряем способность самостоятельно считать. Однако вместо того, чтобы сделать нас слабее, технологии, как правило, делают нас сильнее. Благодаря калькуляторам мы теперь можем решать более сложные количественные задачи, чем когда-либо прежде. ИИ обладает аналогичным потенциалом для расширения наших возможностей. Однако, как мы увидим в следующих главах, бездумная передача принятия решений по адресу искусственному интеллекту может подорвать нашу рассудительность. Главное, чтобы человек всегда был в курсе происходящего, чтобы ИИ использовался как вспомогательный инструмент, а не как костыль.

Принцип 2: Будьте человеком, который в курсе всех событий.

Пока что ИИ лучше всего работает с помощью человека, и вы хотите быть этим человеком. По мере того как ИИ будет становиться все более способным и требовать все меньше человеческой помощи, вы все равно захотите быть этим человеком. Поэтому второй принцип заключается в том, чтобы научиться быть человеком в цикле.

Концепция "человек в контуре" берет свое начало на заре развития вычислительной техники и автоматизации. Оно относится к важности учета человеческих суждений и опыта в работе сложных систем (автоматизированный "цикл"). Сегодня этот термин описывает, как ИИ обучаются таким образом, чтобы учитывать человеческие суждения. В будущем нам, возможно, придется прилагать больше усилий, чтобы оставаться в курсе процесса принятия решений ИИ.