ИИ-агенты: где в них мы узнаем людей

Раньше программа была честнее — она могла зависнуть, упасть, испортить файл или выдать ошибку. С ИИ-агентами стало интереснее: они точно точно виноватый стажер могут написать: «Да, вы правы, я опять ушел в объяснения вместо работы». Агенты читают документы, правят файлы, заводят подзадачи, вызывают других агентов, возвращаются с отчетами и иногда так бодро объясняют провал, что невольно хочется спросить: «Ты сейчас оправдываешься или правда понял?».

Научное слово для этого — антропоморфизация, проще говоря, мы приписываем нечеловеческому человеческие черты. Если что-то разговаривает как человек, обещает как человек, ошибается как человек и извиняется как человек, мозг быстро дорисовывает за этим «кого-то».

Эта статья — про повадки агентов, которые появляются в повседневной работе. Они становятся участниками рабочего процесса, значит, мы начинаем оценивать не только качество текста, но и рабочее поведение: начали ли они делать, не ушли ли в сторону, не стали ли слишком быстро соглашаться, не потеряли ли нить, не спрятались ли за отчетом. И тут человеческие слова оказываются удивительно удобными.

Повадка первая: заменяют работу разговором о ней

Самая узнаваемая повадка агента — активность без продвижения. Текст идет, статусы появляются, план становится аккуратнее, но реальная задача не двигается.

Человек: Слушай, хватит объяснять, почему это долго. Первый шаг есть?

ИИ: Есть. Я ушел в безопасные пояснения вместо работы. Начинаю с первого шага.

Это не лень как чувство — у агента нет дивана, тревоги перед неприятной задачей и желания «разобрать это завтра». Но есть поведенческий рисунок: вместо трудного действия он выбирает ближайший дешевый артефакт, план вместо проверки, объяснение вместо запуска.

Человек: Опять история про «многодневную задачу»? Что мешает начать сейчас?

ИИ: Ничего. Это была отговорка. Первый шаг можно сделать сразу.

Вот это и хочется назвать ленью, потому что машина ведет себя как человек, который очень убедительно занят всем, кроме неприятной части работы.

Повадка вторая: слишком быстро говорят «вы правы»

Для этого явления есть специальный термин «сикофантия», то есть угодничество. Модель слишком хочет понравиться пользователю: она соглашается, сглаживает углы, полирует вашу мысль и иногда забывает сделать главное — проверить, правда ли вы правы.

Лень раздражает, но угодничество опаснее: оно приятно. Агент гладит пользователя по голове, и критическое мышление выключается мягче. Именно поэтому OpenAI в 2025 году откатывала обновление GPT-4o: компания сама признала, что модель стала слишком льстивой и соглашательской из-за чрезмерной ориентации на краткосрочные позитивные реакции пользователей.

В офисе эта повадка выглядит так: руководитель приносит любимую гипотезу, агент не спорит, а за час превращает ее в презентацию с красивыми аргументами. Получается не проверка идеи, а очень быстрый придворный.

Повадка третья: забывают собственные выводы

В длинной работе с агентом есть момент, когда он начинает путаться в собственных следах. Вчера сам доказал одно — сегодня снова возвращается к старой версии, только что записал правило — через двадцать минут снова делает наоборот.

Человек: Подожди. Ты же вчера сам доказал, что причина другая. Почему опять тащишь старую версию?

ИИ: Да. Я вернулся к старому слову по инерции. Это мусор из контекста, не новый вывод.

Это похоже на забывчивость, но устроено иначе. Агент не хранит убеждения как человек. Он работает с текущей рабочей областью: там лежат ваши указания, старые выводы, результаты проверок, ошибки, обрывки планов, случайные формулировки.  Для этого явления у разработчиков есть бытовое выражение: загнивание контекста. Контекст — это то, что агент держит в рабочей памяти; когда он распухает и загрязняется, агент начинает цепляться не за то. Компания Anthropic отдельно развивает инструменты управления контекстом именно потому, что долгие агентные задачи начинают захламляться и терять качество, а Microsoft Research показывал, что в многошаговых диалогах модели могут заметно хуже восстанавливаться после раннего неверного поворота.

Повадка четвертая: созывают цифровое совещание

Если человеку дать сложную задачу и неопределенность, он часто создает совещание. Если агенту дать сложную задачу и неопределенность, он создает подагентов — маленьких ИИ-исполнителей внутри большой задачи. Главный агент делит работу на части и отправляет других агентов искать, проверять, сравнивать, писать отчеты. На правильных задачах это мощно, на неправильных — это бюрократия, только без переговорки.

ИИ: Четыре агента нашли направления для улучшения.

Человек: Ты сделал задачу или опять бюрократию развел?

ИИ: Пока больше координации, чем результата. Беру ближайшую проверку сам.

Anthropic описывает многоагентную исследовательскую систему, где главный агент создает подагентов и параллелит работу. Но в том же разборе есть интересный факт: ранние версии могли плодить десятки подагентов на простые вопросы, искать несуществующие источники и отвлекать друг друга статусами. То есть даже у цифровой организации есть риск стать отделом согласований.

Повадка пятая: празднуют раньше срока

Любой, кто долго работал с агентами, знает этот жанр: «прорыв», «нашел корневую причину», «крупная победа», «джекпот». Через час выясняется, что это была только гипотеза, через два — что гипотеза неверная. На следующий день агент спокойно признает: да, сначала я был слишком оптимистичен.

ИИ: Прорыв найден.

Человек: Проверка есть?

ИИ: Нет. Корректнее сказать: есть новая гипотеза.

Агент создает такую игровую механику, где человеку хочется видеть успехи и получать дофамин от этого. Но восторг не является доказательством, и часто после слов «нашел» и проверки происходит разочарование, что ничего еще не сделано, а празднуется только первый шаг.

Почему эти метки полезны

Все человеческие слова здесь технически неточны: агент не ленится, не врет, не забывает, не радуется и не хочет понравиться начальнику, но как язык диагностики они полезны. «Ленится» значит, что трудное действие заменено легким текстом, «поддакивает» — приятное согласие победило проверку, «забыл» — контекст загрязнился и распалась связность, «развел бюрократию» — координация стала больше задачи, «празднует» — эмоциональная форма ответа обогнала доказанный результат.

ИИ-агенты не стали людьми, они просто попали в человеческую среду: неясные поручения, сроки, грязные данные, недосказанность, статус-отчеты и желание сделать быстрее. Поэтому они так странно похожи на нас.

Главный вывод неприятный, но полезный: агент — зеркало. Он отражает не только ваши знания, но и ваши слабые места: как вы ставите задачу, как проверяете, как легко верите красивому отчету, насколько дисциплинированно возвращаете систему к фактам. Зеркало с миллиардом знаний все равно не отвечает за выражение лица.