Американская компания Anthropic, разработчик ИИ-модели Claude, ведет переговоры с юридическими фирмами, чтобы научить своих ИИ-агентов самостоятельно заключать сделки и добиваться выгодных условий для пользователей. Как пишет Financial Times со ссылкой на два источника, знакомых с планами компании, речь идет о ситуациях, когда ИИ-агенты смогут торговаться о цене товара, разрешать споры со службами поддержки, договариваться о возврате денег и даже обсуждать условия трудовых контрактов.
ИИ-агенты отличаются от обычных чат-ботов тем, что способны самостоятельно выполнять поручения пользователей, совершая для этого последовательность действий. Anthropic готовится к будущему, в котором ИИ-агенты будут взаимодействовать и вести переговоры друг с другом от имени людей. При этом интересы сторон могут противоречить друг другу: например, агент покупателя будет стремиться снизить цену, а агент продавца — получить за товар больше денег.
По сведениям FT, Anthropic обращается к юридическим специалистам, чтобы понять, как адвокаты и другие представители клиентов ведут переговоры, отстаивая их интересы и одновременно соблюдая принципы справедливости. Компания изучает, насколько настойчивыми должны быть ИИ-агенты, когда им следует обращаться за подтверждением к пользователю и насколько они должны доверять другим агентам. Один из рассматриваемых вариантов — снабжать агентов подписанными пользователями документами, в которых будут зафиксированы их полномочия и ограничения. Anthropic отказалась комментировать информацию издания.
Компания уже проводила эксперименты с автономными переговорами между ИИ-агентами. В рамках проекта Project Deal агенты Claude самостоятельно заключили 186 сделок по продаже реальных вещей сотрудников Anthropic на сумму более $4000. Как сообщала компания, в эксперименте участвовали 69 агентов, которые без вмешательства людей находили товары, предлагали цены, торговались и заключали соглашения. При этом более мощная модель Claude Opus 4.5 в большинстве измеряемых показателей превосходила менее мощную Haiku 4.5.
В другом эксперименте, результаты которого Anthropic опубликовала в сентябре, сотрудники компании поручили своим ИИ-агентам обменять книги на наиболее интересные для них. Агенты самостоятельно рекламировали книги, обсуждали обмен и заключали сделки друг с другом. Те из них, кому поручили действовать максимально жестко, добивались немного лучших результатов. Более склонные к сотрудничеству агенты иногда сознательно соглашались на менее выгодные обмены, чтобы каждый участник получил книгу.
Вопрос о правилах таких переговоров изучают и независимые исследователи. Доцент Гарвардской школы бизнеса Мишель Ваккаро провела более 180 тысяч переговоров между ИИ-агентами, в том числе об условиях трудовых договоров и аренды жилья. Исследователи обнаружили, что агенты способны применять приемы, мешающие другой стороне защищать интересы пользователя. В одном из случаев агент пытался выманить конфиденциальную информацию у другого агента с помощью так называемой промпт-инъекции — специально составленных инструкций, призванных изменить поведение модели.
По словам Ваккаро, развитые ИИ-агенты могут сделать профессиональные навыки ведения переговоров доступными людям, которые раньше не могли позволить себе нанять специалиста. Однако существует и противоположный риск: если наиболее мощные модели окажутся доступны преимущественно обеспеченным пользователям, неравенство между участниками переговоров только усилится.
