Anthropic впервые больше чем за год обновила правила использования своих ИИ-моделей, пишет The Verge. Новая редакция ужесточает ограничения на вмешательство в выборы, разработку оружия и слежку, а также запрещает «длительное и беспричинное оскорбительное или жестокое поведение» по отношению к Claude. Документ вступит в силу 12 ноября.
Главной мерой против таких пользователей остается прекращение диалога. Эту возможность Claude получил в августе прошлого года в рамках исследований «благополучия моделей». Появятся ли другие санкции, например блокировки, в компании не уточнили.
В Anthropic подчеркнули:
«Правило рассчитано лишь на крайние случаи, когда пользователи раз за разом без видимой цели жестоко обращаются с моделями. Оно не касается обычного раздражения, споров, мрачных творческих сюжетов, а также тестирования и исследований».
Запрет на создание оружия теперь распространяется на программное обеспечение и компоненты, обеспечивающие работу вооружений, и на установку оружия на дроны и другие беспилотные платформы. В компании объяснили это тем, что Claude неоднократно пытались использовать для разработки инструкций и управляющего ПО для оружия. Кроме того, Claude нельзя применять для слежки за людьми без их согласия и для решений о том, кого расследовать, арестовывать или обвинять.
Разрозненные ограничения также объединены в запрет на обманные коммерческие и политические кампании, включая сокрытие заказчика и продвижение контента через фейковые аккаунты. Отдельно запрещены дезинформация о кандидатах и порядке голосования, выдача себя за кандидатов или сотрудников избиркомов и попытки снизить явку. Если же модель управляет оборудованием, способным травмировать людей, квалифицированный оператор должен иметь возможность его остановить.
В сентябре Anthropic сообщала, что сотрудники и подрядчики российских государственных СМИ использовали Claude для подготовки материалов РИА «Новости», Sputnik и RT. Компания заблокировала четыре таких аккаунта и выявила связанную с Россией операцию влияния в ЦАР, где ИИ помогал выпускать пророссийские и антифранцузские публикации.
