Компания xAI Илона Маска на этой неделе подала в суд на одного из своих пользователей, обвинив его в том, что он использовал чат-бот Grok для создания фото с сексуализированным насилием над несовершеннолетними. Это один из первых подобных случаев. Об этом пишет CNN.
В иске, поданном в суд в Техасе, пользователя по имени Терри Уэйн Харвуд обвиняют в нарушении условий предоставления услуг. В документах утверждается, что он создал несколько аккаунтов в xAI и давал чат-боту Grok «вводящие в заблуждение подсказки», чтобы тот создал откровенные дипфейки. Фейковые сексуализированные видео касались при этом не только взрослых, но и детей.
Харвуд и еще трое других мужчин были ранее в этом году арестованы в Юте по обвинению в предполагаемой сексуальной эксплуатации несовершеннолетних.
xAI уверждает, что предполагаемое неправомерное использование Харвудом Grok подвергло компанию «значительному юридическому риску и репутационному ущербу». Его требуют признать виновным и взыскать с него ущерб. Сумма последнего не указана.
Как отмечает CNN, это один из первых исков, поданных технологической компанией против пользователей, которых обвиняют в создании откровенного контента с помощью ИИ.
В конце прошлого — начале этого года чат-бот от xAI уже попадал в центр скандала именно из-за обилия сгенерированной порнографии. Всего за девять дней (31 декабря — 8 января) Grok сгенерировал и выложил в открытый доступ не менее 1,8 млн сексуализированных изображений женщин и девочек, писала газета The New York Times. После этого расследования против Grok начали власти Великобритании, Индии, Малайзии, США, Испании, а также Еврокомиссия.
В итоге компания обновила правила генерации изображений: создатели чат-бота сообщили, что «приняли меры, чтобы Grok не позволял редактировать фото реальных людей и изображать их в откровенной одежде». В иске против Харвуда xAI утверждает, что с начала года заблокировала более 52 тысяч учетных записей, которые пытались сгенерировать подобный контент.
