В Европейском союзе предложили запретить использование искусственного интеллекта для создания интимных изображений людей без их согласия. Соответствующую поправку одобрил комитет по гражданским свободам Европарламента, пишет Bloomberg.
Речь идет о системах, которые могут создавать реалистичные изображения сексуального характера или обнаженного тела конкретного человека. Если запрет утвердят, он станет частью нового закона об ИИ и может вступить в силу уже в этом году.
Ограничения не затронут компании, если они заранее внедрили механизмы, блокирующие создание такого контента.
Поводом для обсуждения стали случаи злоупотребления нейросетями. В частности, пользователи сервиса Grok, связанного с Илоном Маском, массово создавали откровенные изображения женщин и детей на основе обычных фотографий. После критики компания ограничила эту функцию.
В ЕС уже действуют законы против распространения интимных материалов без согласия. Однако новая мера впервые направлена именно на технологии ИИ. Если закон примут, разработчики должны будут доказать, что их системы не позволяют создавать подобные изображения. При этом пока не ясно, как именно будет проверяться наличие согласия человека на создание его изображения.
Параллельно власти ЕС и Великобритании проверяют платформу X и компанию xAI из-за ситуации с Grok и возможных нарушений правил безопасности в интернете.