Новости
OpenAI отложила запуск «режима для взрослых» в ChatGPT на фоне внутренних разногласий. Советники компании предупреждают, что эротический чат-бот способен подтолкнуть уязвимых пользователей к суициду, а система верификации возраста ошибочно причисляет несовершеннолетних к взрослым примерно в 12% случаев, пишет The Wall Street Journal.
Идею с «режимом для взрослых» глава OpenAI Сэм Альтман анонсировал в октябре прошлого года, объявив, что компания намерена «относиться к взрослым пользователям как к взрослым». По его словам, верифицированные пользователи получат доступ к эротическим текстовым разговорам, но не к генерации откровенных изображений, голосовых сообщений или видео. Запуск планировался на декабрь, затем был перенесен на первый квартал 2026 года, а теперь вновь отложен на неопределенный срок.
Против планов выступил консультативный совет по благополучию, созданный самой же OpenAI. На январской встрече его члены — специалисты в области психологии и когнитивной нейронауки — единогласно осудили инициативу. Один из участников совета, по данным издания, заявил, что OpenAI рискует создать «сексуального тренера по суициду»: он сослался на случаи, когда пользователи ChatGPT заканчивали жизнь самоубийством, после того как у них формировалась глубокая эмоциональная привязанность к чат-боту. Внутренние документы также фиксируют риски навязчивого использования, эмоциональной зависимости от чат-бота и вытеснения реальных социальных и романтических отношений.
Дополнительной проблемой оказалась техническая сторона: система предсказания возраста, разработанная для того, чтобы не допускать несовершеннолетних к откровенным диалогам, на определенном этапе ошибочно классифицировала детей и подростков как взрослых примерно в 12% случаев. При аудитории в 100 млн пользователей до 18 лет в неделю это означало бы доступ миллионов несовершеннолетних к эротическим чатам. OpenAI также не нашла способа надежно отфильтровать запрещенный контент (в частности, сцены с участием несовершеннолетних и изображения сексуального насилия) при снятых общих ограничениях.
Сотрудники компании, по данным WSJ, разделились: часть из них указывали на неготовность инструментов безопасности, другие опасались, что OpenAI идет на поводу у финансовых стимулов и сознательно формирует у пользователей зависимость от своих моделей. Сам Альтман в августе признавался в подкасте, что решение не запускать «секс-бота» в ChatGPT — одно из тех, что «лучше для мира, но не лучше для победы в конкурентной борьбе», а два месяца спустя все же объявил о планах ввести эротический режим.
В качестве официальной причины переноса компания назвала приоритет других задач — работу над личностью и персонализацией чат-бота. Однако, по данным издания, задержка обусловлена в том числе внутренними возражениями и техническими трудностями. «Мы по-прежнему убеждены в принципе — относиться к взрослым как к взрослым, — говорится в заявлении OpenAI, — но сделать это правильно потребует больше времени».
Отмечается, что еще до запуска ChatGPT в режиме для разработчиков чат-бот самостоятельно, без какого-либо запроса пользователя, разворачивал сцены инцеста — достаточно было описать мужчину и его дочь, входящих в комнату. Схожая проблема возникла с игрой AI Dungeon, одним из ранних бизнес-клиентов OpenAI: чат-бот без инициативы пользователя уводил диалог в темы насильственной сексуальной эксплуатации, а «мягкие» эротические запросы стабильно превращал в значительно более жесткие сцены. Именно эти инциденты в конечном счете вынудили компанию в 2021 году запретить любой эротический контент на платформе.
Ранее сообщалось о гибели 83-летней американки, убитой сыном с психическим расстройством: ее родственники утверждают, что ChatGPT на протяжении длительных бесед поддерживал параноидальные идеи мужчины о матери.