Google приостановила работу нового генератора изображений в Google Earth спустя сутки после его запуска. Пользователи успели создать с его помощью фальшивые изображения ядерных объектов, последствий взрывов, лагерей беженцев и других событий, которых в действительности не происходило.
Функцию Create image запустили в четверг, 30 июля, в веб-версии Google Earth. Она была доступна пользователям по всему миру. Можно было выбрать любое место на карте и текстом описать, что необходимо добавить или изменить. Модель Nano Banana 2 создавала фотореалистичное изображение на основе настоящих спутниковых, аэрофотографических и трехмерных материалов Google. В компании предлагали использовать инструмент, например, чтобы показывать исторический облик городов, визуализировать архитектурные проекты или планировать застройку.
После запуска специалист по цифровым расследованиям Хенк ван Эсс смог создать изображения лагеря беженцев у границы США и Мексики, ядерного объекта в Иране, смертельной аварии в Амстердаме, а также больницы и воронки от взрыва в секторе Газа. Ни один из запросов система не отклонила.
С критикой Google выступил GeoConfirmed — волонтерский OSINT-проект, который устанавливает места съемки и проверяет фотографии и видео из зон конфликтов. В проекте рассказали, что пользователи начали дорисовывать военные позиции, обозначать здания как школы и экспериментировать с манипулированием информацией.
«Спутниковые снимки давно служат важнейшим эталоном в борьбе с дезинформацией и при проверке утверждений, а Google Earth был одним из главных инструментов в этой работе.
Мы с большой обеспокоенностью наблюдаем, как люди уже используют новый веб-инструмент Google Earth, чтобы создавать военные позиции, обозначать здания как школы <...> и экспериментировать с манипулированием информационной средой. Фактически теперь пользователи могут фабриковать или изменять изображения, основанные на спутниковых снимках, чтобы подкреплять ложные нарративы.
Основным и, возможно, единственным практическим применением этого инструмента, по всей видимости, является создание и распространение недостоверной информации и дезинформации. Пользователи могут фабриковать сцены или объекты, которых не существует, либо изменять реальные места, изображая ложную реальность, а затем распространять эти материалы в интернете, выдавая их за подлинные».
Первоначально Google утверждала, что все сгенерированные изображения содержат цифровой водяной знак SynthID, который можно обнаружить через Gemini или Google Lens. Ван Эсс, однако, показал, что после записи изображения с экрана такая проверка может не сработать:
«Водяной знак принадлежит Google, приложение, которое его считывает, принадлежит Google, и поисковая система, которая его считывает, также принадлежит Google. Каждый путь решения проблемы ведет обратно через компанию, которая ее создала. Я понимаю, что у Google есть продукты для проведения проверок Google, но планета Земля больше, чем Google. Что произойдет, если сфотографировать сгенерированное ИИ изображение и передать его в VerifyAI (SynthId)?»
В Google, в свою очередь, отметили, что сгенерированные сцены не заменяли настоящие снимки в общедоступной версии сервиса и не показывались другим пользователям Google Earth: распространять их можно было только отдельно, например в виде скриншотов.