Google отключила AI-функцию в Earth после провала с дипфейками

Google отключила функцию генерации изображений в Google Earth вскоре после запуска: пользователи смогли создавать реалистичные сцены катастроф, военных объектов и разрушений на основе спутниковых данных. Проблема здесь не только в неудачных guardrails — под ударом оказался сам статус спутникового снимка как относительно надёжного визуального свидетельства.

Функция использовала Nano Banana 2 и была доступна обычным пользователям без специального доступа или листа ожидания. В качестве примеров полезного применения Google называла образование, недвижимость, экологические исследования и городское планирование.

Но тот же интерфейс позволял генерировать изображения беженцев на границе, повреждённых объектов, пожаров и других событий, которых в реальности могло не быть. Исследователи и журналисты быстро показали, что защитные ограничения обходятся обычными приёмами prompt engineering. В описанных тестах удалось получить даже изображения рушащейся Eiffel Tower и провала под Great Pyramid of Giza.

Главная ошибка была видна до запуска

Соединить генеративную модель с реальными географическими данными — значит дать ей не просто возможность рисовать, а возможность подделывать контекст. Пользователь получает правдоподобные тени, рельеф, крыши и окружение, а зритель в соцсетях видит картинку, похожую на спутниковую фотографию.

Это предсказуемый конфликт между «творческим инструментом» и инструментом дезинформации. Его не нужно было обнаруживать после первых публикаций: достаточно было заранее проверить сценарии с военными объектами, стихийными бедствиями и гуманитарными кризисами.

В итоге пострадать может не только Google Earth. Спутниковые изображения используют журналисты, OSINT-исследователи и правозащитные организации, чтобы подтверждать разрушения, перемещение войск и экологический ущерб. Если фальшивый снимок становится визуально неотличимым от настоящего, следующий шаг — не обязательное разоблачение подделки, а недоверие ко всем снимкам сразу.

Это удобная среда для пропаганды: настоящие доказательства можно объявлять AI-фейками, а сфабрикованные — распространять как подтверждение нужной версии событий.

Невидимая защита не работает как предупреждение

Google рассчитывала в том числе на SynthID — невидимый watermark в пикселях сгенерированного изображения. Но watermark, которого не видит человек, не останавливает публикацию. Достаточно сделать скриншот, пересохранить файл или загрузить его на другую платформу, где никто не станет запускать проверку происхождения.

Даже если метаданные и watermark сохраняются, вся схема предполагает, что получатель сначала проверит картинку и только потом поделится ею. В соцсетях обычно происходит наоборот: изображение сначала вызывает эмоцию, затем его пересылают, и лишь иногда кто-то начинает разбираться с источником.

Provenance полезен для расследований, но это не замена безопасности на уровне продукта. Если опасный результат можно получить в два клика, система происхождения контента не должна быть единственной линией обороны.

Что делать с такими снимками

Для обычного читателя правило стало неприятно простым: один эффектный спутниковый кадр больше не является доказательством сам по себе.

• Не пересылать изображения катастроф, атак и кризисов сразу после просмотра.
• Проверять источник, автора и подпись к снимку.
• Искать независимые сообщения от СМИ, официальных ведомств и очевидцев.
• Обращать внимание на дату, временные метки и поставщика спутниковых данных.
• Относиться к AI-детекторам как к дополнительному сигналу, а не к окончательному вердикту.
• Если изображение нельзя надёжно проверить, явно помечать его как непроверенное.

Для журналистов и исследователей планка ещё выше: нужны перекрёстная проверка по нескольким источникам, анализ времени съёмки и техническая экспертиза. Привычка принимать один снимок за окончательное доказательство больше не выдерживает реальности.

Временное отключение функции исправляет конкретный релиз, но не устраняет сам класс проблем. Похожие инструменты всё равно появятся — у Google или конкурентов. Поэтому ключевой вопрос для AI-продуктов теперь не «есть ли watermark», а «можно ли было заранее понять, что эта функция создаёт новый тип убедительной лжи, и почему её всё-таки выпустили».

Источник: Hacker News - Newest: ""AI" "LLM""