Google отключил ИИ-функцию Nano Banana в Google Earth спустя день после запуска
Google временно отключил инструмент генерации изображений Nano Banana в веб-версии Google Earth менее чем через сутки после его запуска. Решение приняли после того, как пользователи начали создавать реалистичные изображения с вымышленными катастрофами, военными объектами и другими сценами, которые могли использоваться для распространения дезинформации.
Функция Nano Banana появилась в Google Earth 30 июля. Она позволяла с помощью текстовых запросов создавать изображения на основе спутниковых снимков, аэрофотосъёмки и трёхмерных карт местности. Google предлагал использовать инструмент для визуализации исторических событий, подготовки инфографики, архитектурных проектов и планирования строительства.
Однако вскоре после запуска пользователи обнаружили, что сервис почти не ограничивает содержание запросов. В результате в сети появились изображения самолёта, врезающегося в небоскрёб на Манхэттене, разрушенной Эйфелевой башни, крупной воронки от взрыва в Лос-Анджелесе, а также вымышленных ядерных объектов в Иране и лагерей беженцев на границе США и Мексики.
OSINT-исследователь Хенк ван Эсс сообщил, что смог за считанные секунды сгенерировать изображения лагерей беженцев и ядерного объекта, используя лишь несколько текстовых команд. По его словам, система практически не препятствовала подобным сценариям.
С критикой выступило и сообщество GeoConfirmed. Его представители заявили, что Google Earth долгое время оставался одним из основных инструментов для проверки геолокации и анализа событий, а появление реалистичных искусственных спутниковых изображений может значительно осложнить выявление дезинформации. По их мнению, теперь проверяющим придётся сначала удостовериться, что изображение не создано ИИ, и только затем анализировать саму информацию.
Аналитики также предупредили, что подобные инструменты могут использовать для создания фальшивых военных объектов, изменения назначения зданий или имитации последствий ударов, выдавая такие изображения за реальные.
В компании заявили, что все изображения, созданные Nano Banana, имели маркировку о происхождении от искусственного интеллекта и не отображались в основной версии Google Earth для других пользователей.
Несмотря на это, после волны критики Google полностью отключил функцию. В компании сообщили, что вернут её только после внедрения дополнительных механизмов защиты, которые должны предотвратить создание потенциально опасного контента.