Recientemente, Google ha tomado la decisión de retirar la función de generación de imágenes conocida como Nano Banana 2 de su plataforma Google Earth. Esta decisión se ha tomado tras la identificación de usos inapropiados de esta tecnología, que permitía a los usuarios crear contenido visual que podría considerarse engañoso, afectando así las políticas de uso establecidas por la empresa.
La integración de la inteligencia artificial de Nano Banana 2 fue anunciada la semana pasada, permitiendo a los usuarios personalizar imágenes basadas en datos reales que se obtenían de satélites, así como de imágenes aéreas y modelos en 3D disponibles en la aplicación. Sin embargo, la herramienta ha experimentado una rápida retroalimentación negativa que ha llevado a su suspensión debido a su mal uso.
En un comunicado compartido en la plataforma X, Google reconoció que, aunque algunos profesionales geoespaciales usaron la nueva capacidad para fines constructivos, también se detectaron casos en los que individuos compartieron imágenes manipuladas que infringían las políticas de la compañía. Esto generó preocupación en torno a la fiabilidad de Google Earth como fuente de información precisa y objetiva sobre el mundo real.
Motivos detrás de la decisión
La compañía tiene la intención de establecer barreras de protección más estrictas antes de volver a implementar dicha función. Según Google, estas imágenes generadas no se integraban en la experiencia principal de Google Earth y eran marcadas con un distintivo que indicaba su origen a partir de inteligencia artificial, utilizando la tecnología SynthID. Esto se hace con el fin de mantener la transparencia y asegurar que los usuarios tengan claro qué contenido es artificial.
A pesar de su potencial positivo, como se evidenció a través de la creatividad de algunos usuarios, la facilidad con la que se podían crear imágenes potencialmente engañosas, por ejemplo, de manifestaciones ficticias, ha resaltado la necesidad de un enfoque más cauteloso en el uso de tecnologías de generación de contenido. Google, al priorizar la confianza de sus usuarios, está tomando las medidas necesarias para resguardar la integridad de sus plataformas.
Este movimiento subraya la creciente responsabilidad ética que enfrentan las empresas tecnológicas al introducir avances en inteligencia artificial, sobre todo en aplicaciones que impactan directamente la forma en que el público consume información. La experiencia de Google con Nano Banana 2 podría servir como un caso de estudio para otras compañías que buscan implementar tecnologías similares en el futuro.