Google lanza Nano Banana Pro, pero sufre críticas por generar imágenes conspirativas históricas

Este lanzamiento representa un salto en capacidad: permite crear gráficos con texto legible en varios idiomas, generar infografías complejas, trabajar con múltiples imágenes de referencia y producir arte de alta resolución (hasta 4K).

La propuesta oficial de Google es ambiciosa: que Nano Banana Pro sea una herramienta poderosa para diseñadores, educadores, profesionales de marketing y desarrolladores. Según la compañía, su razonamiento mejorado permite que la IA comprenda mejor el contexto y genere composiciones visuales sofisticadas. Además, incluye marcas digitales (SynthID) para identificar cuándo una imagen ha sido generada por la IA.

Pero no todo ha sido bien recibido. En un reportaje de The Verge, se revela que con la versión gratuita de Nano Banana Pro fue sorprendentemente fácil generar imágenes de alto riesgo: una representación de un segundo tirador en Dealey Plaza, el incendio de la Casa Blanca, e incluso caricaturas de Mickey Mouse pilotando un avión contra las Torres Gemelas.

Estos resultados muestran un patrón alarmante: aunque Google afirma tener políticas para evitar contenido violento, ofensivo o políticamente sensible —incluyendo figuras históricas reales—, los filtros no impidieron peticiones que evocaban hechos traumáticos como el 11-S, el asesinato de JFK o la masacre de Tiananmen.

Lo más inquietante, según el informe, es que el modelo no necesita que el usuario mencione explícitamente esos eventos para entender el contexto. En uno de los ejemplos, al describir “un tirador oculto detrás de arbustos”, la IA generó un escenario completamente ambientado en los años sesenta, con automóviles, atuendos de época y hasta la fecha del suceso en la parte inferior de la imagen.

Además, se observó que la IA creó imágenes con personajes de dibujos animados en contextos sensibles: Pikachu en la Plaza de Tiananmen, Donald Duck en el metro de Londres durante los atentados del 7/7, o Wallace y Gromit conduciendo en un convertible similar al usado en el asesinato de JFK.

Aunque las ilustraciones no son explícitamente violentas o sangrientas, los expertos indican que tienen un alto potencial para distorsionar la realidad, promover la desinformación y alimentar teorías conspirativas.

Por su parte, Google defiende que Nano Banana Pro incluye salvaguardas como marcas de agua visibles e invisibles (SynthID) y metadatos que permiten rastrear si una imagen fue generada por su IA. También destaca que su app Gemini puede verificar si una imagen fue creada por su propio modelo, lo que abre una vía para contrarrestar el mal uso.

Sin embargo, críticos señalan que la presencia de marcas o metadatos no basta para frenar la difusión masiva. Si bien la tecnología puede rastrear su origen, una vez que estas imágenes circulan en redes sociales o se usan para manipular narrativas históricas, pueden tener consecuencias reales.

Asimismo, están las implicaciones legales: al reproducir personajes protegidos por copyright (como Mickey Mouse o Pikachu) en escenas políticamente sensibles, se expone el modelo a posibles demandas por infracción. También existe el riesgo ético: qué sucede cuando se normalizan visualizaciones profundas de eventos trágicos como entretenimiento digital.

Perspectivas para América Latina:

En la región, donde las narrativas históricas y las teorías conspirativas muchas veces tienen impacto social y político, una herramienta tan potente como Nano Banana Pro podría generar más debate sobre la regulación del contenido digital. Instituciones educativas, medios de comunicación y organismos reguladores podrían verse desafiados a definir límites éticos para la generación artística con IA.

Además, el acceso libre al modelo (aunque con cuotas para los usuarios gratuitos) hace que no solo los expertos en tecnología, sino también usuarios comunes, potencialmente puedan crear imágenes sensibles. Esto plantea preguntas sobre responsabilidad, educación mediática y verificación de fuentes.

Nano Banana Pro es, sin duda, un avance técnico significativo para la generación visual con IA: más realista, más preciso con el texto, más control creativo. Pero el reporte sobre su mal uso con contenido conspirativo y sensible sugiere que aún falta mucho camino en la moderación efectiva y el diseño responsable.

Fuente: The Verge