A partir de la próxima semana, Google Photos implementará una nueva característica que mostrará información adicional sobre las fotos editadas mediante inteligencia artificial (IA). Esto incluye herramientas como Magic Editor, Magic Eraser y Zoom Enhance. Cuando un usuario clicke en una imagen en Google Photos, ahora podrá ver detalles al desplazarse hasta la parte inferior de la sección «Detalles». Este cambio busca incrementar la transparencia respecto a las ediciones realizadas mediante IA.
Sin embargo, a pesar de esta nueva función, muchos sostienen que no es del todo evidente cuándo una imagen ha sido editada con IA, dado que Google aún no ha implementado marcas de agua visuales sobre las fotos que indiquen que han sido modificadas por sus herramientas de inteligencia artificial. Esto es especialmente importante en un momento en que la identidad visual de las imágenes en redes sociales y aplicaciones de mensajería juega un papel crucial en la percepción del contenido.
La compañía ha justificado esta divulgación como un paso para «mejorar la transparencia» y para ayudar a los usuarios a comprender cómo se han realizado las ediciones. No obstante, la falta de una marca visual clara que identifique las imágenes editadas plantea preocupaciones sobre la percepción pública de las fotografías. Si alguien encuentra una imagen en un feed social, en un mensaje de texto, o incluso mientras navega en la aplicación Photos de Google, no podrá fácilmente identificar que esta ha sido alterada.
El anuncio de esta nueva función se realizó a través de una publicación en el blog de Google, que salió a la luz poco después de su presentación de los nuevos teléfonos Pixel 9, que cuentan con estas herramientas de edición de fotos impulsadas por IA.
En lo que respecta a funciones adicionales como Best Take y Add Me, que no dependen de la IA generativa, Google Photos también empezará a reflejar que estas imágenes han sido editadas en los metadatos. Sin embargo, estas modificaciones no aparecerán en la pestaña de detalles de las imágenes.
Estas nuevas características no solucionan por completo los problemas críticos que muchos usuarios han expresado con respecto a las funciones de edición por IA en Google. Uno de los temas más debatidos ha sido la necesidad de incluir marcas de agua visuales que ayuden a proteger a los usuarios de ser engañados por contenido alterado. En respuesta a diversas críticas, Google no ha descartado la posibilidad de implementar estas marcas en el futuro.
En declaraciones del director de comunicaciones de Google Photos, Michael Marconi, se destacó que «Este trabajo no ha terminado». La empresa continuara recopilando comentarios y evaluando soluciones adicionales para aumentar la transparencia alrededor de las ediciones generativas de IA. Este enfoque resalta la creciente preocupación sobre la proliferación del contenido sintético en la internet.
La situación actual genera un debate sobre la ética de las alteraciones digitales y plantea preguntas sobre la confianza del público en las imágenes compartidas en línea. El enfoque de Google, que se basa en etiquetas en los metadatos, se apoya en plataformas para informar a los usuarios cuando están visualizando contenido generado por IA. No obstante, plataformas como Meta ya están implementando estrategias similares en Facebook e Instagram, y Google tiene planes para indicar imágenes generadas por IA en búsquedas antes de finalizar el año.
Mientras tanto, se espera que otros actores de la industria respondan rápidamente a esta evolución, ante el hecho de que auguran que el uso de herramientas de imagen de inteligencia artificial puede resultar en un aumento notable de contenido que no es genuino en Internet, lo que complica aún más la habilidad de discernir entre contenido real y falsificado.
Resumen:
- A partir de la próxima semana, Google Photos mostrará información sobre fotos editadas con IA.
- La falta de marco visual claro de IA ha generado preocupaciones sobre la percepción pública.
- Google ha propuesto soluciones para mejorar la transparência de las ediciones en sus imágenes.
Este desarrollo representa un aumento en la responsabilidad de las plataformas tecnológicas para garantizar que los usuarios sean conscientes de las modificaciones que afectan la realidad visual que consumen. Dada la creciente sofisticación de la IA, las empresas deben encontrar formas efectivas de proteger sus usuarios y mantener la confianza en la autenticidad del contenido compartido.
