Después de que una imagen realista generada por IA del Papa Francisco con una chaqueta de plumas se volviera viral en las redes sociales el año pasado, el propio Papa aparentemente se dio cuenta, informa Reuters. En un mensaje Con motivo de la 58ª Jornada Mundial de las Comunicaciones Sociales, Francisco escribe: “Basta pensar en el problema de larga data de la desinformación en forma de noticias falsas, que hoy pueden recurrir a los “deepfakes”, es decir, la creación y distribución de imágenes que parecen perfectamente visible. plausible pero falso (yo también he sido el sujeto)».
El Papa también advierte contra los mensajes de audio que “utilizan la voz de una persona para decir cosas que esa persona nunca dijo”, continúa. “La tecnología de simulación detrás de estos programas puede ser útil en ciertas áreas específicas, pero se vuelve perversa cuando distorsiona nuestra relación con los demás y con la realidad”.
En marzo de 2023, un usuario de Twitter llamado «skyferrori» utilizó el servicio de síntesis de imágenes Midjourney v5 para crear una foto falsa convincente del Papa Francisco con una larga chaqueta acolchada blanca y lo publiqué en el servicio. Rápidamente se volvió viral y ahora tiene más de 197.000 me gusta y 28,1 millones de visitas. Mucha gente pensó que era una foto real, y en ese momento se destacó por ser una de las primeras imágenes generadas por IA que engañó a una gran audiencia en línea.
«Estaba teniendo esta discusión con un amigo y, para ser honesto, no pensé que fuera falso», escribió un comentarista llamado «thrillgore» en los foros de Ars Technica en ese momento. «Pensé que era auténtico a pesar de haber leído hoy que el Papa Francisco era un tipo frugal y no hacía alarde de la riqueza del Vaticano… Ayer fue gracioso, ahora es absolutamente horrible».
Desde el lanzamiento de Stable Diffusion en 2022, hemos hablado con frecuencia de deepfakes y temimos que pudieran socavar la confianza social, disminuir la calidad de la información en línea al inyectar ruido, alimentar el acoso en línea y, potencialmente, alterar los registros históricos. Este es un problema sin resolver, ya que la tecnología de marcas de agua a menudo se considera poco confiable y los proyectos de etiquetado de metadatos aún no cuentan con un respaldo generalizado. Fundamentalmente, nuestra capacidad de confiar en lo que vemos en línea dependerá de cuánto confiemos en el mensajero.
“El desarrollo de los sistemas de inteligencia artificial, a los que dediqué mi reciente mensaje para la Jornada Mundial de la Paz, afecta radicalmente al mundo de la información y la comunicación y, a través de él, a ciertos fundamentos de la vida en sociedad”, advierte el Papa. «Estos cambios afectan a todos, no sólo a los profesionales en estos campos. La rápida difusión de innovaciones asombrosas, cuyo funcionamiento y potencial están más allá de la capacidad de la mayoría de nosotros para comprender y apreciar, ha demostrado ser emocionante y desorientadora».
