En su Mensaje para el 60º Día Mundial de las Comunicaciones, titulado «Proteger las voces y rostros humanos», León XIV advirtió sobre los riesgos de la inteligencia artificial: «un puñado de empresas detrás de una fuerza enorme».
(avvenire.it).-La cuestión es que ya no es un «desafío tecnológico» sino uno «antropológico». En medio de la «revolución digital», el Papa León XIV, en su Mensaje para el 60º Día Mundial de las Comunicaciones, que se celebrará el 17 de mayo, ha invertido la perspectiva. La verdadera misión encomendada a los comunicadores, en una sociedad que ya está cambiando muy rápidamente, es «Proteger las voces y rostros humanos» de los riesgos de la IA, como indica el propio título del texto, publicado hoy, en el día en que se celebra el memorial litúrgico de San Francisco de Sales. «Voces y rostros» de cada uno que son «sagrados» porque, continuó el Papa, «nos fueron dados por Dios, que nos creó a su imagen y semejanza». Preservarlos en su singularidad significa «guardar este sello, este reflejo imborrable del amor de Dios», leemos en las primeras líneas. Y por tanto no se trata de «detener la innovación digital», sino de «guiarla», educarla para que respete la dignidad humana.
Los riesgos de la tecnología para las relaciones
Preservar «los rostros y voces humanos» y su singularidad significa, ante todo, continuó el Pontífice, protegiendo del embate de la tecnología lo que son «pilares fundamentales de la civilización humana», ya que el ser humano no es «una especie compuesta por algoritmos bioquímicos, definidos de antemano». Cada uno, en cambio, «tiene una vocación insustituible e inimitable que surge de la vida y que se manifiesta precisamente en la comunicación con los demás». La inteligencia artificial, al simular las voces y rostros de los hombres, de hecho, no solo interfiere «en los ecosistemas de información» sino que también invade «el nivel más profundo de comunicación, el de la relación entre las personas humanas». Prevost había denunciado repetidamente los riesgos asociados a los algoritmos, que «encierran a las personas en burbujas de fácil consenso e indignación fácil» y «debilitan la capacidad de escuchar y pensar críticamente», aumentando la «polarización social».
Pérdida del pensamiento personal
La otra gran preocupación, también vinculada a tristes noticias en los últimos meses en los que han participado principalmente adolescentes y jóvenes, es la «dependencia ingenuamente acrítica de la inteligencia artificial como un ‘amigo’ omnisciente, dispensador de toda información, archivo de toda memoria, ‘oráculo’ de todos los consejos», especificó el Pontífice. De la misma manera, «la asistencia en la gestión de tareas comunicativas» corre el riesgo «a largo plazo de erosionar nuestras capacidades cognitivas, emocionales y comunicativas». Esto, añadió, también corre el riesgo de desmantelar «gran parte de la industria creativa humana», sustituyéndola por «la etiqueta ‘Impulsado por IA’«, mientras que «las obras maestras del genio humano en el campo de la música, el arte y la literatura se reducen a un mero campo de entrenamiento mecánico». Renunciar al proceso creativo, enfatizó Prevost, significa «enterrar los talentos que hemos recibido para crecer como personas en relación con Dios y los demás.»
El engaño de la realidad simulada
El Papa también se detuvo extensamente en los riesgos asociados a las relaciones virtuales, en las que resulta «cada vez más difícil entender si estamos interactuando con otros seres humanos o con ‘bots‘ o ‘influencers virtuales‘». La estructura «dialógica y adaptativa, mimética» de estos modelos lingüísticos, especificó, «es capaz de imitar los sentimientos humanos y así simular una relación», pero «esta antropomorfización, que incluso puede ser divertida, es al mismo tiempo engañosa, especialmente para las personas más vulnerables». En su mensaje, el Pontífice advirtió contra la «tecnología que explota nuestra necesidad de relaciones», que puede «tener consecuencias dolorosas en el destino de los individuos, pero también puede dañar el tejido social, cultural y político de las sociedades». Otro gran desafío, entonces, planteado por los «sistemas emergentes» es el del «sesgo», que «conduce a la adquisición y transmisión de una percepción alterada de la realidad», porque los propios modelos de IA «están moldeados por la visión del mundo de quienes los construyen». A partir de ahí, señaló de nuevo la «falta de transparencia en el diseño de algoritmos», que «junto con la representación social inadecuada de los datos», atrapan en redes que «manipulan nuestros pensamientos y perpetúan y profundizan desigualdades e injusticias sociales existentes». A esto se suma la cuestión de la «precisión» de la información, a la que los periodistas deben prestar mucha atención para no dejar el campo abierto a la «desinformación» que cause un «creciente sentimiento de desconfianza, desconcierto e inseguridad», volviendo tanto como sea posible al «trabajo de campo».
En la cima de lo que León XIV llamó una «enorme fuerza invisible que nos involucra a todos», y que contribuye a perder de vista lo que es verdad y lo que es ficción, «solo hay un puñado de empresas», denunció. Aquellos «cuyos fundadores fueron recientemente presentados como los creadores de la ‘persona del año 2025’, es decir, los arquitectos de la inteligencia artificial», continuó con un tono claro y decidido, refiriéndose a la elección de la revista estadounidense Time. Esto «genera una preocupación importante respecto al control oligopolístico de los sistemas algorítmicos e inteligentes artificiales», dice el mensaje, «capaces de orientar sutilmente el comportamiento, e incluso reescribir la historia humana, incluida la historia de la Iglesia, a menudo sin que realmente podamos darnos cuenta de ello.»
La urgencia de una alianza
Sin embargo, todavía hay una posibilidad. Y consiste en intentar construir una alianza «saludable» con la tecnología que anteponga la dignidad humana. «Depende de cada uno de nosotros alzar la voz en defensa de las personas humanas, para que estas herramientas puedan ser verdaderamente integradas por nosotros como aliados. – escribió – Esta alianza es posible, pero debe basarse en tres pilares: responsabilidad, cooperación y educación». Hablando del primer punto, Prevost lanzó un llamamiento a todos por la coresponsabilidad, empezando por quienes están en la cima de las «plataformas online», a quienes se les pide que «aseguren que sus estrategias empresariales no se guíen únicamente por el criterio de maximización del beneficio», sino que también estén orientadas hacia el bien común. El Papa pidió a los «creadores y desarrolladores de modelos de IA» «transparencia y responsabilidad social respecto a los principios de diseño y los sistemas de moderación que sustentan sus algoritmos», con el fin de «fomentar el consentimiento informado por parte de los usuarios». Lo mismo se pide a los legisladores nacionales y a los reguladores supranacionales, «que son responsables de supervisar el respeto a la dignidad humana» mediante regulaciones.
Los operadores de medios y comunicación, por tanto, «no pueden permitir a su vez que algoritmos destinados a ganar la batalla a cualquier coste prevalezcan unos segundos más de atención sobre la fidelidad a sus valores profesionales, orientados a la búsqueda de la verdad». Las palabras clave para los medios deben ser «precisión» y «transparencia». De ahí la petición de que el contenido generado o manipulado por IA sea «claramente señalado y distinguido del contenido creado por personas», así como para proteger «la autoría y la propiedad soberana del trabajo de periodistas y otros creadores de contenido». Esto se debe a que «la información es un bien público» y «un servicio público constructivo y significativo no se basa en la opacidad, sino en la transparencia de las fuentes, la inclusión de los implicados y un alto estándar de calidad».
La tarea de los católicos
Por tanto, en los procesos educativos es necesario dar gran importancia a la formación de «habilidades personales para reflexionar críticamente», para «evaluar la fiabilidad de las fuentes y los posibles intereses detrás de la selección de la información que nos llega», pero también «comprender los mecanismos psicológicos que activan, para permitir que nuestras familias, comunidades y asociaciones desarrollen criterios prácticos para una cultura de comunicación más sana y responsable».
Como católicos, enfatizó el Papa, «podemos y debemos hacer nuestra contribución, para que las personas, especialmente los jóvenes, adquieran la capacidad de pensamiento crítico y crezcan en libertad de espíritu.» Es una «alfabetización» necesaria que «también debería integrarse en iniciativas más amplias de educación a lo largo de la vida, llegando también a los mayores y a los miembros marginados de la sociedad». Este proceso de «educación» hacia los medios, la información y la IA, continuó, «ayudará a todos no a adaptarse a la deriva antropomorfizante de estos sistemas, sino a tratarlos como herramientas, a usar siempre la validación externa de las fuentes.» También es urgente educar para «proteger la imagen, el rostro y la voz», para evitar que «se utilicen en la creación de contenido y comportamientos dañinos como el fraude digital, el ciberacoso, los deepfakes que violan la privacidad e intimidad de las personas sin su consentimiento».
Volviendo a la comparación con la revolución industrial, León XIV enfatizó que esto había requerido «alfabetización básica para permitir que la gente reaccionara a la novedad.» De manera similar, «la revolución digital también requiere alfabetización digital» para entender «cómo los algoritmos moldean nuestra percepción de la realidad, cómo funcionan los sesgos de la IA, cuáles son los mecanismos que determinan la aparición de ciertos contenidos en nuestros flujos de información (feeds), qué son y cómo pueden cambiar los supuestos y modelos económicos de la economía de la IA».
Solo preservando el «don de la comunicación como la verdad más profunda del hombre», concluyó Prevost, el hombre podrá dirigir «toda innovación tecnológica» hacia ella.
