¿La palabra de Dios o la palabra de la IA?
(gizmodo.com/).-Cuando el papa León XIV publicó la Magnifica Humanitas, su encíclica de 43.000 palabras que llama a la gente a mantener y proteger la dignidad humana frente a la inteligencia artificial, algunos en el mundo de la IA empezaron a alegar que el jefe de la Iglesia Católica utilizó IA para redactar el documento, acusándole de hipocresía. Aunque el Vaticano nunca reconoció realmente las acusaciones, desde entonces se ha esforzado en desacreditarlas. Según The Guardian, Magnifica Humanitas ha sido oficialmente certificada como autora humana.
Gran parte de toda esta controversia depende de en quién sientas que puedes confiar. En un rincón están los evangelistas de la IA, que han decidido confiar en los sistemas de detección de IA (que a su vez están impulsados por IA). Pangram Labs se ha convertido en el nombre más grande en este sector, en parte por su estado de guardia en X, donde cualquier usuario puede etiquetar a la empresa en una publicación y obtener un análisis para saber si es generada por IA o no.
Panagram Labs señaló varias publicaciones hechas en la cuenta oficial X del Papa León XIV como probablemente escritas por IA. Un análisis de la encíclica completa realizado por la empresa sugirió que, aunque la mayoría parece ser de autor humano, algunos párrafos pueden contener texto generado por IA. Linch Zhang, investigador en IA, también escribió un análisis en profundidad del documento y concluyó que parte del texto probablemente sea de la autora de IA, aunque se cuidó al sugerir que es más probable que los funcionarios vaticanos usaran asistencia por IA para partes del artículo que el propio Papa León.
Y aunque la intriga palaciega/papal de algún miembro del personal que introduce texto generado por IA sería una continuación de Conclave de menor tensión, parece que el Vaticano está echando agua fría a esa idea. Según The Guardian, la iglesia se ha tomado la molestia de que toda la encíclica sea verificada como escrita por humanos por Proudly Human, una empresa que certifica obras como hechas por personas reales sin IA.
Para obtener esa certificación, la iglesia supuestamente presentó una colección de escritos y discursos realizados por el papa. Parece que se utilizan como una especie de grupo de control, y la encíclica se prueba contra ellos para verificar su autenticidad. El proceso incluye someterse a una comprobación de identidad y firmar una verificación de que la IA no se utilizó en un primer borrador y que no escribió ninguna frase o párrafo del producto final.
¿Cómo se analiza y compara exactamente tantos textos? No te lo vas a creer, pero con la IA. Se dice que Proud Human utiliza varias herramientas diferentes para analizar matices en la escritura y las elecciones gramaticales entre los textos. La empresa utiliza entonces su propio algoritmo de promediado para determinar la autenticidad.
Su veredicto sobre la Magnifica Humanitas: puramente humano.
Así que, realmente, todo depende de en qué proceso y motivaciones confíes. No es que esto haya impedido que un Papa cometiera algo malo en el pasado, pero es el único en esta situación con la amenaza de condenación eterna sobre su cabeza si miente, así que uno pensaría que eso sería un motivador bastante sólido para ser honesto sobre la situación.
