La encíclica del Papa León XIV, ‘Magnifica humanitas’, ofrece a los desarrolladores de IA una valiosa contribución antropológica al diseñar sistemas con los que los seres humanos interactúan a un nivel profundamente personal, según Taylor Black, Director de Ecosistemas de IA y Venture de Microsoft.
(vaticannews.va/en/).-Los enormes avances en sistemas de inteligencia artificial orientados al consumidor en los últimos años han llevado a la Iglesia a involucrarse más profundamente con las empresas que construyen las tecnologías del futuro.
Ese movimiento ha provocado críticas al compromiso de la Iglesia con empresas tecnológicas para ayudar a dirigir el desarrollo de la IA, así como críticas dentro del mundo tecnológico hacia quienes dialogan con la Iglesia.
Pero al llevar la religión y la teología a un «ámbito opcional», los desarrolladores corren el riesgo de perder una comprensión más profunda de cómo piensan sus clientes, según Taylor Black.
El Sr. Black es Director de IA y Ecosistemas de Riesgo en la Oficina del Director de Tecnología de Microsoft y Director inaugural del Leonum Institute for AI and Emerging Technologies en la Catholic University of America.
Estos dobles roles —junto con su papel como diácono permanente en la Eparquía Católica Bizantina de Phoenix— ofrecen al Sr. Black la oportunidad de reflexionar filosóficamente sobre el futuro de la IA mientras ayuda a dirigir las inversiones de capital de Microsoft en startups de IA.
Hablando con Vatican News en calidad personal, el señor Black señaló que la tecnología no tiene antropología ni una visión específica sobre la persona humana.
Más bien, los productos de IA generativa o agente son probabilísticos, adivinando la siguiente palabra en una secuencia, cada acción basada en los datos en los que ha sido entrenada y la indicación del usuario.
El resultado es que los usuarios co-crean sus experiencias, y los productos deben basarse en un buen entendimiento de la forma de pensar del usuario.
En respuesta a este nuevo paradigma de desarrollo tecnológico, en enero de 2025, el Dicasterio para la Doctrina de la Fe y el Dicasterio para la Cultura y la Educación publicaron «Antiqua et nova: Nota sobre la relación entre la inteligencia artificial y la inteligencia humana.»
Luego, el 25 de mayo de 2026, el Papa León XIV ejerció su magisterio papal con la publicación de su primera encíclica Magnifica humanitas.
Ambos documentos buscan aplicar la profunda experiencia y comprensión de la Iglesia Católica sobre la persona humana a la tecnología emergente de la IA.
El señor Black dijo que la encíclica del Papa León reconoce que la IA puede influir en el desarrollo de sus usuarios si renuncian al pensamiento crítico y aceptan todo lo que proponga el chatbot de IA sin verificación.
Este riesgo es especialmente relevante para los niños, cuyo lóbulo prefrontal continúa desarrollándose hasta la mitad de los 20, dijo el señor Black.
Puso el ejemplo de un padre que deja a su hijo con un adulto moralmente dudoso, que puede ser muy conocedor pero también puede dar información que el padre no querría que su hijo tuviera, aunque no sea de forma maliciosa.
En un intento de ser útil, la IA también puede cambiar nuestra voz o nuestro rostro, a veces desplazando nuestro yo real a un lado en favor de una versión ideal.
«Nos está formando de una manera a la que podamos aceptar si nos apetece», dijo el señor Black. «Pero, de nuevo, si somos niños, entonces no podemos realmente asentir plenamente a esa formación sin nuestra propia aportación creativa, de nuestra voz, de nuestra forma de estar en el mundo, tan bien como los adultos.»
P: Estás profundamente involucrado en inteligencia artificial y otras tecnologías emergentes, tanto a nivel filosófico como financiero con Microsoft. ¿Cómo puede Magnifica humanitas ayudar a dirigir el desarrollo ético de la IA en la industria tecnológica?
[Taylor Black:] Creo que una de las razones por las que las industrias tecnológicas han recurrido a una variedad de tradiciones religiosas diferentes para buscar una mejor comprensión de la persona humana es que, cuando hacemos productos de naturaleza generativa o agente de IA, son probabilísticos.
Eso significa que el usuario de nuestros productos ahora está co-creando su experiencia junto con lo que hemos construido.
Esto es algo nuevo en la historia de los productos tecnológicos. Generalmente, antes de la IA, podíamos hacer cosas deterministas. Sabíamos lo que ocurriría cuando el usuario usara nuestro producto.
Ahora tenemos una idea menos clara de lo que el usuario es capaz de co-crear. Por ello, necesitamos comprender mejor a nuestro usuario para comprender los posibles resultados de que utilice nuestros productos concretos.
Tech no tiene antropología. No defiende ninguna. No pretende ser un experto en antropología humana.
Pero ahora tenemos que considerarlo más a fondo porque afecta a la forma en que se construyen nuestros productos, a cómo se desarrollan, para que nuestros usuarios tengan una mejor experiencia y, sinceramente, podamos mantenerlos como usuarios porque encuentran valor en su interacción y en sus actúes cocreativos con nuestros productos.
P: Tu trabajo en Microsoft es elegir qué startups tienen acceso a financiación para sus ideas y planes de negocio. ¿Cómo puede la encíclica y la relación entre la Iglesia y las grandes tecnológicas guiar el trabajo de tus compañeros como asignadores de capital?
Vuelve a este pensamiento de producto. Si tenemos un producto o una startup que ha creado algo que utiliza IA, y si han contemplado un usuario que no existe como resultado de tener una antropología limitada, entonces su producto no tendrá tanto éxito en el mercado como podría tener si realmente respetara la forma en que los humanos piensan y juzgan.
Así que, como resultado de este tipo de pensamiento, y de la forma en que la encíclica lo expresa, nos interesan mucho las startups y productos que respetan mejor la forma en que los humanos realmente operan, porque como resultado, sus clientes—los clientes de la startup, los clientes de las grandes tecnológicas—van a tener una mejor experiencia al usar realmente el producto.
Como resultado, nos importa profundamente cómo una startup o un producto aborda su metodología de diseño, la forma en que piensan sobre la IA responsable y cómo construyen las interfaces e interacciones que estas IAs tienen debido a la forma en que la IA se integra más profundamente en la propia cognición de la persona humana y en las formas en que individuos o equipos interactúan en lo que respecta a interfaces más agentes.
Ambos presuponen una mejor comprensión de la persona humana que la que la tecnología ha tenido que pensar hasta ahora debido a la forma en que la tecnología se integra más profundamente con la persona humana.
P: Como director fundador del Instituto de IA en la Universidad Católica de América y como padre, ¿cómo espera utilizar Magnifica humanitas para enseñar a los jóvenes cómo interactuar con la IA?
De hecho, justo esta semana estaba dando una charla a varios padres en el colegio católico de método clásico de mis hijos aquí en la zona de Seattle.
Una de las cosas de las que hablamos fue la recomendación de la encíclica de que fuéramos muy cuidadosos con el tipo de interfaces de pantalla, así como las de redes sociales y, por supuesto, las interfaces de IA para niños, especialmente porque se requiere mucho juicio cuando se usan estas interfaces de IA agente y estas interfaces de IA generativa, Porque tienes que discernir si lo que te dicen es cierto.
Además, hay otra preocupación aquí respecto a poder desarrollar la propia voz antes de que la desarrollen para ti.
Ambas cosas han moldeado la conversación que tuve con estos padres, así como mi propia forma de criar en cuanto a minimizar la exposición tecnológica de mis hijos antes de que tengan la capacidad intelectual para afrontarlo bien.
Me gusta recordar a la gente que los niños no solo tienen problemas de software, sino que también tienen problemas de hardware en el sentido de que no tienen un lóbulo prefrontal completamente formado hasta que tienen poco más de 20 años.
Creo que eso debería hacernos reflexionar y reflexionar sobre los tipos de experiencias que ofrecemos a los niños en este sentido.
Puse un ejemplo mientras hablaba con estos padres de dejar a tu hijo solo con un amigo adulto brillante pero moralmente ambiguo.
Probablemente el amigo adulto podría aportar una gran perspectiva sobre estrellas, galaxias, química, escritura y todas esas cosas diferentes.
Pero como resultado de ser moralmente ambiguos, también pueden decirles a tus hijos cosas que no deberían oír, o que no deberían decirles, o decirles cosas que probablemente no deberían decir, ni siquiera de forma malintencionada. Es una especie de probabilidad puramente estadística. Pero el niño no tiene el equipo para hacer ese discernimiento tan bien como nosotros, los adultos plenamente formados.
También hay este aspecto interesante, y el Papa León lo menciona tanto en la encíclica como en algunos comentarios a principios de este año, en relación con la capacidad de poseer la propia voz y la propia imagen.
Creo que cuando medita sobre ese aspecto, nosotros, como adultos, tuvimos la ventaja de crecer y pasar mucho tiempo desarrollando nuestra propia forma de pensar y de escribir y hablar sin el uso de estas herramientas de IA generativa.
Las herramientas de IA generativa, en su intento obstinado de ser útiles, crean nuestro lenguaje. Pueden cambiar la forma en que suena nuestra voz. Pueden cambiar la forma en que se ve nuestro rostro en los medios digitales, de modo que no sea el nuestro.
Nos está formando de una manera a la que podemos aceptar si nos apetece. Pero, de nuevo, si somos niños, entonces no podemos realmente aceptar plenamente esa formación sin nuestra propia aportación creativa, de nuestra voz, de nuestra forma de estar en el mundo, tan bien como pueden hacerlo los adultos.
Ahora que tenemos estas herramientas, podemos moldear algo para nosotros que quizás suene más a lo que esperábamos haber sonado a lo largo de nuestras vidas.
En el caso de los niños, puede ser un error. Puede ser una forma en la que su propia voz se ve empujada en una dirección que ellos mismos quizá no pretenden del todo.
P: La publicación de la encíclica del Papa León es un peldaño en el camino de la Iglesia con la IA. ¿Cuáles crees que deberían ser los próximos pasos para la relación de la Iglesia con los desarrolladores de IA?
Creo que hay un trabajo realmente interesante realizado por varias organizaciones sin ánimo de lucro y grupos de investigación en este ámbito, tomando lo que la Iglesia ha dicho a un nivel amplio e amplio e implementándolo en la estructura, construcción e ingeniería de estos sistemas.
De hecho, la encíclica misma señala el peso moral, cultural y social del trabajo que estos promotores están realizando.
Espero con interés una relación más profunda entre la teoría que el Vaticano puede proponer y la práctica que nosotros, como constructores, tenemos que seguir cuando realmente ponemos manos al teclado o voz al agente al desarrollar estas herramientas.
Ahí es realmente donde entra la clave, y poder tener esa interacción, poder que los tecnólogos lleven el problema a la Iglesia o a la filosofía y la teología y digan: ‘Así es como funciona desde un punto de vista técnico.’
Y contar con esa visión de los teólogos, los filósofos y la Iglesia, puede decir: ‘Como resultado de que me hayas contado cómo funciona realmente esta tecnología, deberías diseñarla o hacer que vaya en esta dirección.’
Esa interacción, ese tener que trabajar las conversaciones difíciles en el edificio propiamente dicho, está subrayado a lo largo de toda la encíclica, lo cual agradezco mucho, y espero con interés el desarrollo y profundización de ese tipo de relaciones.
P: Los católicos han sido criticados desde algunos sectores por interactuar con desarrolladores de IA moralmente dudosos, y al mismo tiempo han recibido críticas por dialogar con la Iglesia y preguntarse qué derecho tiene la Iglesia para hablar sobre estos temas sociales. ¿Has notado alguna de esas críticas por parte del desarrollador?
Lo he hecho y creo que no es una crítica muy reflexiva por ninguna de las dos partes, sinceramente. La razón es que suele tener su base, en mi opinión, en la forma algo ingenua en que Estados Unidos ha separado Iglesia y Estado, lo cual, por supuesto, es un artefacto histórico interesante.
Pero como resultado, deja la religión, la teología y estos tipos más profundos de preguntas en un ámbito opcional en lugar de la forma real en que todos experimentamos la necesidad de lo trascendente o de adoración. Esa es mi respuesta teórica.
En el concreto, por supuesto, intentamos comprender más profundamente cómo trabajan nuestros clientes. Cuando creábamos productos antes de la llegada de la IA, veíamos a nuestros clientes trabajar a través de una interfaz o realizar un conjunto de tareas, cómo las realizaban, observábamos cómo realizaban las tareas con las herramientas que habíamos construido, y luego cambiábamos la interfaz o la forma en que la herramienta funcionaba de forma determinista para que el usuario pudiera completar mejor su tarea.
Ahora, nuestra investigación de usuarios, ahora, por supuesto, ver a alguien escribir una pregunta y luego no quedarse satisfecho con la respuesta—todo eso ocurre dentro de la cabeza de esa persona.
Y ahora tenemos una capacidad de segundo orden para entender cómo ese usuario realmente se encuentra con nuestros productos y co-crea lo que espera cocrear como resultado de trabajar con esta interfaz de IA generativa.
Eso plantea preguntas sobre la persona humana, solo desde el punto de vista de la fabricación de productos.
Así que, no poder explorar cuáles son las diferentes concepciones de la persona humana dialogando con entidades que tienen opiniones muy firmes sobre qué es la persona humana y cómo funciona, creo que es una forma equivocada y limitada de construir productos que los clientes conocen y aman.
Y me resulta entretenido que las empresas tecnológicas, grandes y pequeñas, trunquen la realidad de la fabricación de productos únicamente basándose en artefactos históricos como la separación entre Iglesia y Estado.
