William Jones, del Future of Life Institute, habla con Vatican News sobre el estado actual del desarrollo de la IA, el impacto que ya está teniendo en los seres humanos y el papel de la religión en la construcción de un futuro positivo para nuestra especie.
(Durante años, los expertos en seguridad de IA han advertido sobre un momento futuro en el que los modelos de IA sean lo suficientemente avanzados como para poder mejorarse a sí mismos, produciendo sucesores más capaces que luego repetirían el ciclo.
Advierten que tal dinámica —denominada ‘auto-mejora recursiva’— podría conducir potencialmente a una mejora exponencial e incontrolable en las capacidades de la IA, suponiendo una grave amenaza para la humanidad.
Con el reciente lanzamiento de modelos de IA con capacidades de programación mucho mejoradas, algunos de esos expertos ahora se preguntan si ese momento ha llegado.
Entre ellos está William Jones, asociado del Programa de Futuros en el Future of Life Institute de Londres, que trabaja para alejar las nuevas tecnologías de riesgos tan extremos. Habló con Vatican News sobre las amenazas que supone la IA y el papel de la religión en la salvaguarda de un futuro positivo para la humanidad.
William Jones: Creo que lo que estamos viendo es que muchas cosas están surgiendo y de las que la gente en IA lleva hablando internamente desde hace tiempo. Pensábamos y esperábamos que podrían estar más lejos. ‘Auto-mejora recursiva’ es una de ellas. Hace unos años, esto se promocionaba como el gran temor entre los especialistas en seguridad en IA: el momento en que tienes IAs que realmente pueden crear el siguiente modelo y mejorarse a sí mismas. Nadie sabe a qué velocidad puede llegar eso ni hasta dónde puede llegar, y no parece un proceso sobre el que tengamos mucho control, por decirlo suavemente.
Claude Code y otros sistemas que se han lanzado en el último mes o dos, creo, han hecho que la posibilidad de reemplazo sea bienvenida para mucha gente. Las empresas no buscan crear sistemas que puedan ayudar a los trabajadores, sino reemplazarlos. Obviamente, con la programación, sigue siendo más propio del ámbito de la oficina de oficina, pero en última instancia esto podría extenderse también a los trabajadores manuales, con mejoras en robótica.
Además, actualmente hay mucho intercambio en Estados Unidos entre las empresas de IA y el gobierno. En el caso de la disputa con Anthropic, el Pentágono parece estar diciendo que la IA letal autónoma es un componente esencial del uso gubernamental de estas tecnologías, lo cual me parece bastante preocupante.
P: Así que claramente hay una necesidad de responsabilidad en la gobernanza de la IA. Antes de que empezara la entrevista, me contabas cómo has visto un renovado interés en el papel que la religión puede desempeñar en ese sentido. ¿Podrías explicarlo?
Diría que el año pasado vi un verdadero crecimiento en el número de escritores religiosos diferentes, especialmente en Estados Unidos, que abordaban estos temas. Creo que lo principal que despertaba el interés de muchos en el tema eran los suicidios infantiles, estos casos de adolescentes que hablaban con chatbots y poco a poco se iban distanciando más del mundo real y, al final, quitándose la vida.
La madre en uno de los casos más destacados, Megan Garcia, se ha convertido en una defensora muy vocal. Creo que es una católica declarada; se reunió con el Papa el año pasado. En DC, hemos visto coaliciones religiosas que involucran a grupos como la National Association of Evangelicals, el Institute for Family Studies y varios académicos católicos. En un momento dado, lobbies del gobierno federal intentaron prohibir a los estados legislar sobre IA durante los próximos diez años a través del Congreso, pero hubo una oposición real a eso, una especie de coalición de grupos laborales, religiosos, grupos de política infantil y especialistas en seguridad en IA uniéndose, diciendo: «Estas empresas se están volviendo demasiado poderosas para permanecer sin regulación; Mira el impacto que eso está teniendo en nuestros hijos.» Quiero decir, estamos hablando de cientos de miles de casos de psicosis por IA por parte de jóvenes y otras personas vulnerables que pasan horas cada día durante meses hablando solo con IAs.
Por muchas razones, el problema de los chatbots resuena con los grupos religiosos. Es un tema muy pastoral. Igualmente, está claro que es un tema espiritual en muchos sentidos. Se relaciona con el concepto que las personas tienen de quiénes son. Y la Iglesia Católica tiene mucho texto sobre la relacionalidad, sobre las relaciones encarnadas cruciales para el florecimiento humano. Por todas estas razones, creo que esto ha incorporado a muchos nuevos líderes religiosos a esta batalla y ha subrayado la urgente necesidad de actuar.
P: Mencionó la Iglesia Católica allí. El Vaticano ha estado muy activo recientemente en materia de IA. Ha habido iniciativas como la Llamada de Roma para la Ética en IA y documentos como Antiqua et nova. ¿Cuál es su valoración del papel que desempeña el Vaticano en la lucha por la seguridad de la IA?
Creo que lo primero que hay que decir es que la Iglesia Católica ha estado, en muchos sentidos, por delante de todas las demás grandes religiones y denominaciones en cuanto a su respuesta a la IA. Mencionaste el Rome Call – eso fue muy temprano, en 2020. Y me han dicho miembros de otras religiones que desearían tener su propia versión de Antiqua et nova, que salió a principios del año pasado. Los grupos protestantes a menudo reconocen que no pueden reunirse en un lugar central ni organizar talleres como hace el Vaticano.
El Papa León llegó el año pasado y, desde el principio, habló de la IA como uno de los principales temas de su papado, al menos por el momento. Hizo una comparación con su predecesor, el Papa León XIII, que respondió a la revolución industrial con la Rerum Novarum, y sugirió que él, como Papa León XIV, estaba interesado en aplicar las riquezas de la Doctrina Social Católica a la revolución de la IA.
Diría que otra iniciativa que ha sido bastante inspiradora para otras religiones ha sido la serie de talleres organizados por el Dicasterio de Cultura y Educación, talleres de académicos y éticos que inicialmente produjeron un libro llamado Encountering Artificial Intelligence, y ahora, en los últimos meses, han publicado su segundo libro titulado Reclamando la Agencia Humana en la Era de la Inteligencia Artificial.
Estos sistemas de IA se están volviendo cada vez más agentes. ¿Qué significa eso para la agencia humana? Es más una cuestión filosófica que técnica, pero sin duda muy necesaria en este momento en cuanto a cómo pensamos sobre el empoderamiento humano.
¿Qué papel vamos a desempeñar los humanos en un mundo donde la IA está ocupando más de nuestros trabajos y cada vez más tomando nuestras decisiones por nosotros, incluso decisiones sobre la vida o la muerte? La Iglesia Católica ha sido muy clara durante casi diez años en que los sistemas autónomos de armas letales deben ser prohibidos. Aún no lo han sido, pero el liderazgo de la Iglesia en ese tema ha sido muy valorado en los círculos de la sociedad civil y en los esfuerzos de gobernanza multilateral.
P: Además de estos problemas de vida o muerte, el Papa también ha hablado de algunas de las formas más mundanas en que la IA está penetrando en nuestra vida diaria. Por ejemplo, les dijo a los niños que no usaran IA para hacer los deberes.
Sí, con el paso del tiempo, el Santo Padre está diciendo cada vez más sobre diferentes facetas del gigante de la IA. Le dijo a un grupo de niños que, si mañana se llevaran a la IA, deberían seguir siendo capaces de pensar y sentir por sí mismos. Hace apenas unos días, dijo a un grupo de sacerdotes de Roma que no deberían usar IA para escribir sermones: los sermones deberían ser una expresión de su fe personal, y la IA no puede hacer eso.
Así que el Papa habla tanto desde un punto de vista espiritual como, por así decirlo, desde un punto de vista de desarrollo, diciendo tanto a niños como a sacerdotes, y a quien sea, que si decidimos que vamos a quedarnos de brazos cruzados y dejar que la IA lo haga todo por nosotros, en realidad no nos desarrollaremos. Nuestra formación como humanos y como católicos estará comprometida y limitada.
El Papa también ha tenido audiencias con cineastas, con la gobernanza corporativa, con parlamentarios. Y estos temas van surgiendo una y otra vez, esta idea de proteger y cultivar la dignidad de la persona humana.
Con la IA volviéndose claramente tan autónoma, será interesante ver cómo la Iglesia aborda las grandes cuestiones sobre la búsqueda de la IAG, la inteligencia artificial general o la superinteligencia artificial. Eso es lo que los líderes de la empresa dicen constantemente que aspiran. Los líderes tecnológicos han dicho que los humanos no estarán al mando en unos años y han afirmado que esto es inevitable.
Será bueno que la voz de la Iglesia recalce que los humanos deben seguir siendo guardianes de la creación de Dios y que la IA debe seguir siendo una herramienta, en lugar de convertirse en una fuerza incontrolable que nos reemplaza.
