(osservatoreromano.va/it).-El poderoso mensaje del Papa León XIV para el60º Día Mundial de la Comunicación comienza con una reflexión que guía y ordena todo su desarrollo: «El rostro y la voz son rasgos únicos y distintivos de cada persona; manifiestan su propia identidad irrepetible y son el elemento constitutivo de cada encuentro.»
Una consideración que inmediatamente desencadena dos reflexiones más. Primero que nada, somos cara y voz, no avatares ni publicaciones. Nuestra humanidad se expresa gracias a nuestro rostro, que debe poder manifestarse y ser observado, y a una voz que nos permite expresar no solo nuestras ideas sino también nuestras emociones. Por lo tanto, una tecnología que sea auténticamente a escala humana debe mejorar y no hacer desaparecer nuestra cara y nuestra voz sustituyéndolos. Y son precisamente las especificidades que esculpen rostros y voces — a veces consideradas imperfecciones aparentes — las que nos caracterizan, nos definen, nos identifican.
En segundo lugar, precisamente por el poder caracterizador del rostro y la voz, es ahí donde los algoritmos y máquinas del falso se concentran en engañarnos. Y es interesante notar que hay otro atributo propiamente humano —la mano— que sigue eludiendo a las creaciones sintéticas. A menudo es precisamente al mirar las manos de una imagen de calidad fotográfica como se reconoce su generación artificial, no solo por su frecuente empalagosa a medio camino entre la foto realista y la caricatura fantástica, sino sobre todo por la torpeza con la que las manos están (atemporalmente) representadas.
De hecho, para reconocer fácilmente fotos sintéticas, habría que desempolvar el método Morelli, desarrollado por Giovanni Morelli — contemporáneo de Arthur Conan Doyle — para aplicar el rigor de la ciencia de la investigación al estudio del arte. La hipótesis del método es que la mano de un artista puede identificarse a través de detalles anatómicos característicos y recurrentes en su arte, que el pintor repetía de forma casi mecánica, ya que él mismo consideraba insignificante en el contexto de toda la composición. Estos «motivos acrónimos» (más tarde llamados «figuras morellianas») permiten al estudioso asignar correctamente una atribución y son, por ejemplo, la forma del lóbulo, el contorno de los párpados, la longitud de las falanges, la conformación de los dedos. En el caso de la IA generativa, la figura morelliana para revelar la mano algorítmica sería la mano.
Hay otro aspecto que nos recuerda la importancia de la mano en la era de la revolución digital: su funcionalidad no solo caracteriza al ser humano (gracias al pulgar oponible), sino que da testimonio de la forma correcta de innovar tecnológicamente. La innovación auténtica no debe reemplazar, sino fortalecer, no debe ser un robot sino una herramienta que se debe sostener y orientar con las manos. Por otro lado, la etimología de manager nos lo recuerda: manu agere, guiar con la mano.
El desafío que recuerda el Papa en este mensaje es, por tanto, convivir con estas tecnologías digitales, sabiendo cómo captar sus luces y sombras. No para renunciar a ellos simplemente etiquetandolos como peligrosos, sino para usarlos al máximo de nuestras posibilidades para fortalecer nuestra humanidad y hacer crecer el bien común. Usarlos al máximo, por tanto, protegiendo nuestro rostro, nuestra voz… y yo añadiría nuestras manos.
Y entonces la comunicación, la auténtica y dialógica que se crea entre los seres humanos, se vuelve central. No solo nos completamos, sino que nos definimos con el Otro. Emmanuel Mounier señaló en Personalismo: «La primera experiencia de la persona es la experiencia de la segunda persona. El tú, y en él el nosotros, precede al yo, o al menos lo acompaña.» Y de hecho, para Friedrich Nietzsche, «el Tú es más antiguo que el Yo». Y quizás el origen de esto sea precisamente el proceso de concepción del ser humano. Donald W. Winnicott, en Children and Their Mothers, escribe: «YO SALGO no significa nada si no se asume que estoy al principio junto con otro ser humano, aún no diferenciado.»
Por estas razones, el diálogo —con un amigo, un colega, un profesor, un padre— no es en absoluto reemplazable con el impulso de una plataforma de inteligencia artificial generativa. Sobre todo, el diálogo, la búsqueda de información, la memoria de conceptos que nos han impactado, el resumen de un texto o una discusión, la conexión de puntos aparentemente no relacionados… Estas son actividades que requieren práctica y entrenamiento. Delegarlos a la máquina no solo puede socavar la calidad de los resultados (no tanto en el caso de los novatos, sino de los expertos), sino que nos condena a una degradación cognitiva progresiva.
A partir del análisis tan profundo que hace el mensaje sobre los posibles riesgos de esta tecnología — «lados oscuros de lo digital», los llamé en un libro mío hace varios años — me gustaría profundizar en uno, ya que lo considero no solo especialmente importante sino también a menudo no tan comprendido. De hecho, el Papa León XIV nos advierte contra una «dependencia ingenuamente acrítica de la inteligencia artificial como ‘amiga’ omnisciente, dispensadora de toda información, archivo de toda memoria, ‘oráculo’ de todo consejo».
En este sentido, resulta interesante recordar un texto antiguo —parte de nuestra cultura mediterránea— y quizás no suficientemente meditado por los tecnócratas digitales. Platón escribe esto en el Sofista, haciendo que el extranjero de Elea — la actual Velia en Cilento — lo diga: «Debemos pensar que también existe otro arte [capaz de imitar la realidad, como la pintura], un arte del discurso, de modo que también sea posible, con discursos precisamente esta vez, encantar los oídos de los jóvenes y de quienes aún están muy lejos de conocer la realidad de las cosas, ¿mostrarles imágenes habladas de todo y de tal manera que generen en ellas la opinión de que el hablante dice la verdad y que es el más sabio de todos en todo?»
Parecería ser un reflejo sobre la IA — o más bien el extracto de una reunión interna de una de las empresas que están lanzando las nuevas plataformas de IA generativa al mercado. En cambio, es una intuición que se remonta a hace unos 2.300 años.
Porque el objetivo final de las plataformas de IA generativa no es tanto la producción de conocimiento, sistemas expertos, sino la creación de un lenguaje muy potente — llamado modelo de lenguaje — capaz de adaptarse a cada interlocutor que les cuestione y persuadirles de la corrección de sus respuestas. Una especie de «certificado oracular» que asegura que estas tecnologías pueden persuadir sin tener que demostrar ni la coherencia de lo que dicen ni la fiabilidad de las fuentes de las que se basan — que de hecho siempre permanecen sustancialmente ocultas.
El corazón del sistema es, por tanto, el modelo lingüístico y el objetivo de la formación es alimentar a la plataforma con miles de millones de fragmentos de conversación online para alinearse y familiarizarse con los idiomas de la red y con lo que a la gente le gusta (y genera gustos) y, en última instancia, fortalecer el parafernalia lingüística de uno en un sentido persuasivo para construir lo que Cicerón llamaría captatio benevolentiae digitale.
En conclusión, retomando las palabras del Papa León XIV, «la cuestión que nos toca bien, sin embargo, no es qué puede o querrá lograr la máquina, sino qué podemos y seremos capaces de hacer, creciendo en humanidad y conocimiento, con un uso sabio de herramientas tan poderosas a nuestro servicio».
La relación con la tecnología, por tanto, no es un simple problema de habilidades, sino de liderazgo auténtico y eficaz: no se trata solo de utilizar bien las nuevas tecnologías, sino de tomar las decisiones correctas que abren o no a su uso y de crear los contextos de uso. Por tanto, es una cuestión de discernimiento y gobernanza, que también requiere un nuevo tipo de liderazgo —o más bien de orientación— que nos ponga en posición de utilizar esta tecnología para el bien común sin ser utilizada a su vez.
Por tanto, hay tres acciones a seguir en esta dirección, que surgen al releer la innovación tecnológica a través del prisma de la cultura y tradición mediterráneas:
• Técnica como el techne;
• Técnica como Pharmakon;
• la técnica como medio y no como fin.
En primer lugar, la técnica es un techne, una palabra griega que nos recuerda su doble valor como técnica, un método que se aprende, y el arte, es decir, la capacidad individual de transformar el conocimiento técnico en un producto artístico y personal. Siempre es el componente humano el que lo transforma en excelencia.
En segundo lugar, es un pharmakon: otra palabra griega que significa tanto droga como veneno. El hecho de que sea pharmakon no solo nos recuerda que cuanto más potente es la tecnología, más problemática puede ser; pero también que la «culpa» no es de la tecnología, sino de quienes la administran. Si se usa bien, de hecho, aporta grandes beneficios. Sin embargo, si se administra mal, puede causar mucho daño y — continuando con la alegoría médica — incluso llegar a la muerte del propio paciente. Ver lo digital como pharmakon nos atrae la atención de la tecnología hacia las habilidades necesarias para utilizarla.
Finalmente, es y debe seguir siendo un medio, aunque muy poderoso, sin llegar nunca a ser un fin. Una ciudad es inteligente porque se puede vivir mejor en ella, no porque esté llena de tecnología. Confundir un medio con un fin es tan conocido como peligroso e ineficaz. Produce sujeción y aceptación acrítica y abre el camino a una adoración que fácilmente puede convertirse en idolatría. Y ahora hay muchos signos.
