Papa León XIV critica la inteligencia artificial: "No tiene conciencia moral"

El Papa León XIV presentó en la Sala del Sínodo del Vaticano su primera encíclica, "Magnifica Humanitas", el primer documento papal dedicado íntegramente a la inteligencia artificial, en el que lanzó una advertencia filosófica y moral sin precedentes: las máquinas carecen de conciencia y nunca podrán sustituir al ser humano.

En un hilo de publicaciones en X, el Pontífice sintetizó el núcleo del documento con una declaración tajante: "Las inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad".

Y agregó: "Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias. Pueden imitar, pueden simular, pero no conocen lo que producen".

La encíclica, firmada el 15 de mayo en el Vaticano -exactamente 135 años después de "Rerum novarum", de León XIII-, sitúa la revolución de la IA como el nuevo desafío social equivalente a la primera revolución industrial, y convoca a "hombres y mujeres de buena voluntad" a actuar ante una encrucijada histórica.

El Papa advirtió también sobre el riesgo de que los sistemas de IA generen una falsa impresión de objetividad: "La impresión de objetividad que las respuestas de estos sistemas son capaces de suscitar puede hacernos olvidar que reflejan los parámetros culturales de quienes los han proyectado y adiestrado".

Otro de los peligros señalados es la "apariencia de relación" con las máquinas, especialmente en contextos de soledad y escasez afectiva: "La imitación artificial de una comunicación humana positiva puede resultar gratificante, pero también puede inducir a engaño y dar la falsa impresión de estar en una relación con un auténtico sujeto personal", subrayó.

En materia laboral, la encíclica es igualmente exigente: "Toda introducción de automatización debería ir acompañada de medidas verificables de protección del empleo, de recualificación y de participación de los trabajadores", señala el documento.

León XIV también llamó a "desarmar la IA", declarando obsoleta la doctrina tradicional de la guerra justa ante el avance de las armas autónomas y afirmando que "ningún algoritmo puede hacer que la guerra sea moralmente aceptable".

El acto de presentación contó con la participación de Christopher Olah, cofundador de la empresa de IA Anthropic, quien reconoció ante el Vaticano que en los modelos avanzados de IA siguen encontrando "cosas misteriosas, incluso inquietantes" y que los laboratorios de IA operan bajo incentivos que pueden chocar con "hacer lo correcto".

La encíclica también alerta contra lo que el Papa denomina "tecnofascismo": la concentración del poder tecnológico en pocas corporaciones transnacionales que controlan patentes, algoritmos, plataformas e infraestructuras, con la advertencia de que "quien controla la IA impondrá su visión moral".

Desde su elección el 8 de mayo de 2025 como primer papa estadounidense de la historia, León XIV había vinculado la inteligencia artificial con una nueva revolución industrial y anunciado que la Iglesia respondería con su Doctrina Social.

El Pontífice cerró su llamamiento con una visión que equilibra la advertencia con la esperanza: "El tiempo de la inteligencia artificial puede ser un paso en el que el Espíritu haga madurar la civilización del amor en nuestras vidas".