El papa León XIV criticó a las grandes tecnológicas en su encíclica sobre IA

El documento «Magnífica Humanitas» presenta la IA como la nueva revolución industrial y hace un llamado a «desarmarla», apartarla de los intereses militares y económicos y someter a las empresas de IA a regulaciones estatales e internacionales más estrictas.

En una época de chatbots con IA, León XIV escribió que el riesgo no reside solo en que alguien que interactúa con un agente de IA crea estar hablando con una persona, sino en que pierda el deseo de buscar a otras personas. Y delegar la toma de decisiones en las máquinas puede «fomentar una dependencia excesiva y la búsqueda de respuestas prefabricadas, y debilitar la creatividad y el juicio personal».

El papa criticó a las grandes tecnológicas, destacando los peligros de que unos pocos individuos adinerados influyan en el futuro y el bienestar de toda la humanidad.

«Desarmar la IA significa liberarla de la mentalidad de competencia ‘armada’, que hoy no se limita simplemente al contexto militar, sino que también es un fenómeno económico y cognitivo», escribió León XIV. «Desarmar no significa renunciar a la tecnología, sino impedir que domine a la humanidad».

«Por esta razón, simplemente regularla es insuficiente; debe ser desarmada, acogedora y accesible», continuó. En el documento, León XIV también criticó a las grandes tecnológicas, destacando los peligros de que unos pocos individuos adinerados influyan en el futuro y el bienestar de la humanidad, ampliando la brecha «entre quienes pueden participar en la revolución digital y quienes permanecen al margen».

«La IA tiende a amplificar el poder de quienes ya poseen recursos económicos, experiencia y acceso a datos», escribió. «Grupos pequeños pero muy influyentes pueden moldear los patrones de información y consumo, influir en los procesos democráticos y dirigir la dinámica económica en su propio beneficio, socavando la justicia social y la solidaridad entre los pueblos».

El papa León XIV presentó la encíclica hoy lunes en el Salón del Sínodo del Vaticano, donde hizo referencia a la encíclica de 1891 «Rerum Novarum» (Sobre las cosas nuevas), escrita por su homónimo, el papa León XIII, para abordar los desafíos que planteaba la revolución industrial del siglo XIX.

«Me siento encomendado a supervisar otra gran transformación a través de la fe, con la claridad de la razón y con apertura al misterio divino, con el clamor de los pobres y de la tierra resonando en mi corazón», dijo León XIV, añadiendo que la encíclica era el resultado de escuchar a científicos e ingenieros, líderes políticos y funcionarios públicos, padres y maestros profundamente preocupados por el futuro de las próximas generaciones.

«Desarmar no es suficiente, debemos construir», agregó, haciendo un llamado a una amplia participación en la programación, regulación y aprovechamiento de los beneficios de la IA.

El papa presentó el documento junto a altos prelados del Vaticano, teólogos católicos y Chris Olah, cofundador de Anthropic, la empresa estadounidense de IA que desarrolló «Claude» y que se ha esforzado por posicionarse como una empresa ética y orientada a la seguridad.

En su intervención durante el evento, Olah afirmó que el desarrollo de la IA «opera dentro de un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con hacer lo correcto», citando intereses comerciales, presiones geopolíticas, orgullo y ambición.

«Necesitamos que más personas en el mundo —comunidades religiosas, sociedad civil, académicos, gobiernos— hagan lo que Su Santidad ha hecho aquí: tomar esto en serio, analizarlo detenidamente e impulsar los acontecimientos en una mejor dirección».

En el centro de la encíclica se encuentra la insistencia en que los seres humanos tengan prioridad sobre la inteligencia artificial. La dignidad de la persona humana «no depende de sus capacidades, riqueza o posición social, ni de las decisiones correctas o incorrectas que tome», sino simplemente del hecho de existir, argumenta la encíclica.

En el documento, el papa reconoce el impacto positivo que la innovación en IA puede aportar a la sociedad humana y al cuidado del medio ambiente, al tiempo que advierte sobre sus peligros. «La tecnología nunca es neutral», escribió León XIV, añadiendo que es una expresión de los intereses y las partes interesadas que la respaldan.

«Cuando tal poder se concentra en manos de unos pocos, tiende a volverse opaco y a eludir la supervisión pública, aumentando el riesgo de formas distorsionadas de desarrollo que dan lugar a nuevas dependencias, exclusiones, manipulaciones y desigualdades», escribió León XIV.

León XIV argumentó que la aplicación de principios morales y éticos a los modelos de IA no puede producirse después de que hayan causado estragos en la sociedad; dichos valores deben aplicarse durante su construcción. «Para que la IA respete la dignidad humana y sirva verdaderamente al bien común, la responsabilidad debe estar claramente definida en cada etapa: desde quienes diseñan y desarrollan estos sistemas hasta quienes los utilizan y confían en ellos para tomar decisiones concretas», escribió.

En cuanto al desarrollo, León XIV explicó que «pedir prudencia, una evaluación rigurosa e incluso, en ocasiones, un ritmo más lento en la adopción de la IA no significa oponerse al progreso; al contrario, es un ejercicio de cuidado responsable hacia la humanidad».

En referencia a los modelos de IA que han adoptado principios éticos —como Anthropic—, el papa afirmó que dichos marcos deben seguir siendo objeto de debate y sometidos a criterios de justicia social compartida. «Una IA más moral no basta si esa moralidad la determinan unos pocos», escribió.

El documento también aborda filosofías populares de Silicon Valley, como el transhumanismo y el posthumanismo, que el papa definió como una serie de supuestos «que interpretan el progreso como una superación de la condición humana».

Estas filosofías consideran las limitaciones —incluidas la enfermedad, la discapacidad, la vejez y la vulnerabilidad— como algo que superar, escribió León XIV, pero «debemos recordar que la humanidad florece no a pesar de las limitaciones, sino a menudo a través de ellas», añadiendo que una vida sin limitaciones significaría, en última instancia, no ser humano.

Al contrastar los peligros de la IA, León XIV señaló la verdad como «un elemento esencial de la democracia» e instó a que las personas, especialmente los jóvenes, reciban educación sobre IA. Si bien la IA promete aliviar la carga laboral, León XIV advirtió que «con frecuencia obliga a los trabajadores a adaptarse a la velocidad y las exigencias de las máquinas, en lugar de que las máquinas estén diseñadas para apoyar a quienes trabajan».

ElCooperante