El Papa Leo ha presentado el primer gran documento magisterial de su pontificado, en el que advierte de la necesidad de "desarmar" la inteligencia artificial.
"Sé que la palabra es fuerte, pero la he elegido deliberadamente porque este momento requiere términos capaces de captar la atención", afirmó el Pontífice.
Las encíclicas son, técnicamente, cartas dirigidas a los obispos católicos, pero en las últimas décadas se han convertido en mensajes del Papa al mundo.
Si bien esta carta se centra en gran medida en la IA, el Papa Leo también ha incluido una de las disculpas más firmes y completas del Vaticano por el papel de la Iglesia Católica en la esclavitud.
"Es imposible no sentir una profunda tristeza al contemplar el inmenso sufrimiento y la humillación padecidos por tantos", escribió el Papa, añadiendo que "pidió sinceramente perdón" en nombre de la Iglesia.
Leo mencionó el comercio de esclavos en relación con la IA, sugiriendo que el mundo corre el peligro de normalizar nuevamente la explotación de las personas, tanto en su producción como en sus aplicaciones.
Algunas de las imágenes más potentes del documento papal en relación con la esclavitud advierten de paralelismos entre la tragedia histórica de la esclavitud tradicional y las amenazas emergentes de las "nuevas esclavitudes digitales".
Sugirió un riesgo de normalización similar de la explotación y que la humanidad se encuentra en una encrucijada moral parecida.
De forma inusual, el Papa Leo eligió presentar él mismo la encíclica –titulada "Magnifica Humanitas" ("Magnífica Humanidad")– en el Vaticano, acompañado de expertos en IA, como Christopher Olah, cofundador del gigante estadounidense de IA Anthropic.
En unas declaraciones posteriores a la presentación de la encíclica, Olah señaló que todos los laboratorios de IA, incluido el suyo, operan "dentro de un conjunto de incentivos y restricciones que a veces pueden entrar en conflicto con hacer lo correcto".
Sería un error creer que los asuntos de la IA los manejan mejor los informáticos como él, añadió Olah: "Las cuestiones que plantea la IA son más grandes que la comunidad de investigación de IA, no solo por sus implicaciones, sino también por su naturaleza".
La encíclica del Papa, que también reconoce los numerosos escollos potenciales de la IA, es un mensaje directo y contundente a quienes ostentan el poder sobre sus responsabilidades para frenar las "amenazas" que plantea.
Por ejemplo, el Papa condenó el uso de la IA en la guerra, afirmando que reducir el control humano sobre las armas hace aún más difícil considerar una guerra "justa" y advirtió contra el inicio de una carrera armamentística de IA.
"Ningún algoritmo puede hacer que la guerra sea moralmente aceptable", escribió el Papa.
La IA no solo no elimina la "inhumanidad intrínseca" de la guerra, dijo, sino que también corre el riesgo de desencadenar conflictos más rápidamente y hacerlos más impersonales al "reducir el umbral para recurrir a la violencia, transformando la defensa en predicción de amenazas y reduciendo así a las víctimas a datos".
Leo también criticó la forma en que la IA impacta en la política, como el uso para manipular imágenes y vídeos, lo que, según él, expone a las personas a perspectivas sesgadas o engañosas.
En el pasado, el Papa ha comparado la necesidad actual de salvaguardias para proteger a las personas frente a los avances de la IA con las que se requerían para garantizar la dignidad humana durante la Revolución Industrial.
Sugirió comparaciones entre el fracaso en actuar contra los riesgos de la IA hoy y "la lentitud con la que la sociedad y la Iglesia tardaron en denunciar el flagelo de la esclavitud". Incluso se refirió a los riesgos del "colonialismo digital", vinculando los abusos de la era colonial con las prácticas tecnológicas modernas.
En un momento de este documento, el Papa dirigió directamente un "llamamiento especial" a quienes desarrollan la IA.
"Los desarrolladores tienen una responsabilidad ética y espiritual particular, ya que cada elección de diseño refleja una visión de la humanidad", afirmó.
Pero, ¿qué impacto tendrá todo esto?
El Papa Leo ha convocado una comisión para llevar adelante su trabajo, pero existen enormes interrogantes sobre la eficacia de todo ello ante los rápidos avances tecnológicos.
En 2015, el difunto Papa Francisco escribió su encíclica "Laudato Si", centrada en la necesidad urgente de abordar la crisis climática, pero en 2023 expresó su decepción por la inacción al respecto.
Tan apasionado como ha sido por la necesidad de controlar la IA, el Papa Leo podría encontrarse emitiendo una advertencia similar en los próximos años.
Mənbə: BBC News
