En el último año, no han faltado científicos, directivos de empresas tecnológicas, multimillonarios y legisladores que han dado la voz de alarma sobre la inteligencia artificial (IA), y ahora incluso el Papa quiere hablar de ello.

En una carta de 3,412 palabras fechada el 8 de diciembre, el Papa Francisco, cabeza de la Iglesia católica, advierte de los peligros potenciales de la IA para la humanidad y de lo que hay que hacer para controlarla. La carta llega en un momento en que la Iglesia Católica se prepara para celebrar el Día Mundial de la Paz el 1 de enero de 2024.

El Papa Francisco quiere que un tratado internacional regule la IA para asegurar que se desarrolla y se utiliza éticamente; de lo contrario, “corremos el riesgo de caer en la espiral de una dictadura tecnológica."

“Insto a la comunidad mundial de naciones a trabajar juntas para adoptar un tratado internacional vinculante que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas.”

La amenaza de la IA surge cuando los desarrolladores tienen un "afán de lucro o sed de poder" que se sobrepone al deseo de existir libre y pacíficamente, explicó el Papa.

“La dignidad inherente a cada ser humano [...] debe sustentar el desarrollo de las nuevas tecnologías y servir de criterio indiscutible para evaluarlas [...] para que el progreso digital se produzca en el respeto de la justicia y contribuya a la causa de la paz.”

Las tecnologías que no lo hacen "agravan las desigualdades y los conflictos" y, por tanto, nunca podrán contar como un verdadero progreso, añadió.

Por su parte, la aparición de noticias falsas generadas por IA es un "grave problema", añadió el Papa, que podría conducir a una creciente desconfianza en los medios de comunicación.

El Papa fue recientemente víctima de la IA generativa cuando en marzo se hizo viral una imagen falsa en la que aparecía con un lujoso abrigo blanco.

Foto falsa del Papa generada por IA. Fuente: Boston Globe

El Papa Francisco, sin embargo, también reconoció los beneficios de la IA al permitir una fabricación más eficiente, un transporte más fácil y mercados más preparados, así como una revolución en los procesos de acumulación, organización y confirmación de datos.

Pero también le preocupa que la IA beneficie a quienes la controlan y deje a una gran parte de la población sin empleo para pagarse la vida:

“Existe el riesgo sustancial de un beneficio desproporcionado para unos pocos al precio del empobrecimiento de muchos.”

El Papa Francisco lleva tiempo advirtiendo sobre el mal uso de las tecnologías emergentes, afirmando que es necesario integrar en ellas "principios morales tanto teóricos como prácticos". Sin embargo, a menudo se le considera más conocedor de la tecnología y con más visión de futuro que sus predecesores.

Las recientes declaraciones del Papa Francisco se producen después de un año de protestas en todos los rincones del mundo sobre los peligros potenciales de la IA.

Líderes tecnológicos como Elon Musk, CEO de Tesla, y Steve Wozniak, cofundador de Apple, han expresado su preocupación por la rapidez con que avanza la IA. Esto les llevó a ellos y a más de 2,600 líderes tecnológicos e investigadores a firmar una petición para pausar el desarrollo de la IA en marzo de 2023, compartiendo la preocupación de que una IA más avanzada que la GPT-4 pueda suponer "profundos riesgos para la sociedad y la humanidad".

El Presidente de Estados Unidos, Joe Biden, también ha expresado su preocupación. A finales de octubre, su administración publicó una orden ejecutiva sobre el "desarrollo y uso seguros y fiables de la inteligencia artificial" para abordar los riesgos que plantea la IA.

Incluso cineastas y famosos de Hollywood se suman a la cuestión.

En julio, el cineasta canadiense James Cameron declaró que llevaba advirtiendo de los peligros de la IA desde Terminator, película que dirigió hace casi 40 años.

"Se los advertí en 1984 y no me hicieron caso", declaró Cameron a CTV News.

"Creo que el armamentismo de la IA es el mayor peligro [...] Creo que entraremos en el equivalente de una carrera armamentística nuclear con la IA, y si no la construimos nosotros, seguro que la construirán los otros, y entonces se intensificará", añadió.

Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión.