BARI, Italia (AP) — El papa Francisco desafió el viernes a los líderes de las democracias ricas del mundo a mantener la dignidad humana en primer lugar en el desarrollo y uso de la inteligencia artificial, advirtiendo que una tecnología tan poderosa corre el riesgo de convertir las relaciones humanas en meros algoritmos.
Francisco aplicó su autoridad moral al Grupo de los Siete, invitado por la anfitriona Italia para dirigirse a una sesión especial en su cumbre anual sobre los peligros y las promesas de la IA. Al hacerlo, se convirtió en el primer Papa en asistir al G7, ofreciendo una visión ética de un tema que está cada vez más en la agenda de las cumbres internacionales, las políticas gubernamentales y las juntas corporativas por igual.
Francisco dijo que los políticos deben tomar la iniciativa para garantizar que la IA siga centrada en el ser humano, de modo que las decisiones sobre cuándo usar armas o incluso herramientas menos letales siempre sean tomadas por humanos y no por máquinas.
«Condenaríamos a la humanidad a un futuro sin esperanza si le quitáramos la capacidad a las personas de tomar decisiones sobre sí mismas y sus vidas, condenándolas a depender de las elecciones de las máquinas», afirmó. «Necesitamos garantizar y salvaguardar un espacio para un control humano adecuado sobre las decisiones tomadas por los programas de inteligencia artificial: la dignidad humana misma depende de ello».
La declaración final del G7 reflejó en gran medida sus preocupaciones.
Los líderes prometieron coordinar mejor los marcos regulatorios y de gobernanza que rodean a la IA para mantenerla «centrada en el ser humano». Al mismo tiempo, reconocieron los impactos potenciales en los mercados laborales de que las máquinas sustituyan a los trabajadores humanos y en el sistema judicial de los algoritmos que predicen la reincidencia.
“Buscaremos una transformación digital inclusiva, centrada en las personas, que sustente el crecimiento económico y el desarrollo sostenible, maximice los beneficios y gestione los riesgos, en consonancia con nuestros valores democráticos compartidos y el respeto de los derechos humanos”, dijeron.
Al asistir a la cumbre, Francisco se unió a un coro de países y organismos globales que presionan por barreras más estrictas para la IA tras el auge de la IA generativa iniciado por el chatbot ChatGPT de OpenAI.
El Papa argentino utilizó su mensaje de paz anual de este año para pedir un tratado internacional que garantice que la IA se desarrolle y utilice de manera ética. En él, argumentaba que una tecnología que carece de los valores humanos de compasión, misericordia, moralidad y perdón es demasiado peligrosa para desarrollarse sin control.
No repitió ese llamado explícitamente en su discurso del viernes, pero dejó en claro que la responsabilidad de liderar el tema recae en los políticos. También los instó a prohibir en última instancia el uso de armas letales autónomas, conocidas coloquialmente como “robots asesinos”.
“Ninguna máquina debería jamás optar por quitarle la vida a un ser humano”, afirmó.
En cuanto a la cuestión de las armas, los líderes del G7 dijeron que reconocían el impacto de la IA en el ámbito militar “y la necesidad de un marco para el desarrollo y uso responsable”. Alentaron a los estados a asegurarse de que “el uso militar de la IA sea responsable, cumpla con el derecho internacional aplicable, en particular el derecho internacional humanitario, y mejore la seguridad internacional”.
La primera ministra italiana, Giorgia Meloni, invitó a Francisco y anunció su participación, sabiendo el impacto potencial de su poder estelar y su autoridad moral en el G7. Los que estaban sentados a la mesa parecían debidamente asombrados, y el bullicioso zumbido en la sala quedó en absoluto silencio cuando llegó Francisco.
“El Papa es, bueno, un tipo de celebridad muy especial”, dijo John Kirton, politólogo de la Universidad de Toronto que dirige el grupo de expertos G7 Research Group.
Kirton recordó que la última cumbre que tuvo este tipo de poder estelar, que luego se tradujo en acción, fue la reunión de 2005 en Gleneagles, Escocia. Allí, los líderes mundiales decidieron borrar los 40 mil millones de dólares de las deudas que tienen 18 de los países más pobres del mundo con el Banco Mundial y el Fondo Monetario Internacional.
Esa cumbre fue precedida por un concierto Live 8 en Londres que contó con Sting, The Who y un Pink Floyd reformado y atrajo a más de un millón de personas en una muestra de solidaridad contra el hambre y la pobreza en África.
«Gleneagles realmente logró un jonrón y para algunos es una de las cumbres más exitosas», dijo Kirton.
No se estaba aplicando tal presión popular a los líderes del G7 en la región italiana de Puglia, pero Francisco sabía que podía ejercer su propia autoridad moral para renovar sus demandas de salvaguardias para la IA y resaltar las amenazas a la paz y a la sociedad que plantea si se deja la ética humana. por el lado.
«Hablar de tecnología es hablar de lo que significa ser humano y, por tanto, de nuestro estatus singular como seres que poseemos libertad y responsabilidad», dijo. «Esto significa hablar de ética».
La tecnología de IA generativa ha deslumbrado al mundo con sus capacidades para producir respuestas similares a las humanas, pero también ha despertado temores sobre la seguridad de la IA y ha llevado a una mezcla de esfuerzos globales para controlarla.
Algunos se preocupan por riesgos catastróficos pero lejanos para la humanidad debido a su potencial para crear nuevas armas biológicas y potenciar la desinformación. A otros les preocupa su efecto en la vida cotidiana, a través de sesgos algorítmicos que resultan en discriminación o sistemas de inteligencia artificial que eliminan empleos.
En su mensaje de paz, Francisco se hizo eco de esas preocupaciones y planteó otras. Dijo que AI debe mantener ante todo sus preocupaciones sobre garantizar los derechos humanos fundamentales, promover la paz y protegerse contra la desinformación, la discriminación y la distorsión.
En el frente de la regulación, Francisco estaba de alguna manera predicando a los conversos, ya que los miembros del G7 han estado a la vanguardia del debate sobre la supervisión de la IA.
Japón, que ocupó la presidencia rotatoria del G7 el año pasado, lanzó su proceso de IA en Hiroshima para elaborar principios rectores internacionales y un código de conducta para los desarrolladores de IA. Sumándose a esos esfuerzos, el primer ministro Fumio Kishida dio a conocer el mes pasado un marco para la regulación global de la IA generativa, que son sistemas que pueden producir rápidamente nuevos textos, imágenes, videos y audio en respuesta a indicaciones y comandos.
La Unión Europea fue una de las pioneras en adoptar su amplia Ley de IA, que entrará en vigor en los próximos dos años y podría actuar como modelo global. La ley se dirige a cualquier producto o servicio de IA ofrecido en los 27 países del bloque, con restricciones basadas en el nivel de riesgo que plantean.
En Estados Unidos, el presidente Joe Biden emitió una orden ejecutiva sobre salvaguardias de la IA y pidió legislación para fortalecerla, mientras que algunos estados como California y Colorado han estado intentando aprobar sus propios proyectos de ley sobre la IA, con resultados mixtos.
Gran Bretaña inició un diálogo global sobre cómo controlar los peligros más extremos de la IA con una cumbre el otoño pasado. En una reunión de seguimiento celebrada en Seúl, las empresas se comprometieron a desarrollar la tecnología de forma segura. Francia será sede de otra reunión de la serie a principios del próximo año. Las Naciones Unidas también intervinieron con su primera resolución sobre la IA.
___
Chan informó desde Londres.
