Volkswacht Bodensee - La ONU pide regular la IA y sus riesgos

El texto, preparado por Estados Unidos y copatrocinado por un centenar de países, se adoptó por consenso tras varios meses de negociaciones.

La resolución, que excluye la IA militar, subraya "la necesidad de establecer normas que garanticen que los sistemas de inteligencia artificial son seguros y fiables".

El objetivo es "promover, en lugar de obstaculizar, la transformación digital y el acceso equitativo a los beneficios de estos sistemas", con el fin de alcanzar los Objetivos de Desarrollo Sostenible de la ONU, que pretenden garantizar un futuro mejor para toda la humanidad de aquí a 2030.

"Es un paso histórico hacia el establecimiento de normas internacionales claras para la IA y para fomentar sistemas de IA seguros y fiables", reaccionó la vicepresidenta estadounidense Kamala Harris.

"Debe adoptarse y desarrollarse de forma que proteja a todos de posibles daños y garantice que todos puedan disfrutar de sus beneficios", sostuvo la vicepresidenta en un comunicado, en el que pidió abordar "desde los riesgos catastróficos para toda la humanidad hasta los daños sufridos por individuos y comunidades, como los prejuicios".

- Amenazas y oportunidades -

La aparición a finales de 2022 de ChatGPT, de la empresa californiana OpenAI, capaz de escribir disertaciones, poemas o hacer traducciones en segundos, otorga a los intentos de regular la IA una nueva dimensión.

Este sistema reveló el enorme potencial de la IA, pero también expuso sus riesgos para la democracia, en un año en que la mitad del mundo elegirá a sus líderes, o por la difusión de fotografías o vídeos falsos que pueden manipular a la opinión pública y arruinar la vida de las personas.

Por eso, el texto reconoce que, sin "salvaguardias", la IA corre el riesgo de socavar los derechos humanos, reforzar los prejuicios y la discriminación y poner en peligro la protección de los datos personales.

En este sentido, pide a todos los Estados miembros y otras partes interesadas que "se abstengan o dejen de utilizar sistemas de inteligencia artificial que no puedan utilizarse respetando los derechos humanos o que presenten riesgos excesivos para el ejercicio de los derechos humanos".

- Beneficios para el desarrollo -

La resolución se centra principalmente en los beneficios potenciales de la IA para el desarrollo, y afirma estar "comprometida con la reducción de la brecha digital" entre países y dentro de ellos.

Para el embajador de Marruecos, Omar Hilale, se trata de un "trampolín para las iniciativas multilaterales existentes y futuras sobre cooperación digital" aunque "no es un fin en sí misma, sino el comienzo de nuestro viaje colectivo" para "un desarrollo sostenible que no deje a nadie atrás".

El secretario general de la ONU, Antonio Guterres, que ha hecho de la regulación de la IA una de sus prioridades, pide que se cree una entidad de la ONU que siga el modelo del Organismo Internacional de Energía Atómica (OIEA) para regular este proceloso terreno.

Destacando habitualmente las amenazas que suponen la desinformación y los prejuicios, la semana pasada alertó de los "sesgos" de las tecnologías diseñadas principalmente por hombres y que "ignoran" las necesidades y derechos de las mujeres.

"Los algoritmos dominados por hombres podrían literalmente programar la desigualdad en actividades como la planificación urbana, la calificación crediticia o las imágenes médicas, durante años", advirtió.

"No creo que Estados Unidos quiera dejar que Guterres lidere esta conversación tan delicada, así que está interviniendo para dar forma al debate", dijo Richard Gowan, y aludió a una "carrera" protagonizada por varios Estados miembros de la ONU, entre ellos Estados Unidos, China y Corea del Sur, para estar a la vanguardia de esta cuestión social.

En octubre, la Casa Blanca ya había dado a conocer normas y principios destinados a garantizar que Estados Unidos "lidere el camino" en la regulación de la IA, y el presidente Joe Biden insistió en la necesidad de "gobernar" estas tecnologías.

El pasado 13 de marzo, el Parlamento Europeo aprobó la primera ley en el mundo para regular el uso de la inteligencia artificial en la Unión Europea.

A.Zbinden--VB