Volkswacht Bodensee - La ONU impulsa una comisión de "control humano" de la IA al cierre de cumbre mundial en India

La frenética demanda de IA generativa ha disparado los beneficios de las empresas tecnológicas, pero al mismo tiempo ha alimentado muchos temores sobre su impacto en la sociedad, en los empleos e, incluso, en la salud del planeta.

"Nos estamos adentrando en lo desconocido", dijo el secretario general de Naciones Unidas, António Guterres, en la Cumbre sobre el Impacto de la IA celebrada en Nueva Delhi, que concluye este viernes. "El mensaje es simple: menos exageración, menos miedo. Más hechos y evidencia".

Según Guterres, la Asamblea General de la ONU designó a 40 expertos para un nuevo grupo denominado Panel Científico Internacional Independiente sobre Inteligencia Artificial.

Este órgano consultivo se creó en agosto y su objetivo es que aborde la IA tal como lo hace el Panel Intergubernamental sobre el Cambio Climático (IPCC) de la ONU para el calentamiento global, estableciendo evaluaciones sobre su impacto y también estrategias de respuesta.

"La gobernanza basada en la ciencia no es un freno al progreso", sino que puede hacerlo "más seguro, más justo y más ampliamente compartido", defendió Guterres en la cumbre.

"Cuando comprendamos lo que los sistemas pueden hacer, y lo que no pueden hacer, podremos pasar de medidas aproximadas a barreras de protección más inteligentes y basadas en el riesgo", añadió.

Además de este anuncio, se espera que este viernes decenas de líderes mundiales y ministros presenten una visión compartida sobre los riesgos y oportunidades que plantea la IA para clausurar la cumbre de cinco días.

Esta es la cuarta reunión mundial anual centrada en la política de IA. La próxima tendrá lugar en Ginebra en la primera mitad de 2027, anunció el jueves el presidente suizo.

Esta cita de Delhi fue además la primera cumbre sobre inteligencia artificial que se celebra en un país en desarrollo, e India aprovecha la oportunidad para impulsar sus ambiciones de alcanzar a Estados Unidos y China.

Nueva Delhi espera más de 200.000 millones de dólares en inversiones durante los próximos dos años, y varios gigantes tecnológicos estadounidenses han presentado esta semana nuevos acuerdos y proyectos de infraestructura.

- "Bien común" mundial -

Sam Altman, director de OpenAI y su famoso robot conversacional ChatGPT, pidió el jueves en el foro la adopción urgente de una regulación sobre el uso de la inteligencia artificial.

"La democratización de la IA es la mejor manera de garantizar que la humanidad prospere", aseguró en su intervención. "Esto no quiere decir que no necesitemos ninguna regulación o medida de seguridad. Es obvio que las necesitamos, urgentemente".

Por su parte, el presidente brasileño, Luiz Inácio Lula da Silva, alertó que, "sin una acción colectiva, la inteligencia artificial agravará las desigualdades históricas".

"Los algoritmos no son solo aplicaciones de códigos matemáticos que sustentan el mundo digital, son parte de una compleja estructura de poder", añadió el mandatario latinoamericano, al señalar que cuando "unos pocos" los controlan "no estamos hablando de innovación, sino de dominación".

Los debates de la cumbre de Nueva Delhi, a la que asistieron decenas de miles de personas, han abarcado grandes temas, desde la protección de los niños hasta la pérdida de puestos de trabajo y la necesidad de un acceso más equitativo a las herramientas de IA en todo el mundo.

Sin embargo, ese amplio enfoque y las vagas promesas realizadas en las citas anteriores en Francia, Corea del Sur y Reino Unido podrían hacer que los compromisos concretos sean poco probables.

"Estamos entrando en una era en la que los seres humanos y los sistemas de inteligencia crean, trabajan y evolucionan juntos", señaló el jueves el anfitrión, el primer ministro indio, Narendra Modi.

"Debemos decidir que la IA se utilice para el bien común mundial", clamó.

G.Schmid--VB