Volkswacht Bodensee - Reino Unido celebra la primera cumbre mundial sobre los riesgos de la IA

La actual revolución tecnológica levanta pasiones, pero también temores, que dominarán los debates de esta cumbre, celebrada en Bletchley Park (centro), donde se encuentra la emblemática sede en la que descifraban las comunicaciones durante la Segunda Guerra Mundial.

Los participantes abordarán en la primera jornada los posibles riesgos de la IA de vanguardia, como el polémico robot ChatGPT.

Representantes políticos de alto nivel participarán el jueves en el encuentro, entre ellos la presidenta de la Comisión Europea Ursula von der Leyen, el secretario general de la ONU Antonio Guterres, o la vicepresidenta de Estados Unidos Kamala Harris.

Pese a la tensión y al miedo al espionaje industrial, China también estará representada, aunque por ahora de desconoce exactamente a qué nivel.

También está previsto que participen estrellas del sector de Silicon Valley como Sam Altman y Elon Musk, que confundaron OpenAI, la empresa que creó ChatGPT.

- "A puerta cerrada" -

A falta de políticas comunes, el Reino Unido quiere poner en marcha una cooperación internacional sobre la IA.

El gobierno británico espera, como mínimo, conseguir una "primera declaración internacional sobre la naturaleza" de los riesgos de esta tecnología.

También propone crear un grupo de analistas internacionales, inspirado en el modelo del panel de expertos de la ONU sobre el cambio climático (IPCC).

Las IA generativas, capaces de producir en pocos segundos textos, sonidos o imágenes a partir de una petición, han avanzado a pasos de gigante en estos últimos años. Y las próximas generaciones de estos modelos saldrán en pocos meses.

Esta tecnología suscita grandes esperanzas para la medicina o la educación, pero también supone una "amenaza existencial" que puede desestabilizar sociedades, permitiendo fabricar armas o escapando al control humano, advirtió el jueves el gobierno británico.

"Los riesgos que plantea la IA avanzada son serios", alertó la ministra británica de Tecnología Michelle Donelan, que abrirá la reunión de Bletchley Park.

"Esta cumbre nos brinda la ocasión de asegurarnos que tenemos las buenas personas con las buenas competencias reunidas alrededor de la mesa para debatir la forma en que podemos disminuir estos riesgos en el futuro", dijo.

El principal desafío es conseguir definir salvaguardias sin poner trabas a la innovación en los laboratorios de IA y los gigantes tecnológicos.

La Unión Europea (UE) y Estados Unidos han escogido la reglamentación.

El presidente estadounidense, Joe Biden, anunció el lunes un amplio conjunto de normas y principios para "marcar el camino" a nivel internacional.

Varias empresas como OpenAI, Meta (Facebook) o DeepMind (Google) aceptaron la semana pasada hacer públicas algunas de sus reglas de seguridad sobre la IA, después de que lo solicitara el Reino Unido.

En una carta abierta dirigida al primer ministro británico, Rishi Sunak, un centenar de organizaciones, expertos y militantes internacionales lamentaron que esta encuentro se celebre "a puerta cerrada", dominado por los gigantes tecnológicos y con un acceso limitado a la sociedad civil.

"Tenemos que dejar de pensar que las empresas privadas con fines lucrativos son los únicos propietarios posibles y legítimos de los sistemas de IA, que transforman nuestras vidas y nuestros métodos de trabajo", afirmó Sasha Costanza-Chock, profesora en el Berkman Klein Center de la Universidad de Harvard, en una rueda de prensa.

P.Keller--VB