Volkswacht Bodensee - China pone en vigor una nueva regulación para el contenido generado por IA

Los rápidos avances de la IA generativa han encendido alarmas en todo el mundo sobre el potencial que tiene esta tecnología para ser utilizada en campañas de desinformación y otros abusos, por ejemplo con la creación de contenidos calificados como "deepfake" que pueden mostrar a una persona gesticulando una declaración que nunca dijo.

Las empresas chinas se lanzaron a desarrollar servicios que imiten el diálogo humano desde que la empresa con sede en San Francisco OpenAI lanzó la interfaz generativa ChatGPT, que está prohibida en el país.

Los expertos afirman que la nueva regulación, que se basa en 24 directrices, suaviza el borrador publicado este año, ya que Pekín busca alentar la creación de empresas locales en esta industria, dominada por Estados Unidos.

Estas son las claves sobre las regulaciones de Pekín, que están dirigidas a los servicios para el público en general:

- Una ética para la IA -

La IA generativa "tiene que adherir a los valores fundamentales del socialismo" y evitar ser una amenaza para la seguridad nacional, y no puede promover el "terrorismo", la violencia o el "odio étnico", según las directivas.

Los proveedores de servicio tienen que advertir qué contenidos son generados por IA y tomar medidas para impedir discriminación de género, edad o raza al crear los algoritmos.

Todos los programas de IA deben ser entrenados para obtener sus datos de fuentes sin infringir la propiedad intelectual de terceros y la gente debe dar su consentimiento para que su información sea utilizada para configurar esta tecnología.

- Medidas de seguridad -

Las empresas que diseñen programas orientados al gran público "deben tomar medidas efectivas para prevenir que menores dependan excesivamente o se vuelvan adictos a los servicios de IA", según la normativa.

También se deben poner en práctica mecanismos para denunciar contenido que sea inapropiado y borrar contenido ilegal.

- Aplicación -

Esta normativa es técnicamente un conjunto de "medidas adicionales" que están sujetas a leyes chinas ya existentes.

"Desde un principio, y de una forma un poco diferente a la Unión Europea (UE), China ha adoptado un enfoque más vertical o más restringido a la hora de crear la legislación pertinente, centrándose en temas específicos", señaló el despacho internacional de abogados Taylor Wessing.

En el borrador, se contemplaron multas de hasta 100.000 yuanes (13.824 dólares) en caso de infracción, pero en la normativa que entró en vigor cualquier persona que rompa las reglas va a recibir una advertencia o una suspensión, y sólo se aplicarán penas altas si se produce una violación de las leyes.

- Apoyo a la innovación -

Jeremy Daum, investigador principal del Centro para China Paul Tsai de la Escuela de Derecho de Yale, destacó que un borrador anterior buscaba en parte mantener un estricto control de los censores del contenido en línea. Pero, desde entonces, se suavizaron varias restricciones para la IA generativa que figuraban en versiones anteriores.

Se ha recortado el alcance de las reglas para que se apliquen solamente a los programas que están disponibles para el público en general, excluyendo el uso para investigación.

"Este cambio puede interpretarse como un indicador de que Pekín apoya la idea de una carrera por la IA en la que debe seguir siendo competitivo", afirmó Daum.

I.Meyer--BTB