Volkswacht Bodensee - Florida demanda a OpenAI y a su presidente Sam Altman por daños de ChatGPT a menores

El fiscal James Uthmeier acusó a OpenAI de fallar en implementar reglas para verificar la edad de los usuarios.

"Hoy anunciamos que recientemente presentamos una monumental demanda civil contra Sam Altman y ChatGPT por poner en peligro a nuestros niños y engañar a los padres haciéndoles creer que es una aplicación segura de usar; claramente no lo es", dijo Uthmeier en una rueda de prensa.

"ChatGPT, lo sabemos, puede ser adictivo. Imita la empatía y las características humanas para engañar a los usuarios para que den más información", añadió Uthmeier.

Contactado por la AFP, un portavoz de OpenAI dijo: "La IA es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa, por lo que hemos implementado medidas de protección y políticas líderes en la industria".

En la demanda, revisada por la AFP, Uthmeier cita un estudio reciente de la Universidad Drexel en la que se habla de pérdida de sueño, peores resultados escolares y reducción de las interacciones sociales entre adolescentes que usan chatbots de Character.AI, un competidor de OpenAI, para conversar.

La demanda afirma que "pese al conocimiento público del uso de ChatGPT por parte de menores, incluyendo preadolescentes, los demandados no han tomado medidas para prevenir su uso".

Agrega que "la versión gratuita de ChatGPT no tiene ningún mecanismo de control ni verificación de edad en absoluto". Y que aunque la versión paga solicita nominalmente la edad de los usuarios, "no hay mecanismos de verificación (...) ni posibilidad alguna de informar a los padres sobre las conversaciones que mantienen menores con ChatGPT".

En enero, la startup de California introdujo un sistema que estima la edad de los usuarios. Si detecta a un menor, aplica medidas de protección adicionales.

El uso de ChatGPT está prohibido para niños menores de 13 años y requiere el consentimiento de los padres para usuarios de entre 13 y 17 años.

Utheimer también citó un informe del Centro para Combatir el Odio Digital (CCDH, en inglés), que mantuvo varias conversaciones con ChatGPT haciéndose pasar por un adolescente.

El chatbot da consejos sobre cómo ocultar hábitos alimenticios y de cómo planear un suicidio o producir autolesiones.

"Creemos que OpenAI, su ChatGPT y Sam Altman personalmente son responsables por una cantidad que podría ascender potencialmente a miles de millones de dólares".

G.Schmid--VB