La asociación austríaca Noyb, que milita por la protección de la vida privada, anunció el lunes que presentó una demanda contra el programa estrella de inteligencia artificial (IA) generativa ChatGPT por “divagar” e inventarse respuestas sin que su editor OpenAI lo impida.
Este tipo de instrumentos “inventan regularmente respuestas”, subrayó en un comunicado Noyb, cuyo nombre obedece a las siglas de “None of your business” (No es asunto tuyo, en inglés).
Cuando se preguntó a ChatGPT la fecha de nacimiento del fundador de la asociación, Max Schrems, respondió “sistemáticamente con una falsa información” en vez de reconocer que no la sabía.
Si un sistema no puede suministrar resultados correctos y transparentes, no debería ser utilizado para generar datos sobre personas. La tecnología debe plegarse a la ley y no al contrario”, insiste la abogada Maartje de Graaf, citada en el comunicado.
La demanda de Noyb contra ChatGPT en detalle
Noyb indica que la Reglamentación General Europea sobre la Protección de Datos (RGPD) estipula la obligación de exactitud. Con mayor razón cuando la empresa OpenAI “rechazó la petición del demandante de corregir o borrar el error”.
Tampoco respondió a su petición de acceso a los datos que le conciernen y a las fuentes de información, violando de nuevo la ley.
Respuestas de OpenAI ante la demanda
OpenAI afirmó su compromiso “con la protección de la privacidad informativa”, en respuesta a una consulta de la AFP.
“Queremos que nuestros modelos de IA aprendan sobre el mundo, no sobre individuos; no buscamos activamente información personal para entrenar nuestros modelos y no usamos información disponible públicamente en internet para crear perfiles, hacer publicidad o dirigirnos a personas ni vender sus datos”, afirmó un portavoz de OpenAI.
En su demanda, la asociación Noyb, que se ha convertido desde su creación en 2018 en el espantajo de los gigantes de la tecnología, pide a la autoridad austríaca de protección de datos abrir una investigación y multar a la empresa californiana.
Impacto y pepercusiones legales de la demanda en Austria
Creado en noviembre de 2022 y financiado por Microsoft, ChatGPT fue muy solicitado por usuarios impresionados por su capacidad para suministrar disertaciones, poemas o traducciones en unos cuantos segundos.
Pero ante los riesgos vinculados a su actividad, fueron iniciados procesos en varios países.
Italia temporalmente bloqueó el programa en marzo de 2023 y la autoridad de regulación francesa (Cnil) inició el examen de una serie de quejas. También se instaló un grupo de trabajo europeo sobre el tema.
Con información de Agence France-Presse.
N. de la R.: La Reglamentación General Europea sobre la Protección de Datos (RGPD), mencionada en la demanda de Noyb, es un marco legal clave en la UE que regula el tratamiento de datos personales y la privacidad de los individuos dentro del territorio europeo. Entró en vigor el 25 de mayo de 2018, y establece derechos explícitos para los ciudadanos europeos, como el derecho a acceder a sus datos personales, solicitar correcciones, y el derecho al olvido, que permite a los individuos pedir la eliminación de sus datos personales bajo ciertas condiciones. Esta regulación también impone severas sanciones a las organizaciones que infrinjan estas normas, lo que podría incluir multas de hasta el 4% de la facturación anual global de la empresa infractora.