La Junta Europea de Protección de Datos (EDPB, por sus siglas en inglés) publicó el primer informe de progreso de su "GPT taskforce" y las noticias no son buenas para ChatGPT.
Los esfuerzos de OpenAI para alinear su modelo de inteligencia artificial insignia, ChatGPT, con las normas de la Unión Europea (UE), incluido el exhaustivo Reglamento General de Protección de Datos (GDPR), fueron notados por la EDPB, pero finalmente considerados insuficientes.
Según el documento de la EDPB:
"Aunque las medidas tomadas para cumplir con el principio de transparencia son beneficiosas para evitar la interpretación errónea de la salida de ChatGPT, no son suficientes para cumplir".
Los hallazgos llegan en un momento en que OpenAI ha pasado gran parte de 2024 lidiando con órdenes de detención temporales de varios estados miembros europeos.
Como informó Cointelegraph en enero, la agencia de protección de datos de Italia encontró que ChatGPT y OpenAI aún estaban en contra de las leyes de privacidad de datos italianas y de la UE a pesar de haber sido advertidos y posteriormente prohibidos en marzo de 2023.
Según el informe de la EDPB, OpenAI no ha hecho lo suficiente en el tiempo transcurrido desde entonces para alinear ChatGPT con las leyes de la UE.
La queja principal parece ser que ChatGPT tiende a producir información inexacta.
"De hecho", escribe la EDPB, "debido a la naturaleza probabilística del sistema, el enfoque actual de entrenamiento conduce a un modelo que también puede producir salidas sesgadas o inventadas".
El informe también expresa las preocupaciones de la EDPB de que "las salidas proporcionadas por ChatGPT probablemente sean tomadas como precisas en términos factuales por los usuarios finales", ya sean precisas o no.
En este momento no está claro cómo OpenAI podría lograr que ChatGPT cumpla con las normativas. Por ejemplo, el modelo GPT-4 contiene miles de millones de puntos de datos y alrededor de un billón de parámetros. Sería inviable que los humanos revisaran el conjunto de datos para verificar su precisión en un grado en el que pudiera considerarse razonablemente preciso según los estándares del GDPR.
Desafortunadamente para OpenAI, la EDPB escribió explícitamente que "en particular, la imposibilidad técnica no puede invocarse para justificar el incumplimiento de estos requisitos".
Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión.