Luego de que Italia prohibió ChatGPT en marzo del 2023, varios países de la Unión Europea han activado sus alarmas con OpenAI y comienzan a trabajar en Regulaciones de Privacidad.
Si bien es cierto que la inteligencia artificial ha marcado una pauta histórica en la humanidad, comienza a causar preocupación entre usuarios, gobiernos y grandes corporaciones tecnológicas.
Hace unos meses ocurrió una filtración de datos y conversaciones personales de los usuarios con ChatGPT debido a una brecha de seguridad.
Luego también se filtró información personal y de pago de suscriptores de la versión Plus.
¿Por qué prohibió Italia el uso de ChatGPY?
Precisamente debido a estas brechas de seguridad y la revelación de datos que recoge OpenAI y no figuran en su Política de Privacidad declarada, es por lo que Italia ha decidido prohibir el uso de ChatGPT.
El Garante per la protezione dei dati prsonali (Garante para la protección de datos personales, GPDP) fue la autoridad pública que ha ordenado la limitación a OpenAI de procesar datos de origen italiano.
La prohibición con efecto inmediato dio paso al inicio de una investigación por lo que quedó prohibido para los usuarios italianos el uso de este servicio por el momento.
La autoridad pública alegó que OpenAI no informa en su web sobre los datos que recopilan y el objetivo por el cual lo hacen.
Europa es un territorio con una legislación de protección de datos estricta por lo que OpenAI podría presentar muchos más problemas en el territorio.
Aunque pudiera parecer radical Italia tiene varios argumentos sólidos sobre la mesa en esta disputa que hasta la fecha de la prohibición estaban vigentes:
- No había ningún documento público que especifique los datos recopilados y en qué se usan detalladamente.
- No existía un sistema de verificación que restrinja su uso a los menores de edad. En las Condiciones de Uso solo se menciona que el servicio está destinado a mayores de 13 años.
¿Qué provoca esto? Primero que tus largas horas de conversaciones con ChatGPT, además de los datos que proporcionas a OpenAI para crear tu usuario no sabes realmente a dónde van a parar.
En segundo lugar, cualquier menor puede entrar libremente al servicio y acceder a una conversación abierta con una IA suministrando casi todo tipo de información y guardando sus datos para usarlos en cosas que desconocemos.
¿Qué quiere Italia de OpenAI para permitir el uso de ChatGPT?
Luego de este pronunciamiento oficial del GPDP, Italia ha planteado a OpenAI una serie de demandas para permitir el uso de ChatGPT en ese país.
Una vez establecido oficialmente el pronunciamiento de GPDP, el CEO de OpenAI, bloqueó el uso de ChatGPT para Italia y anunció la colaboración de la empresa con las autoridades para mejorar las leyes, que en su parecer no estaban violando la privacidad de sus usuarios.
En abril el GPDP ha hecho públicas sus exigencias a OpenAI y son las siguientes:
- La eliminación de cualquier referencia a guardar un contrato en los términos de uso del servicio. Se exige a OpenAI en su lugar, acogerse a la base del principio de interés legítimo o consentimiento para usar y procesar los datos de sus usuarios.
- La puesta en marcha antes del 15 de mayo de una campaña mediática informativa para dar a conocer a los usuarios el uso de sus datos personales en el entrenamiento de IA.
- La aplicación de los derechos de eliminación, corrección y acceso de datos que consta en el Reglamento General de Protección de Datos. Mediante el cumplimiento de esta demanda garantizarán a las personas la posibilidad de corregir datos personales generados por ChatGPT.
- También se exige la creación de mecanismos para autorizar o no el uso de datos personales en el entrenamiento de las IA.
- Se exige la puesta en marcha de un sistema de verificación de edad para que los menores no puedan acceder al servicio y un plan de acción antes del 30 se septiembre para filtrar a los menores de 13 años.
- Estos, junto a los usuarios de 13 a 18 años necesitarán el consentimiento de sus padres para poder acceder al servicio.
- Por último Italia pide a OpenAI la entrega de un documento detallado con “los métodos y la lógica subyacente al procesamiento de datos necesarios para el funcionamiento de ChatGPT”
Además exigen que este documento esté al fácil acceso de todos los usuarios. Incluso sugieren que aparezca como una información antes de que los nuevos usuarios completen su registro en el servicio y también para los que ya estamos iniciados.
Ahora estamos a la espera de las respuestas por parte de OpenAI.
ChatGPT activa las Regulaciones de Privacidad en el resto de países de la Unión Europea
A la fecha estamos a la espera de la respuesta de OpenAI. Incluso aunque la compañía cumpla con las exigencias del GPDP podría enfrentar problemas con otros países de la UE.
De no cumplir con las exigencias de GPDP, OpenAI deberá pagar multas de hasta 20 millones de euros o el 4% de la facturación total.
Italia ya ha asegurado que continuará con sus investigaciones y no descarta el “tomar medidas adicionales” de ser necesario.
Este incidente entre Italia y OpenAI ha volcado todas las miradas del mundo hacia la seguridad de datos.
De hecho ya han saltado las alarmas en España. La Agencia Española de Protección de Datos (AEPD) declaró sobre el tema que si bien aún no han recibido reclamaciones:
“la Agencia sigue de cerca estos desarrollos tecnológicos, que pueden tener una importante afectación para los derechos de las personas, por lo que no puede descartarse una futura investigación a este respecto”.
Por el momento OpenAI no ha dado respuesta formal a las demandas, pero sí publicó un artículo en su blog en el que expresa:
“Aunque algunos de nuestros datos de entrenamiento incluyen información personal disponible en Internet, queremos que nuestros modelos aprendan sobre el mundo, no sobre particulares”.