Departamento de Consultoría de Prodat en Castilla y León
Actualmente, la aplicación de la inteligencia artificial (en adelante, IA) al tratamiento masivo de datos personales está marcando el avance tecnológico en el que la tutela efectiva de los derechos fundamentales y, más aún, el derecho a la protección de datos personales se ha convertido en una prioridad indiscutible para las autoridades de control.
La autoridad italiana de protección de datos – Il Garante -, a través de un reciente caso sancionador con la empresa Luka Inc., desarrolladora de un ChatBot basado en IA, ha ejemplificado la importancia de la protección de datos personales y el rigor con el que deben aplicarse las normas del Reglamento General de Protección de Datos (en adelante, RGPD).
La sanción asciende a un importe total de 5 millones de euros por la comisión de graves infracciones al RGPD incluyendo una política de privacidad deficiente y la falta de una base de legitimación del tratamiento, entre otras, atacando así principalmente en los principios de licitud, transparencia y protección desde el diseño y por defecto. La autoridad italiana detectó que no se habían adoptado las medidas suficientes para implementar mecanismos efectivos de verificación de la edad, identificar las bases de legitimación para el tratamiento de los datos o informar sobre los fines del tratamiento, entre otras.
El Chat Bot Replika, desarrollada por la empresa estadounidense Luka Inc., permitía a sus usuarios crear compañeros virtuales mediante un sistema de IA generativa que simulaba roles como un amigo, mentor e incluso pareja romántica y, podían así interactuar mediante texto o voz, creando interacciones emocionales generando importantes riesgos en materia de protección de datos y seguridad, más si cabe respecto a los menores.
En base a esto, el Garante fundamentó su decisión en lo siguiente:
Dada la magnitud del tratamiento por el uso de tecnologías disruptivas en el ChatBot, la cantidad estimada de 10 millones de usuarios afectados y la naturaleza transfronteriza de la actividad, conllevó que la autoridad italiana calificara estos incumplimientos como graves y no solo sancionara a Luka Inc., sino que le impusiese una serie de obligaciones y plazos estrictos para la corrección de las deficiencias de su sistema de IA, reforzando la protección de los derechos de los usuarios.
Este supuesto nos lleva a profundizar en las cuestiones jurídicas que debe tener en cuenta cualquier entidad, pública o privada, que gestione datos personales en la era digital puesto que, el RGPD no solo impone obligaciones formales, sino que, en cumplimiento del bien conocido ya principio de responsabilidad proactiva, exige la incorporación de medidas técnicas y organizativas que mitiguen los riesgos previstos desde la concepción misma del producto o del servicio.
Por ende, la transparencia no es opcional y todo usuario o interesado debe estar informado de forma clara y exhaustiva sobre qué datos van a ser recabados, cuál es la base legal de su tratamiento y con qué finalidad se procesan. Todo esto, reforzándose en el caso de los menores de edad mediante la implementación de mecanismos efectivos de verificación de la edad y limitación del contenido.
Esta sanción por la autoridad italiana de protección de datos a Luka Inc., pone de relieve la necesidad de integrar en los sistemas de IA las exigencias del RGPD como la minimización de datos, la transparencia y la responsabilidad proactiva desde la fase del diseño (privacy by design). La falta de transparencia en el funcionamiento del sistema, sumada a respuestas potencialmente sesgadas, pone en evidencia los riesgos reales que esta tecnología plantea en los derechos y libertades de los individuos, especialmente en donde las decisiones automatizadas pueden tener consecuencias jurídicas o similares.
La autoridad italiana envía un mensaje contundente y es que la innovación tecnológica no debe ni puede ir por delante de los derechos fundamentales de las personas. Así, refuerza la urgencia de establecer medidas y controles robustos en el desarrollo y despliegue de los sistemas de IA, sobre todo en aquellas herramientas en las que hay una interacción directa con usuarios y procesamiento automatizado de datos pues, ante la falta de garantías, será complicado acceder al mercado europeo.
A mayor abundamiento, la autoridad italiana indicó la intención de examinar el supuesto, en procedimiento separado, bajo el marco del Reglamento de Inteligencia Artificial (RIA). Su aplicación es interesante ya que el RIA contiene un enfoque específico sobre los sistemas de IA de alto riesgo y requisitos adicionales para estos supuestos, reforzando así la seguridad y transparencia del uso de estos sistemas.
Este enfoque conjunto del RGPD y RIA pone de manifiesto su clara independencia, pero la vez, amplía el campo de aplicación de la normativa de protección de datos ya que el impacto de ambos Reglamentos será crucial para el diseño y funcionamiento de los sistemas de IA, promoviendo un uso más responsable y ampliando el marco normativo aplicable para garantizar mayor seguridad, transparencia y confianza en estas tecnologías.
En definitiva, esta sanción refuerza la idea de alinear estrictamente la innovación tecnológica con el marco jurídico vigente e impulsa un cambio cultural hacia el uso ético y responsable de estas nuevas tecnologías en donde, como sostiene la autoridad italiana, el RGPD es la herramienta clave para asegurar la legitimidad y sostenibilidad de la IA en la sociedad digital garantizando el respeto de los derechos fundamentales de los usuarios.
Valora este contenido.
Sé el primero en puntuar este contenido.
PRODAT es una organización especializada en servicios de Consultoría, Auditoría y Outsourcing en el ámbito de la Ley Orgánica de protección de datos de carácter personal (LOPD), Reglamento 2016/679 general de protección de datos de la Unión Europea, ISO 27001, Ley de servicios de la sociedad de la información y del comercio electrónico y Compliance.
PRODAT opera en todo el territorio nacional a través de una red de 20 oficinas y en la actualidad cuenta con más de 40 consultores que utilizan las mismas metodologías y herramientas informáticas.
Fundada en 1997, en la actualidad es una organización firmemente asentada en el mercado.
Este sitio web utiliza cookies para mejorar tu experiencia mientras navegas por el sitio web. De estas, las cookies que se clasifican como necesarias se almacenan en tu navegador, ya que son esenciales para el funcionamiento de las funcionalidades básicas del sitio web. Estas cookies no requieren el consentimiento del usuario. También utilizamos cookies de terceros: analíticas, que nos ayudan a analizar y comprender cómo utilizas este sitio web, y publicitarias, para generar audiencias y ofrecer publicidad personalizada a través de los hábitos de navegación de los usuarios. Estas cookies se almacenarán en tu navegador solo con tu consentimiento. También tienes la opción de optar por no recibir estas cookies. La exclusión voluntaria de algunas de estas cookies puede afectar a tu experiencia de navegación.
Las cookies estrictamente necesarias tiene que estar siempre activadas para el correcto funcionamiento de la web. No recogen ningún tipo de información personal.
Si desactivas esta cookie no podremos guardar tus preferencias. Esto significa que cada vez que visites esta web tendrás que activar o desactivar las cookies de nuevo.
Utilizamos cookies de análisis o medición que son aquellas que, tratadas por nosotros, nos permiten el seguimiento y análisis del comportamiento de los usuarios de los sitios web a los que están vinculadas, incluida la cuantificación de los impactos de los anuncios.
La información recogida mediante este tipo de cookies se utiliza en la medición de la actividad de los sitios web, aplicación o plataforma, con el fin de introducir mejoras en los productos o servicios ofertados en función del análisis de los datos de uso que hacen los usuarios del servicio.
¡Por favor, activa primero las cookies estrictamente necesarias para que podamos guardar tus preferencias!
Utilizamos cookies publicitarias que son aquellas que, tratadas por nosotros o por terceros, almacenan información del comportamiento de los usuarios obtenida a través de la observación continuada de sus hábitos de navegación, lo que permite desarrollar un perfil específico de navegación de los usuarios para mostrarles publicidad en función del mismo.
¡Por favor, activa primero las cookies estrictamente necesarias para que podamos guardar tus preferencias!
