La expansión imparable de la Inteligencia Artificial (IA), que penetra con prometedoras aplicaciones en todos los rincones de la sociedad y la economía contemporáneas, es la seña de identidad de nuestro tiempo. Con su crecimiento exponencial, la IA ha generado …
La entrada Diversidad y no discriminación en nuevos frentes:sesgos y estereotipos en la era de la IA y la robotización se publicó primero en Legal Today.
La expansión imparable de la Inteligencia Artificial (IA), que penetra con prometedoras aplicaciones en todos los rincones de la sociedad y la economía contemporáneas, es la seña de identidad de nuestro tiempo.
Con su crecimiento exponencial, la IA ha generado tanta fascinación por sus promesas como alarma por sus peligros y temor por sus riesgos.
La respuesta europea, ambiciosa, contundente y oportuna, ha cristalizado en la adopción del Reglamento de IA, y en otras acciones legislativas para la reforma o adaptación de los regímenes de responsabilidad (responsabilidad por producto, reglas específicas sobre exhibición y carga de la prueba).
Es decir, en una estrategia para contener el riesgo y para asegurar la indemnización de los daños cuando, a pesar a de todo, el riesgo se materializa.
Con este enfoque basado en el riesgo, el Reglamento de IA clasifica las prácticas, usos y aplicaciones de los sistemas de IA en diversas categorías (prácticas prohibidas, sistemas de alto riesgo, modelos con riesgo sistémico, usos que requieren obligaciones de transparencia) para garantizar una IA fiable y centrada en el ser humano.
Esta visión humanista y antropocéntrica vertebra la estrategia europea que, sin desconocer las extraordinarias posibilidades y beneficios de la IA, percibe y se enfrenta a los riesgos que puede significar para los derechos fundamentales, la democracia, los valores de la Unión, las personas físicas o el medio ambiente.
Es en este contexto, en el que la lucha por la diversidad y la no discriminación ha de librarse en nuevos frentes.
Entre los riesgos que el uso sistemático de la IA puede infiltrar con intensidad en nuestras sociedades es precisamente el de amplificar sesgos y perpetuar estereotipos que crearían efectos discriminatorios en el acceso a servicios, a contenidos, a oportunidades de educación, de cultura o de trabajo, al ejercicio de derechos, a productos y servicios financieros, a servicios públicos, a la justicia, a infraestructuras relevantes o al mercado.
El efecto viralizador innato a la automatización, las capacidades de aprendizaje y el potencial generativo que caracteriza a los sistemas de IA y a los modelos de IA de uso general (grandes modelos de lenguaje, grandes modelos multimodales, IA generativa) abonan un terreno especialmente permeable a un impacto adverso en la igualdad de género, el derecho a la no discriminación y la diversidad.
Es especialmente crítico que la lógica operativa de los sistemas de IA pueda conducir a perpetuar, amplificar y, en ocasiones, reinsertar de forma opaca y silente en nuestras sociedades sesgos que derivan de datos históricos o de prejuicios, estereotipos y discriminaciones que emergen de entornos del mundo real.
En ocasiones, estos sesgos pueden replicarse de forma imperceptible o expandirse de manera ubicua hasta contaminar y condicionar, en ciclos de retroalimentación, acciones y decisiones automatizadas cada vez más complejas e interconectadas.
Esta complejidad, esta opacidad, unidas a la imprevisibilidad que genera la capacidad de aprendizaje de la IA, limitan la eficacia real de los mecanismos de supervisión humana.
Y, por ello, estos efectos discriminatorios pueden reinstalarse, fosilizarse, engastarse de manera invisible pero perpetua en la toma de decisiones económicas y sociales.
El fascinante potencial generativo de los modelos de lenguaje y los modelos de IA de uso general nos enfrenta a otros desafíos para la diversidad y la no discriminación.
Nuevamente, la perpetuación de sesgos y la recreación, una y otra vez, de estereotipos con fuerte carga discriminatoria pueden enquistar los avances sociales y jurídicos por promover y preservar entornos de igualdad y de diversidad.
En cierta medida, el potencial generativo, absolutamente apasionante, de la IA Generativa correría el riesgo de verse lastrado por visiones estereotipadas, prejuicios y sesgos, que consoliden en vez de superar discriminaciones históricas.
Al combinar las fascinantes posibilidades de la IA con el progreso extraordinario de las tecnologías inmersivas y de realidad aumentada y el avance de la robotización, un nuevo e inesperado frente para combatir la discriminación se abre ante nosotros.
Sorprendentemente, y a pesar de la percepción ampliamente generalizada de que la IA deshumaniza y se opone al ser humano como su contrario, ajeno e incomparable, las expectativas de desarrollo de robots “expresivos, sociales, humanoides en su aspecto y antropomorfizados por los usuarios” y de sistemas de IA “incorporados” en “cuerpos” virtuales (avatares de realidad aumentada o con tecnologías inmersivas) nos dirige hacia un horizonte muy diferente.
Un horizonte en el que la interacción humano-máquina adquiere un perfil y una intensidad muy diferente.
El efecto de la apariencia sobre la percepción, la acción humana, y la toma de decisiones vuelve a ser fundamental.
Y con ella, la preocupación por los sesgos, los estereotipos y los prejuicios que perpetúan la discriminación.
A medida que la IA se imbrica con los avances en la robotización y la virtualización más sofisticadas que da forma a dispositivos o a avatares con marcados rasgos antropomórficos, pasamos curiosamente de la preocupación por revelar el uso de un sistema de IA, como forma de protección, cuando no es evidente ni esperado para la persona física con la que está interactuando, a los riesgos sobre el modo en que toma forma.
Es decir, con la robotización y la virtualización la interacción con un sistema automatizado resulta evidente, pero su configuración puede influir, manipular o engañar precisamente por su materialización en dispositivos físicos o virtuales con rasgos antropomorfos.
Este efecto se agrava especialmente en robots humanoides en los que la antropomorfización puede replicar estereotipos, explotar vulnerabilidades, manipular la percepción aprovechando sesgos o prejuicios, o confundir con rasgos externos o atributos predeterminados.
Sugerentes estudios en el campo de la interacción humano-robot (human-robot interaction) analizan la influencia que esta exteriorización en el diseño, las propiedades y los atributos externos (color, forma, dimensiones, tono, rasgos) que tienen una lectura o generan o evocan una percepción antropomórfica (edad, género, raza) ejerce en la actitud, los comportamientos y la confianza generada en quien interactúa con ellos.
Y en este sentido, se comprueba que a medida que la antropomorfización se intensifica, las categorías humanas y sociales, y con ellas el lastre de los modelos estereotipados y los sesgos discriminatorios, comienzan también a ganar fuerza en la interacción entre humanos y robots/avatares.
Los sesgos discriminatorios y los estereotipos prejuiciosos pueden reinstalarse y viralizarse si la sociedad no es sensible a estas nuevas formas de interacción y vida en sociedad.
Los esfuerzos renovados por la diversidad, la igualdad y la no discriminación han de enmarcarse ahora en estos nuevos entornos y desplegarse, de forma sensible y eficaz, ante estas nuevas realidades.
Valora este contenido.
Sé el primero en puntuar este contenido.
Este sitio web utiliza cookies para mejorar tu experiencia mientras navegas por el sitio web.
De estas, las cookies que se clasifican como necesarias se almacenan en tu navegador, ya que son esenciales para el funcionamiento de las funcionalidades básicas del sitio web.
Estas cookies no requieren el consentimiento del usuario.
También utilizamos cookies de terceros: analíticas, que nos ayudan a analizar y comprender cómo utilizas este sitio web, y publicitarias, para generar audiencias y ofrecer publicidad personalizada a través de los hábitos de navegación de los usuarios.
Estas cookies se almacenarán en tu navegador solo con tu consentimiento.
También tienes la opción de optar por no recibir estas cookies.
La exclusión voluntaria de algunas de estas cookies puede afectar a tu experiencia de navegación.
Las cookies estrictamente necesarias tiene que estar siempre activadas para el correcto funcionamiento de la web.
No recogen ningún tipo de información personal.
Si desactivas esta cookie no podremos guardar tus preferencias.
Esto significa que cada vez que visites esta web tendrás que activar o desactivar las cookies de nuevo.
Utilizamos cookies de análisis o medición que son aquellas que, tratadas por nosotros, nos permiten el seguimiento y análisis del comportamiento de los usuarios de los sitios web a los que están vinculadas, incluida la cuantificación de los impactos de los anuncios.
La información recogida mediante este tipo de cookies se utiliza en la medición de la actividad de los sitios web, aplicación o plataforma, con el fin de introducir mejoras en los productos o servicios ofertados en función del análisis de los datos de uso que hacen los usuarios del servicio.
¡Por favor, activa primero las cookies estrictamente necesarias para que podamos guardar tus preferencias!
Utilizamos cookies publicitarias que son aquellas que, tratadas por nosotros o por terceros, almacenan información del comportamiento de los usuarios obtenida a través de la observación continuada de sus hábitos de navegación, lo que permite desarrollar un perfil específico de navegación de los usuarios para mostrarles publicidad en función del mismo.
¡Por favor, activa primero las cookies estrictamente necesarias para que podamos guardar tus preferencias!
