Las herramientas automatizadas están lejos de ser neutrales, y no son necesariamente menos discriminatoriasSi los datos con los que se entrena la inteligencia artificial están sesgados, los resultados también lo estarán
Son muchas las soluciones Legatech que utiliza la …
La entrada El uso de algoritmos en soluciones Legaltech y el riesgo de sesgos o resultados discriminatorios se publicó primero en Legal Today.
Abogado.
Fundador de Law&Trends
Consultor de Social Media @fbiurrun
Son muchas las soluciones Legatech que utiliza la Inteligencia Artificial como base del desarrollo de sus aplicaciones.
Tras ella, existen una numero de algoritmos que son el fundamento de su aprendizaje, unido a los datos e informaciones de que se alimentan.
El informe publicado por la Agencia de los Derechos Fundamentales (FRA) de la UE señala que «ahora sabemos que las herramientas automatizadas están lejos de ser neutrales, y no son necesariamente menos discriminatorias.
Este informe demuestra que el sesgo forma parte del desarrollo de algoritmos».
El informe abunda en una investigación realizada sobre investigación de delitos, en la presencia de sesgos y prejuicios en los algoritmos utilizados, para supuestos como pueden ser la prevención de mensajes de odio en las redes sociales, pueden terminar siendo discriminatorios si se deja usar estas herramientas sin un control y un proceso de corrección humana.
El director de la FRA, Michael O’Flaherty en el preámbulo del informe destaca cómo las simulaciones realizadas por la Agencia “resaltan la facilidad con la que los algoritmos pueden sesgarse o desarrollar sesgos en el tiempo.
Y esto puede conducir a la discriminación”.
Y pone el énfasis en cómo no hay que dejar de invertir en Inteligencia Artificial, sino que, además, destaca en papel que los humanos debemos desempeñar en el seguimiento, análisis y aprendizaje de esta tecnología.
“Ya es hora de disipar el mito de que los derechos humanos nos impiden avanzar.
Más derechos humanos significan tecnología más confiable”, concluye O’Flaherty.
Valora este contenido.
Sé el primero en puntuar este contenido.
No hay entradas relacionadas
Este sitio web utiliza cookies para mejorar tu experiencia mientras navegas por el sitio web.
De estas, las cookies que se clasifican como necesarias se almacenan en tu navegador, ya que son esenciales para el funcionamiento de las funcionalidades básicas del sitio web.
Estas cookies no requieren el consentimiento del usuario.
También utilizamos cookies de terceros: analíticas, que nos ayudan a analizar y comprender cómo utilizas este sitio web, y publicitarias, para generar audiencias y ofrecer publicidad personalizada a través de los hábitos de navegación de los usuarios.
Estas cookies se almacenarán en tu navegador solo con tu consentimiento.
También tienes la opción de optar por no recibir estas cookies.
La exclusión voluntaria de algunas de estas cookies puede afectar a tu experiencia de navegación.
Las cookies estrictamente necesarias tiene que estar siempre activadas para el correcto funcionamiento de la web.
No recogen ningún tipo de información personal.
Si desactivas esta cookie no podremos guardar tus preferencias.
Esto significa que cada vez que visites esta web tendrás que activar o desactivar las cookies de nuevo.
Utilizamos cookies de análisis o medición que son aquellas que, tratadas por nosotros, nos permiten el seguimiento y análisis del comportamiento de los usuarios de los sitios web a los que están vinculadas, incluida la cuantificación de los impactos de los anuncios.
La información recogida mediante este tipo de cookies se utiliza en la medición de la actividad de los sitios web, aplicación o plataforma, con el fin de introducir mejoras en los productos o servicios ofertados en función del análisis de los datos de uso que hacen los usuarios del servicio.
¡Por favor, activa primero las cookies estrictamente necesarias para que podamos guardar tus preferencias!
Utilizamos cookies publicitarias que son aquellas que, tratadas por nosotros o por terceros, almacenan información del comportamiento de los usuarios obtenida a través de la observación continuada de sus hábitos de navegación, lo que permite desarrollar un perfil específico de navegación de los usuarios para mostrarles publicidad en función del mismo.
¡Por favor, activa primero las cookies estrictamente necesarias para que podamos guardar tus preferencias!
