Examinando por Autor "Serna Cabello, Ignacio de la"

Mostrando 1 - 1 de 1
  • Miniatura
    Publicación
    Measuring Bias and Improving Fairness and Accuracy of Deep Face Representations
    (Universidad Nacional de Educación a Distancia (España). Escuela Técnica Superior de Ingeniería Informática. Departamento de Inteligencia Artificial, 2020-06-01) Serna Cabello, Ignacio de la; Cuadra Troncoso, José Manuel
    Este trabajo explora los sesgos en los procesos de aprendizaje basados en arquitecturas de redes neuronales profundas mediante el estudio de la biometría facial. Los indicadores de referencia más populares para el reconocimiento facial asumen una distribución de los sujetos sin prestar mucha atención a sus atributos demográficos. En este trabajo se muestra experimentalmente que los procesos de aprendizaje basados en las bases de datos de cara más utilizadas han dado lugar a populares modelos de redes neuronales que presentan una fuerte discriminación algorítmica. En el presente trabajo hacemos un análisis detallado de las causas y efectos del sesgo en las características aprendidas por las redes neuronales profundas utilizadas para la biometría facial, con un amplio estudio demográfico de las bases de datos más utilizadas para entrenar estos modelos. También mostramos cómo los rasgos étnicos influyen en las activaciones de los modelos de detección de género basados en imágenes de cara. Los experimentos incluyen dos modelos populares de reconocimiento facial y tres bases de datos públicas compuestas por 64.000 identidades de diferentes grupos demográficos distinguidos por el género y la etnia. Proporcionamos una formulación general de la discriminación algorítmica. Finalmente proponemos InsideBias, un novedoso método para detectar modelos sesgados, y SensitiveLoss, un nuevo método de aprendizaje que tiene en cuenta la discriminación para mejorar tanto la precisión como la imparcialidad de los algoritmos de reconocimiento facial. InsideBias se basa en la forma en que los modelos representan la información en lugar de cómo rinden, que es la práctica habitual en otros métodos existentes para la detección de sesgos. Nuestra estrategia con InsideBias permite detectar modelos sesgados con muy pocas muestras (sólo 15 imágenes en nuestro estudio de caso). SensitiveLoss se basa en la popular función de pérdida triplet loss y en un generador de tripletes sensibles. Este enfoque funciona como un complemento de las redes pre-entrenadas y se utiliza para mejorar su rendimiento en términos de precisión e imparcialidad. El método muestra resultados comparables a los de las redes sin sesgo del estado del arte y representa un paso hacia delante para evitar los efectos discriminatorios de los sistemas automáticos.