{rfName}
Bi

Indexado en

Licencia y uso

Citaciones

65

Altmetrics

Análisis de autorías institucional

Peña AAutor (correspondencia)Serna IAutor o CoautorMorales AAutor o CoautorFierrez JAutor o Coautor

Compartir

14 de septiembre de 2020
Publicaciones
>
Conferencia Publicada
No

Bias in multimodal AI: Testbed for fair automatic recruitment

Publicado en:IEEE Computer Society Conference on Computer Vision and Pattern Recognition Workshops. 2020-June 129-137 - 2020-06-01 2020-June(), DOI: 10.1109/CVPRW50498.2020.00022

Autores: Pena, Alejandro; Serna, Ignacio; Morales, Aythami; Fierrez, Julian

Afiliaciones

Univ Autonoma Madrid, Sch Engn, Madrid, Spain - Autor o Coautor
Universidad Autónoma de Madrid - Autor o Coautor

Resumen

© 2020 IEEE. The presence of decision-making algorithms in society is rapidly increasing nowadays, while concerns about their transparency and the possibility of these algorithms becoming new sources of discrimination are arising. In fact, many relevant automated systems have been shown to make decisions based on sensitive information or discriminate certain social groups (e.g. certain biometric systems for person recognition). With the aim of studying how current multimodal algorithms based on heterogeneous sources of information are affected by sensitive elements and inner biases in the data, we propose a fictitious automated recruitment testbed: FairCVtest. We train automatic recruitment algorithms using a set of multimodal synthetic profiles consciously scored with gender and racial biases. Fair-CVtest shows the capacity of the Artificial Intelligence (AI) behind such recruitment tool to extract sensitive information from unstructured data, and exploit it in combination to data biases in undesirable (unfair) ways. Finally, we present a list of recent works developing techniques capable of removing sensitive information from the decision-making process of deep learning architectures. We have used one of these algorithms (SensitiveNets) to experiment discrimination-aware learning for the elimination of sensitive information in our multimodal AI framework. Our methodology and results show how to generate fairer AI-based tools in general, and in particular fairer automated recruitment systems.

Palabras clave

Computer vision and pattern recognitionElectrical and electronic engineering

Indicios de calidad

Impacto bibliométrico. Análisis de la aportación y canal de difusión

El trabajo ha sido publicado en la revista IEEE Computer Society Conference on Computer Vision and Pattern Recognition Workshops debido a la progresión y el buen impacto que ha alcanzado en los últimos años, según la agencia Scopus (SJR), se ha convertido en una referencia en su campo. En el año de publicación del trabajo, 2020, se encontraba en la posición , consiguiendo con ello situarse como revista Q1 (Primer Cuartil), en la categoría Computer Vision and Pattern Recognition. Destacable, igualmente, el hecho de que la Revista está posicionada por encima del Percentil 90.

Desde una perspectiva relativa, y atendiendo al indicador del impacto normalizado calculado a partir de las Citas Mundiales de Scopus Elsevier, arroja un valor para la media Ponderada del Impacto Normalizado de la agencia Scopus: 1.96, lo que indica que, de manera comparada con trabajos en la misma disciplina y en el mismo año de publicación, lo ubica como trabajo citado por encima de la media. (fuente consultada: ESI 14 Nov 2024)

Esta información viene reforzada por otros indicadores del mismo tipo, que aunque dinámicos en el tiempo y dependientes del conjunto de citaciones medias mundiales en el momento de su cálculo, coinciden en posicionar en algún momento al trabajo, entre el 50% más citados dentro de su temática:

  • Field Citation Ratio (FCR) de la fuente Dimensions: 13.71 (fuente consultada: Dimensions Jul 2025)

De manera concreta y atendiendo a las diferentes agencias de indexación, el trabajo ha acumulado, hasta la fecha 2025-07-04, el siguiente número de citas:

  • WoS: 24
  • Scopus: 36

Impacto y visibilidad social

Desde la dimensión de Influencia o adopción social, y tomando como base las métricas asociadas a las menciones e interacciones proporcionadas por agencias especializadas en el cálculo de las denominadas “Métricas Alternativas o Sociales”, podemos destacar a fecha 2025-07-04:

  • La utilización de esta aportación en marcadores, bifurcaciones de código, añadidos a listas de favoritos para una lectura recurrente, así como visualizaciones generales, indica que alguien está usando la publicación como base de su trabajo actual. Esto puede ser un indicador destacado de futuras citas más formales y académicas. Tal afirmación es avalada por el resultado del indicador “Capture” que arroja un total de: 140 (PlumX).

Análisis de liderazgo de los autores institucionales

Existe un liderazgo significativo ya que algunos de los autores pertenecientes a la institución aparecen como primer o último firmante, se puede apreciar en el detalle: Primer Autor (PEÑA ALMANSA, ALEJANDRO) y Último Autor (FIERREZ AGUILAR, JULIAN).

el autor responsable de establecer las labores de correspondencia ha sido PEÑA ALMANSA, ALEJANDRO.