Gender stereotypes in AI-generated images

Abstract

Este estudio tiene como objetivo la identificación de sesgos de género en profesiones por parte de imágenes generadas mediante DALL-E 2, aplicación para la creación de imágenes sintéticas basadas en inteligencia artificial (IA). Para ello se utiliza un muestreo probabilístico estratificado en el que se delimitan segmentos a partir de 37 profesiones o prompts, replicando el estudio de Farago, Eggum-Wilkens y Zhang (2021) sobre estereotipos de género en el ámbito laboral en humanos. En el desarrollo del estudio intervienen 2 codificadores que introducen las profesiones manualmente en el generador de imágenes. DALL-E 2 genera 9 imágenes por cada consulta y se toma una muestra de 666 imágenes, con un nivel de confianza del 99% y un margen de error del 5%. A continuación, se evalúa cada imagen de acuerdo a una escala Likertde 3 niveles (1. No estereotipado; 2. Moderadamente estereotipado; 3. Fuertemente estereotipado). Nuestro estudio demuestra que estas creaciones replican estereotipos de género relacionados con el trabajo. Los resultados aquí descritos exponen que el 21,6% de las imágenes de profesionales generadas mediante IA, se representan comple-tamente estereotipadas con respecto al sexo femenino y el 37,8% con respecto al masculino. Si bien estudios anteriores realizados con humanos apuntan la existencia de estereotipos de género en el ámbito laboral, nuestro trabajo demues-tra que la IA, no sólo replica este estereotipado, sino que lo refuerza e incrementa. Así, mientras que las investigaciones sobre sesgo de género llevadas a cabo en humanos demuestran un fuerte estereotipado en el 35% de los casos, la IA ofrece fuerte estereotipado en el 59,4% de los casos. Los resultados del presente estudio subrayan la necesidad de una comunidad de desarrollo de IA diversa e inclusiva, que establezca las bases hacia una IA más justa e imparcial

This study explores workplace gender bias in images generated by DALL-E 2, an application for synthesising images ba-sed on artificial intelligence (AI). To do this, we used a stratified probability sampling method, dividing the sample into segments on the basis of 37 different professions or prompts, replicating the study by Farago, Eggum-Wilkens and Zhang (2020) on gender stereotypes in the workplace. The study involves two coders who manually input different professions into the image generator. DALL-E 2 generated 9 images for each query, and a sample of 666 images was collected, with a confidence level of 99% and a margin of error of 5%. Each image was subsequently evaluated using a 3-point Likert scale: 1, not stereotypical; 2, moderately stereotypical; and 3, strongly stereotypical. Our study found that the images generated replicate gender stereotypes in the workplace. The findings presented indicate that 21.6% of AI-generated images depicting professionals exhibit full stereotypes of women, while 37.8% depict full stereotypes of men. While previous studies conducted with humans found that gender stereotypes in the workplace exist, our research shows that AI not only replicates this stereotyping, but reinforces and increases it. Consequently, while human research on gender bias indicates strong stereotyping in 35% of instances, AI exhibits strong stereotyping in 59.4% of cases. The results of this study emphasise the need for a diverse and inclusive AI development community to serve as the basis for a fairer and less biased AI