La brecha salarial de género podría estar apareciendo en un lugar inesperado: las interacciones entre humanos y agentes de inteligencia artificial.
Una investigación de la Universidad de Limerick encontró que las personas participantes estaban dispuestas a entregar menos dinero a un agente de IA presentado como mujer que a uno presentado como hombre, aun cuando ambos utilizaban exactamente la misma tecnología y realizaban el mismo trabajo.
El resultado plantea una pregunta incómoda: ¿la inteligencia artificial está reproduciendo los prejuicios que ya existen en el mundo laboral?
La prueba puso a humanos y agentes de IA en una oficina virtual
El estudio, titulado “Human-Like and Male? How AI Assistant Design Relates to Trust and Monetary Reward at Work in VR”, involucró a 189 trabajadores.
Los participantes fueron colocados en un entorno de realidad virtual que simulaba una oficina y tuvieron que realizar distintas tareas con la ayuda de varios asistentes de inteligencia artificial.
Entre ellos había agentes con diferentes formas de presentación, incluidos dos personajes con apariencia humana: Johan, presentado como masculino, y Johanna, presentada como femenina.
Lo importante es que ambos tenían las mismas capacidades tecnológicas y utilizaban el mismo modelo de inteligencia artificial como base.
Posteriormente, los participantes recibieron dinero real que podían repartir entre ellos y el agente de IA como recompensa por el trabajo realizado. De esta manera, los investigadores intentaron recrear una situación más cercana a una transacción laboral real.
Johanna recibió 10.25% menos que Johan
El resultado fue llamativo.
Aunque los participantes evaluaron de manera bastante similar el trabajo de Johan y Johanna, el agente presentado como masculino recibió una recompensa monetaria significativamente mayor.
En promedio, Johanna recibió 10.25% menos dinero que Johan por realizar el mismo trabajo.
La diferencia apareció tanto entre participantes hombres como entre participantes mujeres.
Esto resulta especialmente relevante porque no existía una diferencia tecnológica entre ambos agentes. El modelo subyacente y las capacidades eran esencialmente las mismas.
La variable que cambiaba de manera importante era la forma en que los agentes eran presentados.
También hubo diferencias en la percepción de los agentes
El dinero no fue la única diferencia detectada.
Los participantes consideraron a Johan ligeramente más confiable que Johanna, aunque esa diferencia en confianza no alcanzó significación estadística.
Sin embargo, sí percibieron al agente masculino como más humano.
Esto abre una posibilidad interesante para los investigadores: determinados elementos de diseño, como el género aparente, podrían modificar la manera en que las personas interpretan las capacidades, personalidad o valor de un agente artificial.
La mayoría decía que no trataría diferente a una IA
Existe además una contradicción entre lo que las personas dijeron y lo que hicieron.
Durante las entrevistas, la mayoría de los participantes aseguró que no trataría de manera diferente a un agente de IA dependiendo de si se presentaba como hombre o mujer.
Sin embargo, el comportamiento observado durante el experimento mostró una diferencia clara en las recompensas económicas.
Para los investigadores, esto sugiere que algunos sesgos pueden operar de manera automática, incluso cuando las personas no son conscientes de ellos o no consideran que estén actuando de forma discriminatoria.
¿La IA está desarrollando una brecha salarial?
En realidad, no.
Los agentes de inteligencia artificial no tienen salarios, necesidades económicas ni derechos laborales como los seres humanos. El dinero utilizado en el experimento funcionó como una herramienta para medir las decisiones de los participantes.
Por eso, hablar de una “brecha salarial de la IA” es una manera llamativa de describir el resultado, pero técnicamente la investigación está midiendo un sesgo humano hacia agentes artificiales que presentan determinadas características de género.
La diferencia no estaba dentro del algoritmo que realizaba el trabajo. Estaba en la forma en que los seres humanos respondían ante él.
El problema podría crecer a medida que las IA entren al trabajo
El hallazgo adquiere mayor relevancia porque los agentes de IA están empezando a incorporarse a tareas laborales que anteriormente realizaban exclusivamente personas.
Asistentes capaces de investigar información, gestionar procesos, responder clientes, generar documentos o ejecutar determinadas tareas podrían convertirse en una parte habitual de los entornos de trabajo.
Si la apariencia, voz, nombre o personalidad asignada a estos sistemas influye en la confianza que reciben o en el valor económico que las personas atribuyen a su trabajo, el diseño de los agentes podría terminar teniendo consecuencias prácticas.
Los investigadores consideran que comprender estos sesgos será especialmente importante conforme las interacciones entre humanos y agentes de IA se vuelvan más frecuentes.
El estudio no demuestra que todos los agentes femeninos sean tratados peor
También es importante no extrapolar los resultados más allá de lo que realmente investigó el estudio.
La investigación analizó un experimento específico con 189 participantes, determinados agentes y un entorno de realidad virtual.
El resultado demuestra una diferencia en ese contexto, pero no significa que cualquier IA con voz, nombre o apariencia femenina vaya a recibir automáticamente menos dinero.
Tampoco demuestra que exista una “discriminación algorítmica” dentro del modelo utilizado.
Lo que sí aporta es evidencia de que los prejuicios relacionados con el género pueden influir en la manera en que los humanos interactúan con sistemas artificiales.
Un espejo inesperado de los prejuicios humanos
La investigación de la Universidad de Limerick plantea un escenario peculiar: incluso cuando no hay dos trabajadores humanos compitiendo por un salario, nuestras ideas sobre género pueden seguir influyendo en cuánto valor atribuimos a un trabajo.
En este caso, Johan y Johanna podían realizar las mismas tareas y utilizaban la misma tecnología. Aun así, la persona que estaba frente a la pantalla terminó asignando más dinero a uno que al otro.
La conclusión más interesante, por tanto, no es que las máquinas estén desarrollando una brecha salarial.
Es que los seres humanos podrían estar llevando sus propios prejuicios al mundo de la inteligencia artificial.
Y conforme los agentes de IA ocupen un lugar cada vez más importante en las empresas, descubrir cómo evitar que esos sesgos se reproduzcan en las nuevas interfaces de trabajo podría convertirse en un problema mucho más real que la curiosa prueba realizada en una oficina virtual.
