Se advierte que la inteligencia artificial (IA), lejos de ser una tecnología neutral, puede reforzar estereotipos y prácticas que alimentan la violencia de género. Debido a que los sistemas se entrenan con datos históricos, aprenden sesgos presentes en la sociedad: discriminación en el lenguaje, desigualdad laboral, agresiones invisibilizadas o normalizadas y patrones culturales que afectan particularmente a mujeres y diversidades.
Algoritmos que toman decisiones con sesgos de género
Uno de los mayores riesgos señalados es que la IA se utiliza en procesos de alto impacto como selección laboral, asignación de créditos, moderación de contenido y sistemas de seguridad pública. Si los algoritmos se entrenan con datos que reflejan discriminación previa, pueden reproducirla automáticamente, afectando oportunidades económicas, visibilidad y seguridad de las mujeres.
Esto genera un círculo que perpetúa desigualdades bajo apariencia de objetividad tecnológica.
La violencia digital: una extensión del machismo en plataformas
La autora describe cómo la violencia de género en línea —acoso, amenazas, difusión de imágenes íntimas, manipulación con deepfakes, hostigamiento masivo y discursos de odio— se ha incrementado con el uso de herramientas automatizadas. La IA permite crear contenido agresivo a gran velocidad, amplificarlo y dirigirlo contra víctimas específicas, muchas veces sin consecuencias claras para los agresores.
Los deepfakes: una nueva forma de violencia sexual
Uno de los puntos más alarmantes es la proliferación de deepfakes pornográficos creados sin consentimiento. Estas imágenes, generadas por IA, se convierten en una herramienta de violencia sexual digital que afecta reputaciones, genera extorsiones y perpetúa el control sobre cuerpos femeninos.
Las leyes suelen ir varios pasos detrás de la tecnología, lo que deja a las víctimas sin rutas claras de protección.
Falta de regulación y responsabilidad tecnológica
La columna critica la ausencia de marcos legales sólidos que obliguen a las empresas tecnológicas a prevenir daños derivados de sus algoritmos. Las compañías suelen alegar carácter experimental o falta de control sobre el uso que las personas hacen de sus herramientas, lo que deja vacíos en responsabilidad.
Sin una regulación robusta, la IA sigue operando bajo criterios comerciales más que éticos.
Cómo se invisibiliza el trabajo y la voz de las mujeres
La brecha de género en el desarrollo de IA significa que la gran mayoría de quienes diseñan, entrenan y dirigen proyectos tecnológicos son hombres. Esto deriva en sistemas que no consideran experiencias diversas y que frecuentemente ignoran las necesidades, riesgos y realidades de mujeres y minorías.
La falta de representación es un problema estructural que se refleja directamente en los productos.
La necesidad urgente de una IA feminista
La autora plantea que una IA realmente ética debe incluir:
- Datos diversos y representativos
- Supervisión independiente de los algoritmos
- Transparencia en los criterios de decisión
- Participación activa de mujeres y comunidades vulnerables
- Políticas claras contra la violencia digital y el uso malicioso de herramientas generativas
Solo así la tecnología puede convertirse en aliada y no en una ampliación del sistema de violencia.
Hacia una tecnología que proteja en lugar de vulnerar
La reflexión concluye que la inteligencia artificial debe ser desarrollada con enfoque de derechos humanos, perspectiva de género y mecanismos efectivos de protección. La innovación no puede desligarse del impacto social, especialmente cuando influye en la vida, la seguridad y la libertad de millones de mujeres.
