¿La IA es machista? #Fintech en México entrenan algoritmos para cerrar brecha de género 🤖

Lo esencial

Ante la pregunta de si ‘¿la IA es machista? ’, un motor responde: “sí, la IA puede comportarse de manera machista y perpetuar sesgos de género. La IA no es neutral; sus resultados reflejan prejuicios, estereotipos y desigualdades presentes en los datos con los que ha sido entrenada”.

En su defensa, como cualquier otro sistema, puede ser corregida. E incluso, bien implementada, puede convertirse en una herramienta para reducir inclinaciones humanas. En la superficie, la tecnología parece objetiva.

pero investigaciones recientes han demostrado que no es imparcial. Un estudio de Harvard encontró que los modelos de lenguaje reflejan respuestas similares a las de las personas WEIRD, un acrónimo anglosajón utilizado para condensar a los ciudadanos occidentales, blancos, ricos y viven en países industrializados y democráticos. Otro estudio de investigadoras de la Universidad de Los Andes y de la firma Quantil en Colombia identificó que estos modelos también reproducen sesgos en español, evidenciando que la herencia cultural y lingüística de los datos puede influir en sus respuestas.

Contexto

“Pero si usamos IA en modelos no sesgados, esto acompaña a que el género no sea un factor que genera exclusión”, resume Brigitte Brousset, CEO de GOW, una startup mexicana nativa de IA que utiliza agentes inteligentes y modelos predictivos y conversacionales para mejorar las posibilidades de pequeñas y medianas empresas (pymes) de acceder a préstamos en instituciones financieras.

“Si tomamos decisiones de forma más tradicional, con personas dentro de los procesos, pueden existir sesgos, no de manera intencionada, sino que somos seres humanos y vivimos con sesgos, principalmente inconscientes”. El sistema económico y financiero es uno de los ámbitos donde las brechas que afectan a las mujeres son más evidentes. Las mexicanas ganan en promedio 20% menos que los hombres, una diferencia ligeramente superior al promedio latinoamericano de 17%, según cifras compiladas por BBVA y la Comisión Económica para América Latina y el Caribe (CEPAL).

Los datos oficiales también muestran que, sin importar el tipo de producto bancario —ahorro, crédito o inversión—, las mujeres registran menor tenencia. Por ejemplo, 51% de los hombres tiene una cuenta para el retiro, frente a 34% de las mujeres, y 28% cuenta con un seguro, contra 18%. Esto implica menos oportunidades para planificar la vejez o contar con protección ante accidentes o enfermedades.

En resúmen, mayor vulnerabilidad económica.