RUBÍ PENICHE CETZAL *México: Sesgos algorítmicos y género; pensar la IA desde la equidad* SEMLAC

Cd. de México. (SEMlac).-  La inteligencia artificial (IA) se ha convertido en una de las tecnologías más influyentes de nuestro tiempo. Sus aplicaciones van desde la medicina hasta la educación, pasando por el comercio y la vida cotidiana. Sin embargo, detrás de la promesa de eficiencia y objetividad, se esconde un problema que no es nuevo, pero que ahora se hace más visible: los sesgos algorítmicos.

Estos sesgos, lejos de ser meras fallas técnicas, reflejan desigualdades históricas y culturales, entre ellas las de género. Pensar la IA desde la equidad implica reconocer que la tecnología no es neutral y que, si no se atienden las raíces de la desigualdad, los algoritmos pueden convertirse en espejos que amplifican las injusticias.

La ilusión de la neutralidad tecnológica
La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) ha señalado, en un llamado a contrarrestar las desigualdades de género y los sesgos en los sistemas de IA, que estos tienden a reproducir desigualdades de género, lo que afecta el desarrollo profesional de las mujeres y limita su participación en los sectores tecnológicos.

De acuerdo con el informe Mujeres y hombres en México, del Instituto Nacional de Estadística y Geografía (Inegi) y el Instituto Nacional de las Mujeres (Inmujeres), en México la brecha digital es más profunda en comunidades rurales y entre mujeres de bajos ingresos, lo que restringe su acceso a dispositivos y formación tecnológica.

Esto significa que muchas mujeres no participan en la generación de datos que entrenan los algoritmos, quedando invisibilizadas en los sistemas que luego toman decisiones sobre empleo, salud o consumo.

Los algoritmos aprenden de datos, y estos datos, lejos de ser neutrales, están impregnados de las huellas de nuestras estructuras sociales. Como explica Guzmán Gómez en su análisis histórico sobre IA y equidad de género, los sesgos culturales se trasladan a la tecnología porque los sistemas de IA se entrenan con información que reproduce patrones históricos de discriminación. Así, lo que parecía una herramienta objetiva puede terminar reforzando desigualdades.

La IA, al basarse en grandes volúmenes de datos, refleja las desigualdades que ya existen. Si los datos provienen de contextos donde las mujeres han tenido menor acceso a ciertos espacios, los algoritmos tenderán a reproducir esa exclusión. En todos estos casos, la IA no inventa el sesgo: lo hereda de los datos y lo amplifica en sus decisiones.

Los sesgos algorítmicos pueden limitar el acceso de las mujeres a recursos económicos, reforzar estereotipos de género y dejar desprotegidas a quienes sufren violencia digital. Lousada Arochena plantea en IgualdadES la necesidad de repensar el concepto de “discriminación algorítmica”, porque la tecnología está creando nuevas formas de exclusión que los marcos legales tradicionales aún no contemplan.

En este sentido, la IA no solo refleja desigualdades: también puede consolidarlas en estructuras invisibles y difíciles de cuestionar. Si un algoritmo decide quién accede a un crédito o a un empleo, y lo hace con sesgos de género, las mujeres enfrentan barreras adicionales que no siempre son visibles ni fáciles de denunciar.

La importancia de la perspectiva de género
La falta de diversidad en equipos de investigación y desarrollo tecnológico influye directamente en la reproducción de sesgos. La Comisión de Mujeres y Ciencia del Consejo Superior de Investigaciones Científicas (CSIC), en su Informe de Mujeres Investigadoras, y el Programa de las Naciones Unidas para el Desarrollo (PNUD), en su informe sobre sesgos de género en la IA en América Latina y el Caribe, advierten sobre ese vínculo. Incorporar una perspectiva de género en la IA implica varias acciones:

Diversificar los equipos que diseñan algoritmos.
Realizar auditorías periódicas para detectar sesgos.
Construir bases de datos inclusivas que representen la pluralidad de identidades y experiencias.
La perspectiva de género no es un añadido opcional, sino una condición necesaria para que la IA contribuya a la equidad. Sin ella, corremos el riesgo de que las tecnologías se conviertan en nuevas formas de exclusión.

Pensar y reflexionar sobre esta temática no significa crear una tecnología exclusiva para mujeres, sino una que reconozca las desigualdades históricas y busque corregirlas. Es una invitación a imaginar tecnologías que no solo reflejen la sociedad tal como es, sino que contribuyan a transformarla.

Esto requiere voluntad política, inversión en investigación con perspectiva de género y un compromiso social para exigir tecnologías más justas; en última instancia, es un proyecto colectivo que busca democratizar la tecnología y ponerla al servicio de la equidad.

Invitación al diálogo
La IA no es un espejo neutro de la realidad. Es un sistema que puede amplificar desigualdades si no se diseña con conciencia crítica. Los sesgos algorítmicos de género son una llamada de atención para repensar cómo queremos que la tecnología participe en nuestras vidas.

Pensar la IA desde la equidad significa reconocer la intersección entre género y clase, y trabajar para que las mujeres no solo sean usuarias pasivas, sino protagonistas en la construcción de tecnologías inclusivas.

El reto es cultural y político: entender que la equidad no es un añadido opcional, sino el corazón de cualquier proyecto tecnológico que aspire a transformar la sociedad. La decisión está en nuestras manos: o dejamos que los algoritmos reproduzcan el pasado, o los diseñamos para abrir caminos hacia un futuro más justo.

La respuesta pasa por la participación activa, la vigilancia ciudadana y la construcción de políticas públicas con perspectiva de género.

*La autora es Integrante de MUxED. Doctora en Investigación Educativa por la Universidad de Granada, España. Investigadora titular del Instituto de Investigación y Desarrollo Educativo de la Universidad Autónoma de Baja California, México.