"El riesgo es que la IA perpetúe los sesgos de género"

La Inteligencia Artificial no solo implica grandes avances. También la profundización de desigualdades y sesgos de género y el riesgo de que a futuro, una gran proporción de mujeres, queden fuera del mercado laboral. Lo advierte la abogada Eleonora Lamm, doctora en Bioética y Derecho, responsable del sector de ciencias sociales y humanas de Unesco para América latina y el Caribe. “Naciones Unidas anticipa que las mujeres perderán cinco puestos de trabajo por cada uno ganado a través de la Industria 4.0, en comparación con la pérdida de tres por cada uno ganado, entre los hombres”, alerta Lamm. Y tira más datos: Un estudio sobre 133 sistemas de Inteligencia Artificial desplegados en distintos sectores económicos entre 1988 y 2021 reveló que el 44 por ciento presentaba sesgos de género y el 26 por ciento, tanto de género como raciales.

 “La agencia de aplicación de la ley de IA de la Unión Europea predice que hasta el 90 por ciento del contenido de Internet podría ser creado o editado por la IA en 2026, lo que significa que el impacto del sesgo en la IA no hará más que crecer”, señala. A la vez, la presencia de mujeres en el campo de la IA es minoritario. A nivel global, solo el 22 por ciento de profesionales en IA son mujeres, lo cual contrasta aún más con el casi 14 por ciento de las mujeres autoras en el campo de la IA y el 18 por ciento que ocupan posiciones como oradores principales en conferencias de IA. ¿Se puede cambiar ese rumbo o ya es inevitable?

La desigualdad de género se replica en el mundo de la IA. Los datos son contundentes. El informe del Alan Turing Institute "¿Dónde están las mujeres?", destaca que solo entre el 10 y 15 por ciento de los investigadores en aprendizaje automático en empresas líderes de tecnología son mujeres. Este desequilibrio se extiende al mercado laboral, donde reclutadores de empresas tecnológicas en Silicon Valley reportan que el grupo de solicitantes para puestos técnicos en IA y ciencia de datos frecuentemente incluye menos del 1 por ciento de mujeres, señala Lamm, especializada en ética e IA.

—Dado que la IA ya está desempeñando un papel crucial en distintos aspectos de nuestra vida cotidiana, con una influencia que previsiblemente aumentará en el futuro, resulta importante observar con más detalle cómo los sesgos en la IA pueden influir y exacerbar las desigualdades de género. ¿Qué ejemplos concretos puede mencionar?

–La principal preocupación es el riesgo de que la IA pueda perpetuar o incluso amplificar los sesgos y disparidades de género, socavando los avances en la igualdad de género. Los sistemas de IA aprenden de datos históricos, que pueden reflejar y perpetuar prejuicios sociales existentes. Por ejemplo, si los datos históricos de contratación muestran sesgos de género en los procesos de selección, una herramienta de contratación impulsada por IA entrenada en estos datos puede perpetuar esos sesgos recomendando candidatos basados en criterios sesgados. Esto ya pasó, por ejemplo en Amazon. Los algoritmos pueden codificar y amplificar inadvertidamente sesgos presentes en los datos utilizados para entrenarlos o en las suposiciones conscientes o inconscientes de los desarrolladores. Por ejemplo, un estudio descubrió que los modelos lingüísticos impulsados por IA y entrenados con grandes conjuntos de datos de Internet pueden mostrar sesgos de género en su generación del lenguaje, asociando a menudo ciertas profesiones o roles con géneros específicos. La infrarrepresentación de las mujeres y otros grupos marginados en la industria tecnológica puede dar lugar a prejuicios en el desarrollo de la IA. Los equipos que carecen de diversidad pueden pasar por alto o no abordar adecuadamente las preocupaciones relacionadas con el género en los sistemas de IA, perpetuando inadvertidamente los sesgos. Una plataforma de publicidad impulsada por la IA puede mostrar de forma desproporcionada anuncios de empleo para puestos bien remunerados a usuarios masculinos, basándose en tendencias históricas -o en un lenguaje codificado en masculino-, perpetuando así el estereotipo de que ciertas profesiones son específicas de género. Del mismo modo, los robots de inteligencia artificial y los asistentes de voz suelen lanzarse con voces femeninas por defecto, lo que refuerza el prejuicio de que el servicio es una función femenina.

–¿Qué factores influyen para que se reproduzcan estos sesgos de género?

–El sesgo de sexo y género se encuentra en los datos con los que se diseña el algoritmo o con los que aprende el programa. La cuestión es cómo evitar que aparezca este sesgo y, en el caso de que haga acto de presencia, cómo eliminarlo. Las posibles soluciones se dan esencialmente desde la propia tecnología, pero más profundamente desde los cambios culturales que devienen fundamentales y que repercuten ineludiblemente en la tecnología. Ahora bien, desde la ética de la IA también puede y debe aportarse. Finalmente, en la medida en que el diseño y aplicación de un sistema basado en IA se da dentro de un sistema legal, el ordenamiento jurídico puede establecer medidas aplicables durante toda la vida del sistema, así como adoptar una serie de consecuencias ante la existencia de situaciones discriminatorias derivadas de la existencia de un sesgo de sexo y género debido a los datos con los que se maneja el sistema de IA.

–¿Cómo se podrían evitar o eliminar?

–Para hacer frente a estos riesgos se requieren medidas proactivas tales como conjuntos de datos diversos y representativos, transparencia algorítmica y rendición de cuentas, equipos diversos en el desarrollo de la IA y la supervisión y evaluación continuas de los sistemas de IA para detectar sesgos. Estos aspectos se incluyen en el capítulo de género de la Recomendación de la UNESCO sobre la ética de la IA, que se lanzó en noviembre de 2021, junto con un claro esbozo de valores y principios que acompañan a los diferentes ámbitos de actuación política. El propósito de esta Recomendación es ofrecer una guía a los países para responder a los impactos actuales y eventuales, beneficiosos y dañinos, de las diversas aplicaciones de las tecnologías de IA.

–¿Cuáles son los riesgos?

–La IA genera riesgo de tener un impacto negativo en el empoderamiento económico de las mujeres y diversidades sexuales y de género y las oportunidades del mercado laboral al llevar a la automatización del trabajo. Una investigación reciente del Fondo Monetario Internacional y el Instituto de Investigación de Políticas de la Mujer encontró que las mujeres tienen un riesgo significativamente mayor de desplazamiento laboral debido a la automatización del trabajo en comparación a los hombres. A medida que se automatizan más trabajos de baja calificación, tener un mayor nivel de educación y habilidades será cada vez más buscado en el mercado laboral. Naciones Unidas anticipa que las mujeres perderán cinco puestos de trabajo por cada uno ganado a través de la Industria 4.0, en comparación con la pérdida de tres puestos de trabajo de los hombres por cada uno ganado. Según un estudio colaborativo de 29 programas de las Naciones Unidas, la mitad de los puestos de trabajo actuales habrán desaparecido para 2050. En otras palabras, más del 60 por ciento de lxs niñxs que ingresan hoy a la escuela primaria podrían terminar trabajando en trabajos que aún no existen. Por lo tanto, es fundamental que las mujeres y diversidades sexuales y de género no se queden atrás en términos de nuevas estrategias de capacitación para mitigar el impacto de la automatización en la pérdida de puestos de trabajo. En los países de América Latina, el ingreso de las mujeres a la fuerza laboral fue uno de los factores más importantes para el crecimiento del empleo en las últimas décadas. La falta de participación femenina en el sector productivo está, literalmente, costando dinero a las economías de la región: reducir esta brecha de género aumentaría en un 4 por ciento el PBI de los países en América Latina y el Caribe.

–Lamentablemente todavía las mujeres eligen menos carreras relacionadas con ciencia, tecnología, ingeniería y matemáticas...

–Así es. Además datos disponibles evidencian que las mujeres hacen un uso más limitado de los dispositivos digitales y de internet, incluida la participación en la economía gig. Este rezago en las habilidades digitales limita su posibilidad de obtener los beneficios que ofrece esta tecnología. Para realizar con éxito las transiciones necesarias hacia la fuerza laboral del futuro, las mujeres y diversidades sexuales y de género necesitan adquirir habilidades y competencias tecnológicas adecuadas. Es vital que tengan más influencia en la creación y uso de tecnología. Solo así podremos contribuir a la creación de un futuro igualitario que aborde las preocupaciones sobre los sesgos de género que se arrastran y se están trasladando a las nuevas tecnologías, por ejemplo, en el diseño de algoritmos de la IA.

–¿Es optimista… o cree que la IA profundizará las desigualdades de género?

–Quiero ser optimista con la IA, porque lo soy en la vida. Pero soy consciente de que este optimismo depende de cuan ético y responsable sea el desarrollo y el uso de la IA. Tengo muchos ejemplos de buenas prácticas: La IA puede ayudar a combatir el acoso sexual. La empresa de IA NexLP ha desarrollado los #MeTooBots, que supervisan las comunicaciones entre compañerxs y detectan la intimidación y el acoso sexual en documentos, correos electrónicos y chats. La IA puede ayudar con la salud sexual y reproductiva, como Bloomlife, que proporciona información médica valiosa a la hora de parir. O a hacer frente a las desigualdades de género, como Ellevest, que ofrece una plataforma de inversión en línea diseñada por mujeres para mujeres con el fin de combatir el analfabetismo financiero y ayudar a cerrar la brecha de inversión de género. En general, aprovechar las tecnologías de IA para promover los derechos de las mujeres y mejorar su acceso a las oportunidades requiere un enfoque proactivo y holístico para el desarrollo y despliegue de la IA que priorice la inclusión, la igualdad de género, la rendición de cuentas, la transparencia, el respeto de los derechos humanos, integrados en un diseño y uso éticos.