¿La IA es discriminatoria?

    

    A diario utilizamos la IA como una herramienta eficaz para la resolución de problemas laborales, personal, familiares, etc. Desde los chatbots para consultar dudas en el funcionamiento de una app, los robots de uso doméstico, a los vídeos de vigilancia, utilización en tráfico como el GPS, uso de drones, etc. Aunque estando expuestos, valoramos los beneficios y perjuicios de su uso, y nos tenemos que plantear si existe sesgo de género desde su creación hasta su desarrollo y aplicación práctica en nuestra sociedad.

    La IA ha llegado para quedarse, por ello vamos a aprender a utilizarla y a visibilizar su lado discriminatorio en cuanto al género. Lo que no se ve, no existe.  Pero nos preguntamos:

¿La IA es discriminatoria hacia el sexo femenino?

    Nos ponemos nuestras gafas violeta y empezamos por observar los nombres de algunas de las más famosas asistentes de voz "femenina":

- Siri (de Apple)

- Alexa (de Amazon)

- Cortana (de Microsoft o Google)

    Es evidente que el estereotipo de género y roles asociados a tareas de cuidado, serviciales, de sumisión, o domésticas han tenido una tradicional repercusión a la hora de crear contenido en la IA. Se siguen perpetuando los roles que minusvaloran a las mujeres. Pero, por el contrario, vamos a comparar los asistentes que buscan la voz "masculina":

- Súper ordenador Watson ( de IBM)

- Sistemas de navegación de aviones de combate

    Aunque las voces cuenten y el lenguaje es muy importante, el problema principal radica en el algoritmo, puesto que la IA  repite patrones aprendidos, y perpetúa los prejuicios de género que tenemos en nuestra sociedad. Algunos ejemplos que podemos observar son los siguientes:

    Se reproducen sesgos en la selección de personal, por ejemplo en Amazon se utilizó un patrón de contratación con criterios de selección de los últimos 10 años, de los cuales la mayoría eran hombres y se discriminó a las mujeres.

   En EE.UU se detectaron sesgos de género para el cálculo bancario en préstamos valorando los riesgos crediticio. Ejemplo de ello es la tarjeta de crédito de Apple, donde su cofundador David Heinemeier Hansson, detectó que la IA le dio 20 veces mayor el límite de crédito que a su esposa, la cual por suerte o por fortuna, disponía de una mayor solvencia financiera y cuyo matrimonio compartían todos sus bienes.

    En las profesiones la IA filtra los estereotipos de género también, por ejemplo, en profesiones sanitarias como médico o enfermera (no neutro). Si filtramos por profesiones sanitarias, se le asigna la profesión de medicina a lo masculino (médico), y la enfermería aparecerá la imagen de una enfermera. 

    Por último, no olvidemos a las profesiones relacionadas con la ingeniería, investigación y tecnología (STEM), donde destacan los profesionales varones y se observa la falta de representación femenina.

¿Cómo combatirla?

    Cuando ChatGPT, Midjourney o Google Translate generen una respuesta claramente sexista, utiliza los botones de retroalimentación (el pulgar hacia abajo o la opción de "reportar error"). La parte ingeniera revisará estos reportes para reentrenar los modelos.

Se trata de educarlo/ entrenarlo para que evite los sesgos de género y no reporte discriminación hacia las mujeres.