¿Hay sesgo de género en las IA?

Por: Camilo Bautista – Oficina Asesora de Comunicaciones

El auge de la inteligencia artificial ha traído grandes cambios en la forma como las personas se informan, investigan e incluso crean contenidos, esto genera reacciones opuestas entre los usuarios de internet, algunas a favor, otras en contra; como por ejemplo, la posición de ONU Mujeres que señala que la IA ha traído sesgo de género, tema de análisis en este artículo.

Sin embargo, iniciaremos por saber ¿Qué es IA? y ¿Cómo funciona?

Para resolver este interrogante, el profesor del programa de Ingeniería de Sistemas de la seccional Ubaté, Leonardo Valderrama, magister en Inteligencia Artificial asegura que “una inteligencia artificial es una serie de herramientas y disciplinas que busca imitar la inteligencia humana, en ocasiones, tiene la capacidad de aprender a partir de ciertos modelos, anteriormente quienes programaban las IA, eran los matemáticos puros o estadísticos, incluso, personas con conocimientos en Física, en la actualidad, el tema se relaciona con el software y la configuración en dispositivos”.

Es preciso aclarar que inteligencia artificial, hay una sola, lo que hay es disciplinas que complementan cada una de las ramas. A continuación, veremos una pequeña descripción de cada una de ellas.

Disciplina de aprendizaje máquina o “machine learning”, también se le puede llamar aprendizaje automático, dentro de ellas hay unas subdisciplinas como el “Deep Learning”, que es un aprendizaje más profundo, dónde se habla de redes neuronales y se busca comprender como es la sinapsis neuronal humana o animal para luego ser llevada a la digitalización.

Disciplina de procesamiento de imágenes, la característica que tiene esta disciplina es que le permite reconocer y hacer procesamientos más avanzados sobre esas imágenes.

Disciplina de procesamiento de lenguaje natural, interpreta cómo se comunica el humano y hace que una máquina lo entienda. A este tipo de tecnología se les conoce como inteligencia artificial generativa, a esta pertenece el tan nombrado Chat GPT que trabaja con la base de procesamiento de lenguaje natural.

Disciplina de análisis de datos, toma recursos de la IA pero su base es la estadística y la matemática.

El profesor Valderrama agrega, “el insumo principal en los modelos de inteligencia artificial, son los datos, lo que la IA hace con ellos es buscar patrones o tendencias que puedan definir el comportamiento de un sistema, y de esta manera, tener la capacidad de clasificar o predecir diferentes eventos dependiendo de la disciplina que se esté tratando, es decir, si se está trabajando con procesamiento de imágenes, busca encontrar características a partir de los datos que identifiquen al individuo, por ejemplo, si se está haciendo una predicción numérica, lo que busca es generar un dato a partir de esa predicción”.

Ahora que sabemos que es, y cómo funciona una IA, el profesor Valderrama responde a la interrogante ¿es posible que se dé un sesgo de género en una IA?

“Es posible, cómo ya se ha dicho, una IA depende de los datos con los que se está entrenando, recordemos que la inteligencia aprende de los datos que consume, por tanto, si los datos con los que aprendió, tienen una inclinación de género, como consecuencia, su predicción también lo tendrá, como referentes de esta situación, un informe de 2018 de Amazon reveló que su sistema de contratación automatizado mostraba un sesgo hacia los candidatos masculinos, lo que llevó a la compañía a descartar su uso. Esto se debió en parte a que el sistema se entrenó con datos de currículos presentados a la empresa durante un período de 10 años, en su mayoría de candidatos masculinos”. Respondió Valderrama.

Otros casos encontrados son sesgo en reconocimiento facial, se ha demostrado que los sistemas de reconocimiento facial tienen tasas de error más altas para las mujeres y las personas de color en comparación con los hombres blancos. Un estudio realizado por el Instituto Nacional de Estándares y Tecnología (NIST) de Estados Unidos en 2019, encontró que los sistemas comerciales de reconocimiento facial tenían tasas de error más altas para las mujeres y las personas de color, lo que indica un sesgo en la precisión. Algunos asistentes virtuales, como Siri de Apple o Alexa de Amazon, han sido criticados por promover estereotipos de género o responder de manera inapropiada a comentarios sexistas.

Según un artículo publicado por ONU Mujeres, en la actualidad, en la programación y desarrollo de IA, sólo el 22% son mujeres, lo que restringe seriamente su participación en el desarrollo e investigación de estas tecnologías.

La UCundinamarca se ha adaptado a los cambios que han traído las IA en las dinámicas sociales y educativas, y trabaja en la inclusión de la enseñanza de estas tecnologías en los planes de estudio de programas como el de Ingeniería de Sistemas, con el objetivo de que sus estudiantes y futuros ingenieros, quienes seguramente serán quienes terminen programando este tipo de sistemas, tengan una idea clara en temas de tecnologías emergentes, 4.0 y todo lo que se relacione con IA, un ejemplo de este ejercicio de apropiación del conocimiento es que se le permite al estudiante el uso de IA generativas, motivándolos siempre a que las usen con responsabilidad y ética profesional.

El profesor Valderrama concluye. “Como gestor del conocimiento, comparto la idea de usar las nuevas tecnologías, dejando la reflexión en mis estudiantes que el uso de las mismas tiene que traducirse en un beneficio para la comunidad. En ese sentido, el llamado es a fusionar la ética profesional con el uso de estas herramientas. No se puede sesgar al profesional prohibiéndole su uso, esto le permitirá a ese estudiante, generar soluciones prácticas a nuevos procesos y no a trabajar sobre algo que ya está desarrollado”.

Más noticias de Institucional en la Agencia de Noticias