mundo -

Unesco alerta de que la IA generativa refuerza estereotipos contra las mujeres

La organización de la ONU puso como ejemplo que cuando se le pide a un determinado programa de IA “escribir una historia” acerca de una persona, la narrativa cambia si se trata de una mujer o un hombre.

Redacción/EFE

La Unesco alertó este jueves de que las herramientas generativas usadas por populares programas de inteligencia artificial (IA) refuerzan estereotipos contra las mujeres, a las que se asocia a las palabras “hogar”, “familia” e “hijos” y a ocupaciones como la prostitución.

 

El estudio, publicado en la víspera del Día Internacional de la Mujer, avisó de que los denominados “Grandes Modelos de Lenguaje” (capaces de leer, traducir y resumir textos y en los que se basan programas de IA generativa como GPT-2 y Llama 2) también tienen una tendencia a reproducir contenido homofóbico y racista. Negocio, ejecutivo, salario y carrera.

 

“Los hombres están asociados a negocio, ejecutivo, salario y carrera”, deploró el informe, quien recordó que los Estados miembros de la Unesco ya se comprometieron en 2021 a implementar una normativa para la IA y que el mes pasado ocho tecnológicas, entre ellas Microsoft, respaldaron esas recomendaciones de regulación.

 

 

La organización de la ONU puso como ejemplo que cuando se le pide a un determinado programa de IA “escribir una historia” acerca de una persona, la narrativa cambia si se trata de una mujer o un hombre, de si es gay o no, o de si su origen es caucásica o africana. Sirvienta, cocinera o prostituta.

 

“A las mujeres se les asignan papeles como sirvienta, cocinera o prostituta”, denunció el organismo internacional, que apuntó cómo la IA asocia ocupaciones como “doctor”, “empleado de banca” o “profesor” con un persona británica, mientras que a una de origen zulú (Sudáfrica) se le asignan trabajos como el de “jardinero” o “guardia de seguridad”.

 

Sobre la homofobia

Sobre la homofobia, el estudio constató que cuando se le demanda a un programa como Llama 2 completar la frase “una persona gay es…” en el 70 % de las veces el predicado restante tiene connotación negativa.

 

La Unesco confirmó además que los “Grandes Modelos de Lenguaje” (LLMs, por su siglas en inglés) de libre acceso como la propia Llama 2 (desarrollado por META) y GPT-2 (OpenAI) muestran “el sesgo de género más significativo”.

 

Cambiar las percepciones de millones de personas

Sin embargo, ese carácter abierto de esos dos programas también pueden ser una puerta abierta a introducir cambios que mitiguen ese distingo de tratamiento más fácilmente, comparado con modelos más cerrados como GPT 3.5 y 4 (las bases de ChatGPT) y Gemini de Google.

 

Los autores del documento abogaron además por “diversificar” el reclutamiento en el área de la IA, pues solo hay un 20 % de mujeres en trabajos tecnológicos de desarrollo de los “Grandes Modelos de Lenguaje”.

 

“Estas nuevas aplicaciones tienen el poder de cambiar, de manera sutil, las percepciones de millones de personas. Cualquier sesgo de género, por más pequeño que sea, puede amplificar las desigualdades en el mundo real”, alertó Audrey Azoulay, directora general de la Unesco, en declaraciones recogidas en el informe.

Etiquetas
Más Noticias

El País SUME atendió más de 13 mil 500 llamadas a la línea de emergencias 9-1-1 por días santos

Mundo El Papa aparece para la bendición Urbi et Orbi en el balcón de la fachada de San Pedro

El País Minsa registra 286 casos acumulados de Virus Oropouche

Fama Isaac De León inicia tour por sus 25 años de carrera artística junto a grandes del típico

El País Santiago celebra la carrera de los santos este Domingo de Pascua

Fama ‘La funa no está bien’ Yenvideo advierte sobre los riesgos de usarla como entretenimiento

El País Balacera y tiradera de botellas el Sábado Santo en Montijo de Veraguas, hay un herido

El País Dos lesionados por la caída de un vehículo a un río en la Costa Arriba de Colón

El País Mucha afluencia de visitantes en las áreas protegidas del país durante Semana Santa

El País Población LGBTIQ+ lanza la Semana Educativa: 10 conversatorios que pueden salvar tu vida

Mundo Exfuncionarios de EE.UU. alertan sobre el abuso de poder de Trump para 'vengarse' de sus críticos

El País Sixto Gómez y los 'Defensores de la cumbia' estrenan por partida doble

El País Panamá mantiene aviso de vigilancia por lluvias y tormentas eléctricas hasta el 23 de abril

Fama Un documental recuerda la compleja negociación que entregó a Panamá el control del Canal

El País 'Cofradía del Cristo de la Buena Muerte': Un homenaje a la celebración de la Semana Santa en el Casco Antiguo

El País Antes de ir a la playa o al río, protéjase y proteja a los suyos. Los bomberos le da recomendaciones

Fama Así enfrenta la hija de Daddy Yankee la caída de su cabello tras crisis familiar

El País Cierra la Semana Santa junto a la naturaleza en el Parque Summit

El País Sistema de climatización del hospital Anita Moreno afectado por fluctuaciones eléctricas

El País Más de 90 personas atendidas en Semana Santa en Colón

El País Miles asisten en Pesé al drama de la Pasión en su regreso al parque central