Los asistentes de IA como Alexa y Siri refuerzan los estereotipos de género, según un informe de la ONU
Los asistentes inteligentes con voces femeninas están contribuyendo a los estereotipos de género dañinos, según un nuevo estudio de las Naciones Unidas.
El informe destaca que los asistentes digitales, a los que se suele dar la voz de una mujer de forma predeterminada, se presentan como "serviles y deseosos de complacer", lo que refuerza la idea de que las mujeres son "subordinadas". Los hallazgos, publicados en un artículo titulado Me sonrojaría si pudiera, que lleva el nombre de una respuesta de Siri a un aviso provocativo del usuario, también describieron la naturaleza de las respuestas insultantes de los asistentes como "desviadoras, mediocres o apologéticas".
"Empresas como Apple y Amazon, con equipos de ingenieros mayoritariamente masculinos, han construido sistemas de inteligencia artificial que hacen que sus asistentes digitales feminizados reciban el abuso verbal con coqueteos tipo atrápame si puedes", dice el informe, al tiempo que insta a las empresas a poner fin a las voces femeninas predeterminadas.
Por supuesto, esta no es la primera vez que surge la generización de los asistentes de voz. Como se informó en septiembre pasado, Amazon eligió una voz que sonaba femenina porque la investigación de mercado sugirió que parecía más "comprensiva". Sin embargo, el hecho de que la asistente se llame Alexa, un nombre muy femenino, ya sugiere estereotipos de género.
No es mucho mejor con Cortana de Microsoft, que lleva el nombre del personaje femenino de IA de Halo apenas vestido. En este momento, no puedes cambiar la voz de Cortana a una masculina, y no hay indicios de que vayas a hacerlo pronto.
Siri? Bueno, Siri es un nombre escandinavo femenino que normalmente se traduce como "mujer hermosa que te lleva a la victoria" en nórdico. Aunque, naturalmente, también tiene diferentes significados en diferentes idiomas.
El punto aquí es que, como indica el informe, con los asistentes digitales creados por humanos, por lo tanto, poseen los mismos estereotipos que nosotros. Es algo de lo que hemos visto que algunas empresas intentan alejarse: Google, por ejemplo, ahora representa al Asistente por color, con diferentes acentos y opciones de género. Estos colores se asignan aleatoriamente a una de las ocho opciones para un usuario.
La solución al problema, dice la ONU, sería crear un asistente neutral en cuanto al género y desalentar las indicaciones insultantes de los usuarios. El estudio también sugiere tratar a la IA como un ser menor y subordinado.
Queda por ver si la industria se da cuenta de los problemas relacionados con la generización de los asistentes de voz antes de que los comportamientos se vuelvan demasiado arraigados, pero la responsabilidad recae directamente sobre los hombros de las empresas más grandes de la industria para impulsar una IA neutral que refuerce actitudes diferentes y mejores. .