Gli assistenti di intelligenza artificiale come Alexa e Siri rafforzano gli stereotipi di genere, afferma il rapporto delle Nazioni Unite
Gli assistenti intelligenti con voci femminili stanno contribuendo a dannosi stereotipi di genere, secondo un nuovo studio delle Nazioni Unite.
Il rapporto evidenzia che gli aiutanti digitali, a cui di solito viene data la voce di una donna per impostazione predefinita, sono descritti come "comprensibili e desiderosi di compiacere" – rafforzando l'idea che le donne siano "sottomesse". I risultati, pubblicati in un documento intitolato, arrossirei se potessi – prende il nome da una risposta di Siri a un suggerimento provocatorio dell'utente – ha anche descritto la natura delle risposte offensive degli assistenti come "devianti, poco brillanti o di scuse".
"Aziende come Apple e Amazon, composte da team di ingegneri prevalentemente maschili, hanno costruito sistemi di intelligenza artificiale che fanno sì che i loro assistenti digitali femminizzati accolgano gli abusi verbali con flirt del tipo prendimi se puoi", afferma il rapporto, mentre invita le aziende a porre fine alle voci femminili predefinite.
Naturalmente, questa non è la prima volta che emerge la genderizzazione degli assistenti vocali. Come riportato lo scorso settembre, Amazon ha scelto una voce dal suono femminile perché le ricerche di mercato hanno suggerito che fosse più "simpatica". Tuttavia, il fatto stesso che l'assistente si chiami Alexa – un nome decisamente femminile – suggerisce già degli stereotipi di genere.
Non è molto meglio con Cortana di Microsoft, che prende il nome dal personaggio AI femminile di Halo appena vestito. Al momento, non puoi cambiare la voce di Cortana in una maschile e non ci sono indicazioni che lo farai presto.
Siri? Bene, Siri è un nome scandinavo femminile che in genere si traduce in "Bella donna che ti conduce alla vittoria" in norvegese. Anche se, naturalmente, ha anche significati diversi nelle diverse lingue.
Il punto qui è che, come indica il rapporto, con gli assistenti digitali creati da esseri umani, possiedono quindi gli stessi stereotipi che abbiamo noi. È qualcosa da cui abbiamo visto alcune aziende tentare di allontanarsi: Google, ad esempio, ora rappresenta l'Assistente per colore, con accenti e opzioni di genere diversi. A questi colori viene assegnata casualmente una delle otto scelte per un utente.
La soluzione al problema, afferma l'ONU, sarebbe quella di creare un assistente neutrale rispetto al genere e scoraggiare i suggerimenti offensivi da parte degli utenti. Lo studio suggerisce anche di trattare l'IA come un essere inferiore e sottomesso.
Resta da vedere se l'industria si sveglia ai problemi legati alla genderizzazione degli assistenti vocali prima che i comportamenti diventino troppo radicati, ma la responsabilità ricade direttamente sulle spalle delle più grandi aziende del settore per spingere verso un'IA neutrale che rafforzi atteggiamenti diversi e migliori .