“Migliaia” di dipendenti Amazon stanno ascoltando le registrazioni di Alexa
Affinché l'intelligenza artificiale migliori, è necessario l'input umano, motivo per cui secondo quanto riferito Amazon ha migliaia di dipendenti che ascoltano le registrazioni vocali di Alexa.
Un rapporto di Bloomberg afferma che Amazon ha un programma di revisione vocale, composto da dipendenti e appaltatori a tempo pieno in tutto il mondo, incaricato di ascoltare le registrazioni acquisite da Echo e altri dispositivi Alexa. Queste registrazioni vengono trascritte e analizzate per migliorare l'intelligenza di Alexa, una pratica comune tra le società di IA vocale.
Leggi questo: la guida definitiva ad Amazon Alexa
Tuttavia, secondo gli addetti ai lavori che parlano con Bloomberg, le registrazioni che vengono inviate ad Amazon per la revisione sono associate al nome dell'utente, al numero di account e al numero di serie del dispositivo. È qui che il rapporto diventa piuttosto schiacciante. Il programma di formazione AI di Amazon non è unico – Apple fa la stessa cosa con Siri – ma tutte le informazioni che potrebbero identificare l'utente vengono solitamente rimosse dai dati, come avviene con Apple.
Il rapporto ha anche membri del team che ricordano registrazioni specifiche che avevano sentito, come una donna che cantava sotto la doccia, un bambino che urlava e casi sospetti di violenza sessuale. Ancora una volta, in modo abbastanza dannoso, questi dipendenti condividono alcune di queste registrazioni in una chat room interna quando hanno bisogno di aiuto per analizzare una registrazione difficile da decifrare.
Svelato il nuovo hardware Alexa 2020
- Modello Amazon Echo 2020
- Amazon Echo Dot (quarta generazione)
- Amazon Eco Show 10
- Nuove funzionalità in arrivo per Alexa
In risposta, Amazon ha detto a Bloomberg che "un campione estremamente piccolo di registrazioni vocali di Alexa" veniva utilizzato per addestrare la sua intelligenza artificiale.
""Abbiamo rigorose garanzie tecniche e operative e abbiamo una politica di tolleranza zero per l'abuso del nostro sistema", ha anche affermato la società. "I dipendenti non hanno accesso diretto alle informazioni che possono identificare la persona o l'account come parte di questo flusso di lavoro. Tutte le informazioni sono trattate con elevata riservatezza e utilizziamo l'autenticazione a più fattori per limitare l'accesso, la crittografia del servizio e gli audit del nostro ambiente di controllo per proteggere esso."
Ancora una volta, mentre l'uso degli esseri umani per addestrare l'IA non è intrinsecamente nefasto, è il potenziale abuso che riguarda qui, in particolare l'incapacità segnalata da Amazon di anonimizzare correttamente i dati degli utenti.