Des “milliers” d’employés d’Amazon écoutent des enregistrements d’Alexa

Last updated Mai 28, 2023

Pour que l'IA s'améliore, une intervention humaine est nécessaire – c'est pourquoi Amazon aurait des milliers d'employés qui écoutent les enregistrements vocaux d'Alexa.

Un rapport de Bloomberg affirme qu'Amazon dispose d'un programme d'examen vocal, composé d'employés à temps plein et de sous-traitants du monde entier, chargés d'écouter les enregistrements capturés par Echo et d'autres appareils Alexa. Ces enregistrements sont transcrits et analysés pour améliorer l'intelligence d'Alexa – une pratique courante parmi les entreprises d'IA vocale.

Lis ça: Le guide ultime d'Amazon Alexa

Cependant, selon des initiés parlant à Bloomberg, les enregistrements qui sont envoyés à Amazon pour examen sont associés au prénom, au numéro de compte et au numéro de série de l'appareil de l'utilisateur. C'est là que le rapport devient assez accablant. Le programme de formation à l'IA d'Amazon n'est pas unique – Apple fait la même chose avec Siri – mais toutes les informations qui pourraient identifier l'utilisateur sont généralement supprimées des données, comme c'est le cas avec Apple.

Le rapport a également des membres de l'équipe se souvenant d'enregistrements spécifiques qu'ils avaient entendus, comme une femme chantant sous la douche, un enfant criant et des cas présumés d'agression sexuelle. Encore une fois, de manière assez accablante, ces employés partageraient certains de ces enregistrements dans un salon de discussion interne lorsqu'ils ont besoin d'aide pour analyser un enregistrement difficile à déchiffrer.

Le nouveau matériel Alexa 2020 dévoilé

En réponse, Amazon a déclaré à Bloomberg qu'"un très petit échantillon d'enregistrements vocaux d'Alexa" était utilisé pour former son IA.

""Nous avons des garanties techniques et opérationnelles strictes et avons une politique de tolérance zéro pour l'abus de notre système", a également déclaré la société. "Les employés n'ont pas d'accès direct aux informations permettant d'identifier la personne ou le compte dans le cadre de ce flux de travail. Toutes les informations sont traitées avec une confidentialité élevée et nous utilisons une authentification multifacteur pour restreindre l'accès, le cryptage des services et les audits de notre environnement de contrôle pour protéger ce."

Encore une fois, bien que l'utilisation d'humains pour former l'IA ne soit pas intrinsèquement néfaste, c'est l'abus potentiel qui est préoccupant ici, en particulier l'échec signalé d'Amazon à anonymiser correctement les données des utilisateurs.