‘Miles’ de empleados de Amazon escuchan las grabaciones de Alexa

Last updated May 28, 2023

Para que la IA mejore, se necesita la participación humana, razón por la cual, según se informa, Amazon tiene miles de empleados escuchando las grabaciones de voz de Alexa.

Un informe de Bloomberg afirma que Amazon tiene un programa de revisión de voz, compuesto por empleados y contratistas de tiempo completo en todo el mundo, encargado de escuchar las grabaciones capturadas por Echo y otros dispositivos de Alexa. Esas grabaciones se transcriben y analizan para mejorar la inteligencia de Alexa, una práctica común entre las empresas de IA de voz.

Lee esto: La guía definitiva de Amazon Alexa

Sin embargo, según fuentes internas que hablaron con Bloomberg, las grabaciones que se envían a Amazon para su revisión están asociadas con el nombre de pila del usuario, el número de cuenta y el número de serie del dispositivo. Aquí es donde el informe se vuelve bastante condenatorio. El programa de capacitación de IA de Amazon no es único: Apple hace lo mismo con Siri, pero toda la información que podría identificar al usuario generalmente se elimina de los datos, como sucede con Apple.

El informe también tiene miembros del equipo que recuerdan grabaciones específicas que habían escuchado, como una mujer cantando en la ducha, un niño gritando y casos sospechosos de agresión sexual. Nuevamente, de manera bastante condenatoria, estos empleados supuestamente comparten algunas de estas grabaciones en una sala de chat interna cuando necesitan ayuda para analizar una grabación difícil de descifrar.

Nuevo hardware de Alexa 2020 revelado

En respuesta, Amazon le dijo a Bloomberg que se estaba utilizando "una muestra extremadamente pequeña de las grabaciones de voz de Alexa" para entrenar su IA.

"Tenemos estrictas salvaguardas técnicas y operativas, y tenemos una política de tolerancia cero para el abuso de nuestro sistema", dijo también la compañía. "Los empleados no tienen acceso directo a la información que puede identificar a la persona o la cuenta como parte de este flujo de trabajo. Toda la información se trata con alta confidencialidad y usamos autenticación multifactor para restringir el acceso, encriptación de servicios y auditorías de nuestro entorno de control para proteger eso."

Una vez más, si bien el uso de humanos para entrenar a la IA no es intrínsecamente nefasto, lo que preocupa aquí es el abuso potencial, en particular el hecho de que Amazon no logró anonimizar adecuadamente los datos de los usuarios.