‘Milhares’ de funcionários da Amazon estão ouvindo as gravações da Alexa
Para que a IA melhore, é necessária a contribuição humana – e é por isso que a Amazon supostamente tem milhares de funcionários ouvindo as gravações de voz do Alexa.
Um relatório da Bloomberg afirma que a Amazon possui um programa de revisão de voz, composto por funcionários e contratados em tempo integral em todo o mundo, encarregados de ouvir gravações capturadas pelo Echo e outros dispositivos Alexa. Essas gravações são transcritas e analisadas para melhorar a inteligência do Alexa – uma prática comum entre as empresas de IA de fala.
Leia isto: O melhor guia para o Amazon Alexa
No entanto, de acordo com informações privilegiadas que falaram com a Bloomberg, as gravações enviadas à Amazon para revisão estão associadas ao primeiro nome do usuário, número da conta e número de série do dispositivo. É aqui que o relatório se torna bastante condenatório. O programa de treinamento de IA da Amazon não é único – a Apple faz a mesma coisa com a Siri – mas todas as informações que podem identificar o usuário geralmente são retiradas dos dados, como acontece com a Apple.
O relatório também mostra membros da equipe relembrando gravações específicas que ouviram, como uma mulher cantando no chuveiro, uma criança gritando e casos suspeitos de agressão sexual. Mais uma vez, de forma bastante contundente, esses funcionários supostamente compartilham algumas dessas gravações em uma sala de bate-papo interna quando precisam de ajuda para analisar uma gravação difícil de decifrar.
Novo hardware Alexa 2020 revelado
- Modelo Amazon Echo 2020
- Amazon Echo Dot (4ª geração)
- Amazon Echo Mostrar 10
- Novos recursos chegando para Alexa
Em resposta, a Amazon disse à Bloomberg que "uma amostra extremamente pequena das gravações de voz da Alexa" estava sendo usada para treinar sua IA.
“"Temos salvaguardas técnicas e operacionais estritas e uma política de tolerância zero para o abuso de nosso sistema”, disse a empresa. "Os funcionários não têm acesso direto a informações que possam identificar a pessoa ou conta como parte desse fluxo de trabalho. Todas as informações são tratadas com alta confidencialidade e usamos autenticação multifator para restringir o acesso, criptografia de serviços e auditorias de nosso ambiente de controle para proteger isto."
Novamente, embora o uso de humanos para treinar IA não seja inerentemente nefasto, é o abuso potencial que preocupa aqui, particularmente a falha relatada da Amazon em anonimizar adequadamente os dados dos usuários.