“Tusentals” Amazon-anställda lyssnar på Alexa-inspelningar
För att AI ska förbättras krävs mänsklig input – varför Amazon enligt uppgift har tusentals anställda som lyssnar på Alexa röstinspelningar.
En rapport från Bloomberg hävdar att Amazon har ett program för röstgranskning, bestående av heltidsanställda och entreprenörer runt om i världen, med uppgift att lyssna på inspelningar som tagits av Echo och andra Alexa-enheter. Dessa inspelningar transkriberas och analyseras för att förbättra Alexas intelligens – en vanlig praxis bland företag inom tal-AI.
Läs det här: Den ultimata guiden till Amazon Alexa
Men enligt insiders som pratar med Bloomberg är inspelningar som skickas till Amazon för granskning associerade med en användares förnamn, kontonummer och enhetens serienummer. Det är här rapporten blir ganska fördömlig. Amazons AI-träningsprogram är inte unikt – Apple gör samma sak med Siri – men all information som kan identifiera användaren tas vanligtvis bort från data, som det är med Apple.
Rapporten har också teammedlemmar som minns specifika inspelningar de hade hört, till exempel en kvinna som sjunger i duschen, ett barn som skriker och misstänkta fall av sexuella övergrepp. Återigen, ganska fördömligt, rapporteras dessa anställda dela några av dessa inspelningar i ett internt chattrum när de behöver hjälp med att analysera en svårtolkad inspelning.
Ny Alexa 2020-hårdvara avslöjad
- Amazon Echo 2020-modell
- Amazon Echo Dot (4:e generationen)
- Amazon Echo Show 10
- Nya funktioner kommer för Alexa
Som svar sa Amazon till Bloomberg att "ett extremt litet urval av Alexa-röstinspelningar" användes för att träna dess AI.
""Vi har strikta tekniska och operativa skyddsåtgärder och har en nolltoleranspolicy för missbruk av vårt system," sa företaget också. "Anställda har inte direkt tillgång till information som kan identifiera personen eller kontot som en del av detta arbetsflöde. All information behandlas med hög konfidentialitet och vi använder multifaktorautentisering för att begränsa åtkomst, tjänstekryptering och revisioner av vår kontrollmiljö för att skydda Det."
Återigen, även om användningen av människor för att träna AI inte i sig är skändlig, är det det potentiella missbruket som gäller här, särskilt Amazons rapporterade misslyckande med att korrekt anonymisera användarnas data.