„Tysiące” pracowników Amazona słucha nagrań Alexy
Aby sztuczna inteligencja mogła się poprawić, potrzebny jest wkład człowieka – dlatego podobno Amazon ma tysiące pracowników słuchających nagrań głosowych Alexy.
Raport Bloomberga twierdzi, że Amazon ma program oceny głosu, składający się z pełnoetatowych pracowników i kontrahentów na całym świecie, których zadaniem jest słuchanie nagrań przechwyconych przez Echo i inne urządzenia Alexa. Nagrania te są transkrybowane i analizowane w celu poprawy inteligencji Alexy – co jest powszechną praktyką wśród firm zajmujących się sztuczną inteligencją mowy.
Przeczytaj to: Najlepszy przewodnik po Amazon Alexa
Jednak według informatorów rozmawiających z Bloombergiem nagrania, które są wysyłane do Amazon w celu sprawdzenia, są powiązane z imieniem użytkownika, numerem konta i numerem seryjnym urządzenia. W tym miejscu raport staje się dość obciążający. Program szkoleniowy Amazon AI nie jest wyjątkowy – Apple robi to samo z Siri – ale wszystkie informacje, które mogłyby zidentyfikować użytkownika, są zwykle usuwane z danych, tak jak ma to miejsce w przypadku Apple.
W raporcie członkowie zespołu wspominają również konkretne nagrania, które słyszeli, takie jak kobieta śpiewająca pod prysznicem, krzyczące dziecko i podejrzane przypadki napaści na tle seksualnym. Ponownie, dość potępiająco, ci pracownicy podobno udostępniają niektóre z tych nagrań na wewnętrznym czacie, kiedy potrzebują pomocy w analizie trudnego do rozszyfrowania nagrania.
Ujawniono nowy sprzęt Alexa 2020
- Model Amazon Echo 2020
- Amazon Echo Dot (4. generacji)
- Amazon Echo Show 10
- Nadchodzą nowe funkcje dla Alexy
W odpowiedzi Amazon powiedział Bloombergowi, że „niezwykle mała próbka nagrań głosowych Alexy" była wykorzystywana do szkolenia jego sztucznej inteligencji.
„”Mamy ścisłe zabezpieczenia techniczne i operacyjne oraz politykę zerowej tolerancji dla nadużyć naszego systemu” – powiedziała również firma. „Pracownicy nie mają bezpośredniego dostępu do informacji, które mogą zidentyfikować osobę lub konto w ramach tego przepływu pracy. Wszystkie informacje są traktowane z zachowaniem wysokiej poufności i stosujemy uwierzytelnianie wieloskładnikowe w celu ograniczenia dostępu, szyfrowanie usług i audyty naszego środowiska kontrolnego w celu ochrony to."
Ponownie, chociaż wykorzystywanie ludzi do szkolenia sztucznej inteligencji nie jest z natury nikczemne, dotyczy to potencjalnego nadużycia, w szczególności zgłoszonego przez Amazon niepowodzenia w prawidłowej anonimizacji danych użytkowników.