«Тысячи» сотрудников Amazon слушают записи Alexa

Последнее обновление Май 28, 2023

Для улучшения ИИ необходим человеческий вклад, поэтому, как сообщается, в Amazon тысячи сотрудников прослушивают голосовые записи Alexa.

В отчете Bloomberg утверждается, что у Amazon есть программа проверки голоса, состоящая из штатных сотрудников и подрядчиков по всему миру, которым поручено прослушивать записи, снятые Echo и другими устройствами Alexa. Эти записи расшифровываются и анализируются для улучшения интеллекта Alexa — обычная практика среди компаний, занимающихся речевым искусственным интеллектом.

Прочтите это: Полное руководство по Amazon Alexa

Однако, по словам инсайдеров, беседовавших с Bloomberg, записи, которые отправляются в Amazon для проверки, связаны с именем пользователя, номером учетной записи и серийным номером устройства. Вот где отчет становится весьма убийственным. Программа обучения искусственному интеллекту Amazon не уникальна — Apple делает то же самое с Siri — но вся информация, которая может идентифицировать пользователя, обычно удаляется из данных, как это происходит в Apple.

В отчете также есть члены команды, вспоминающие конкретные записи, которые они слышали, такие как пение женщины в душе, крик ребенка и предполагаемые случаи сексуального насилия. Опять же, довольно убийственно, эти сотрудники, как сообщается, делятся некоторыми из этих записей во внутреннем чате, когда им нужна помощь в разборе трудно поддающейся расшифровке записи.

Представлено новое оборудование Alexa 2020

В ответ Amazon сообщила Bloomberg, что «чрезвычайно небольшая выборка голосовых записей Alexa» использовалась для обучения ее искусственного интеллекта.

«У нас есть строгие технические и операционные меры безопасности, а также политика нулевой терпимости к злоупотреблениям в нашей системе», — заявили в компании. «Сотрудники не имеют прямого доступа к информации, которая может идентифицировать человека или учетную запись в рамках этого рабочего процесса. Вся информация обрабатывается с высокой конфиденциальностью, и мы используем многофакторную аутентификацию для ограничения доступа, сервисное шифрование и аудиты нашей контрольной среды для защиты Это."

Опять же, хотя использование людей для обучения ИИ не является гнусным по своей сути, здесь речь идет о потенциальном злоупотреблении, в частности о неспособности Amazon должным образом анонимизировать данные пользователей.