«Тисячі» співробітників Amazon слухають записи Alexa
Щоб покращити штучний інтелект, потрібен людський внесок, тому, як повідомляється, тисячі співробітників Amazon прослуховують записи голосу Alexa.
У звіті Bloomberg стверджується, що Amazon має програму перегляду голосу, яка складається з штатних працівників і підрядників по всьому світу, яким доручено прослуховувати записи, зроблені Echo та іншими пристроями Alexa. Ці записи транскрибуються та аналізуються, щоб покращити інтелект Alexa – поширена практика серед компаній, що займаються штучним інтелектом мовлення.
Прочитайте це: найкращий посібник із Amazon Alexa
Однак, за словами інсайдерів, які розмовляли з Bloomberg, записи, які надсилаються на перевірку Amazon, пов'язані з іменем користувача, номером облікового запису та серійним номером пристрою. Ось де звіт стає досить проклятим. Навчальна програма Amazon зі штучним інтелектом не є унікальною – Apple робить те саме з Siri – але вся інформація, яка може ідентифікувати користувача, зазвичай видаляється з даних, як це відбувається з Apple.
У звіті члени команди також пригадують конкретні записи, які вони чули, як-от жінка, яка співає в душі, дитячий крик і підозрювані випадки сексуального насильства. Знову ж таки, досить жахливо, ці співробітники, як повідомляється, діляться деякими з цих записів у внутрішньому чаті, коли їм потрібна допомога в розборі запису, який важко розшифрувати.
Розкрито нове апаратне забезпечення Alexa 2020
У відповідь Amazon повідомила Bloomberg, що «надзвичайно мала вибірка голосових записів Alexa» використовується для навчання її ШІ.
«Ми дотримуємося суворих технічних і операційних гарантій, а також дотримуємося політики нульової терпимості до зловживань нашою системою», — також заявили в компанії. «Співробітники не мають прямого доступу до інформації, яка може ідентифікувати особу чи обліковий запис у рамках цього робочого процесу. Уся інформація обробляється з високим рівнем конфіденційності, і ми використовуємо багатофакторну автентифікацію для обмеження доступу, шифрування послуг і перевірки нашого контрольного середовища для захисту це."
Знову ж таки, хоча використання людей для навчання штучного інтелекту за своєю суттю не є мерзотним, проблема полягає в потенційних зловживаннях, зокрема про нездатність Amazon належним чином анонімізувати дані користувачів.