Витік понад 1000 приватних аудіозаписів Асистента, визнає Google
Google був спійманий на помилці конфіденційності під час збору голосу, і компанія визнала, що понад 1000 звукозаписів були виточені на бельгійський сайт новин.
Як і Amazon, у Google є центр працівників, які слухають запити користувачів Google Assistant, щоб покращити його ШІ. Передбачається, що ці записи залишаються анонімними і, що найважливіше, захищеними на серверах Google.
Але понад 1000 із цих записів було злито підрядником бельгійській телекомпанії VRT NWS. Записи нібито містять конфіденційну інформацію, включаючи адреси, повідомляє VRT. Щоб підтвердити справжність записів, VRT «дозволила звичайним фламандцям почути деякі з власних записів». Ці люди могли підтвердити, що чули власний голос на аудіозаписах.
Хоча витік цієї інформації досить поганий, 153 із записів були розмовами, записаними без слова «Ok Google» для пробудження. Розумні динаміки Google прислухаються до цих пробуджувальних слів і починають записувати що-небудь лише після їх промовлення. Серед цих голосових записів були приватні розмови, ділові дзвінки тощо, які учасники майже напевно не хотіли записувати.
Google визнав витік у дописі в блозі, де підтвердив, що рецензент мови порушив політику безпеки компанії, і поділився записами з VRT.
«Наші групи безпеки та конфіденційності були активовані щодо цієї проблеми, проводять розслідування, і ми вживатимемо заходів», — сказав менеджер із продуктів Google із пошуку Девід Монсіс. «Ми проводимо повний перегляд наших заходів безпеки в цьому просторі, щоб запобігти повторенню подібних неправомірних дій».
Це остання в серії помилок у сфері безпеки голосових компаній. Останнім часом Amazon часто потрапляв у газетні заголовки через те, як він обробляє записи Alexa, повідомлялося, що він недостатньо анонімізує дані.
Голосові компанії використовують працівників для прослуховування записів, щоб «тренувати» ШІ. Це усталена практика, але багато користувачів про неї не знають. І це цілком справедливо, оскільки Google не вказує, що робить це у своїй політиці конфіденційності.
OK, Google: час бути більш прозорими з нами
Google захистив цю практику у своєму блозі, назвавши її «важливою частиною» вдосконалення Асистента.
«Мовні експерти перевіряють лише близько 0,2 відсотка всіх аудіофрагментів», — сказав Монсіс. «Фрагменти аудіо не пов'язуються з обліковими записами користувачів у рамках процесу рецензування, і рецензентам вказується не транскрибувати фонові розмови чи інші шуми, а лише транскрибувати фрагменти, які спрямовуються в Google».
Google також визнав те, що він називає «помилковими прийомами» – випадки, коли Асистент думає, що почув слова пробудження, і починає запис, хоча насправді команда запуску не була подана. Це могло б пояснити 153 ненавмисні записи, але це значна кількість у вибірці розміром 1000. Тож екстраполюйте це, і це не дуже гарний вигляд. Крім того, у політиці Google зазначено, що в Google надсилаються лише призначені записи – що явно не так.
Отже, що ви можете зробити? За бажанням ви можете вимкнути збереження аудіоданих у своєму обліковому записі Google або налаштувати автоматичне видалення даних кожні три чи 18 місяців. Google пообіцяв, що буде «розглядати можливості», щоб уточнити, як використовуються дані. Теж про час.