Утечка более 1000 личных аудиозаписей Assistant, признает Google

Google был уличен в нарушении конфиденциальности при сборе голоса: компания признала, что более 1000 звукозаписей просочились на бельгийский новостной сайт.

Как и в Amazon, в Google есть центр рабочих, которые слушают запросы пользователей к Google Assistant, чтобы улучшить его ИИ. Эти записи должны оставаться анонимными и, что наиболее важно, защищенными на серверах Google.

Но более 1000 из этих записей были переданы подрядчиком бельгийской телекомпании VRT NWS. Согласно VRT, записи якобы содержат конфиденциальную информацию, включая адреса. Чтобы подтвердить подлинность записей, VRT «позволила обычным фламандцам послушать некоторые из своих записей». Эти люди могли подтвердить, что слышали собственный голос на аудиоклипах.

Хотя утечка этой информации достаточно серьезна, 153 записи были записаны без слова «Окей, Google». Умные колонки Google слушают эти пробуждающие слова и должны начинать записывать что-либо только после того, как они произнесены. Среди этих голосовых клипов были личные разговоры, деловые звонки и тому подобное, которые участники почти наверняка не хотели записывать.

Google признал утечку в сообщении в блоге, где подтвердил, что языковой обозреватель нарушил политику безопасности компании и поделился записями с VRT.

«Наши группы реагирования на вопросы безопасности и конфиденциальности были задействованы в связи с этой проблемой, проводят расследование, и мы примем меры», — сказал Дэвид Монсиз, менеджер по поисковым продуктам Google. «Мы проводим полную проверку наших мер безопасности в этом пространстве, чтобы предотвратить повторение подобных неправомерных действий».

Это последняя ошибка в системе безопасности, допущенная операторами голосовой связи. В последнее время Amazon часто упоминается в заголовках из-за того, как он обрабатывает записи Alexa, с сообщениями о том, что он недостаточно анонимизирует данные.

Голосовые компании используют работников для прослушивания записей, чтобы «обучить» ИИ. Это устоявшаяся практика, но многие пользователи не знают о ней. И это совершенно справедливо, потому что Google не говорит об этом в своей политике конфиденциальности.

Хорошо, Google: пришло время быть более прозрачным с нами

Google защитил эту практику в своем блоге, назвав ее «критической частью» улучшения помощника.

«Эксперты по языку просматривают только около 0,2 процента всех аудиофрагментов», — сказал Монсис. «Аудиофрагменты не связаны с учетными записями пользователей в рамках процесса рецензирования, и рецензентам предлагается не расшифровывать фоновые разговоры или другие шумы, а расшифровывать только те фрагменты, которые направлены в Google».

Google также признал то, что он называет «ложным принятием» — случаи, когда помощник думает, что услышал слова пробуждения, и начинает запись, когда на самом деле команда триггера никогда не давалась. Это могло бы объяснить 153 непреднамеренных записи, но это значительное число при размере выборки в 1000 человек. Так что экстраполируйте это, и это не очень хорошо выглядит. Кроме того, политика Google гласит, что в Google отправляются только предполагаемые записи, что явно не так.

Так что ты можешь сделать? Вы можете отключить сохранение аудиоданных в своей учетной записи Google, если хотите, или вы можете автоматически удалять ваши данные каждые три или 18 месяцев. Google пообещал, что будет «рассматривать возможности», чтобы уточнить, как используются данные. О времени тоже.