“Tuhannet” Amazonin työntekijät kuuntelevat Alexan nauhoituksia
Tekoälyn parantaminen edellyttää ihmisen panosta – minkä vuoksi Amazonilla on kuulemma tuhansia työntekijöitä kuuntelemassa Alexan äänitallenteita.
Bloombergin raportti väittää, että Amazonilla on äänitarkistusohjelma, joka koostuu kokopäiväisistä työntekijöistä ja urakoitsijoista ympäri maailmaa ja jonka tehtävänä on kuunnella Echon ja muiden Alexa-laitteiden tallentamia äänitteitä. Nämä tallenteet litteroidaan ja analysoidaan Alexan älykkyyden parantamiseksi – yleinen käytäntö puheäly-yrityksissä.
Lue tämä: Lopullinen opas Amazon Alexaan
Bloombergille puhuneiden sisäpiiriläisten mukaan Amazonille tarkistettavaksi lähetettävät tallenteet liittyvät kuitenkin käyttäjän etunimeen, tilinumeroon ja laitteen sarjanumeroon. Tässä mietinnöstä tulee varsin tuhoisa. Amazonin AI-koulutusohjelma ei ole ainutlaatuinen – Apple tekee saman asian Sirin kanssa – mutta kaikki käyttäjän tunnistavat tiedot poistetaan yleensä tiedoista, kuten Applenkin kohdalla.
Raportissa on myös tiimin jäseniä, jotka muistelevat kuulemiaan tallenteita, kuten suihkussa laulavaa naista, lapsen huutamista ja epäiltyjä seksuaalisia häiriöitä. Jälleen, aivan kamalaa, näiden työntekijöiden kerrotaan jakavan osan näistä tallenteista sisäisessä chat-huoneessa, kun he tarvitsevat apua vaikeasti purettavan tallenteen jäsentämisessä.
Uusi Alexa 2020 -laitteisto paljastettiin
- Amazon Echo 2020 malli
- Amazon Echo Dot (4. sukupolvi)
- Amazon Echo Show 10
- Uusia ominaisuuksia tulossa Alexalle
Vastauksena Amazon kertoi Bloombergille, että "erittäin pieni näyte Alexan äänitallenteita" käytettiin sen tekoälyn kouluttamiseen.
""Meillä on tiukat tekniset ja toiminnalliset suojatoimet, ja meillä on nollatoleranssi järjestelmän väärinkäyttöä kohtaan", yhtiö myös sanoi. "Työntekijöillä ei ole suoraa pääsyä tietoihin, jotka voivat tunnistaa henkilön tai tilin osana tätä työnkulkua. Kaikki tiedot käsitellään erittäin luottamuksellisesti ja käytämme monitekijätodennusta pääsyn rajoittamiseen, palvelun salausta ja valvontaympäristömme tarkastuksia suojataksemme. se."
Jälleen, vaikka ihmisten käyttö tekoälyn kouluttamiseen ei ole luonnostaan ilkeää, tässä on huolestuttava mahdollinen väärinkäyttö, erityisesti Amazonin ilmoittama epäonnistuminen anonymisoida käyttäjien tietoja kunnolla.