Amazon Alexa, migliaia di dipendenti ascoltano le conversazioni degli utenti

Amazon Alexa, migliaia di dipendenti ascoltano le conversazioni degli utenti

Amazon non utilizza solo l'Intelligenza Artificiale per migliorare continuamente le tecnologie alla base di Alexa, ma anche un team di dipendenti in carne ed ossa che ascoltano estratti di conversazioni fra gli utenti e l'assistente virtuale

di pubblicata il , alle 19:01 nel canale Sicurezza
Amazon
 

Se pensavate di essere gli unici a sapere gli argomenti delle vostre conversazioni con Alexa vi stavate sbagliando. Secondo quanto sottolineato in un recente articolo del Bloomberg Amazon avrebbe migliaia di lavoratori in tutto il mondo che ascoltano estratti degli scambi di battute fra gli utenti e l'assistente virtuale, con l'obiettivo di migliorare continuamente la qualità delle risposte.

La compagnia dà lavoro a impiegati "da Boston alla Costa Rica, in India come in Romania" per ascoltare le registrazioni vocali fatte dagli utenti mentre usano Alexa con gli speaker della famiglia Echo. Gli impiegati ascoltano e trascrivono in testo le parole, prima di dare il tutto in pasto ad un software che analizza i flussi audio e le annotazioni con il fine ultimo di migliorare le abilità dell'assistente.

La fonte ha intervistato sette degli impiegati che hanno lavorato nel programma, e ciascuno di loro ha ammesso di aver firmato un patto di segretezza con l'azienda americana per non rivelare pubblicamente il processo umano alla base dell'opera di miglioramento della tecnologia. Amazon scrive sul sito ufficiale che utilizza le richieste degli utenti per effettuare il training dei sistemi di riconoscimento vocale e migliorare i sistemi di rilevamento del linguaggio naturale.

Tuttavia fino ad oggi si è sempre pensato che alla base del processo ci fossero solo computer, e non esseri umani. I due impiegati di Bucarest intervistati hanno sottolineato che avevano a che fare con circa 1000 clip audio nel turno giornaliero tipico di 9 ore, all'interno di un'attività lavorativa che è stata indicata come "per lo più banale". Le clip a volte venivano condivise al fine di collaborare per risolvere un problema, ma a volte si condividevano anche registrazioni divertenti all'unico scopo di divertimento.

In alcuni casi i "revisori" hanno avuto modo di ascoltare registrazioni effettuate durante la messa in atto di atti criminali, non potendo però essere direttamente coinvolti o interagire con le stesse. Amazon Alexa è stato lanciato con il primo Echo nel 2014 e, a seguire, Google, Apple e altri sono scesi nel carro del nuovo segmento di mercato con tecnologie simili. Non è chiaro, però, se anche le altre compagnie utilizzino gli stessi sistemi per migliorare l'efficacia delle risposte, e se gli esseri umani siano presenti all'interno del processo.

Ad oggi gli assistenti virtuali sono nelle prime fasi dello sviluppo, e fanno fatica ad esempio a riconoscere accenti, forme dialettali, e storpiature nel linguaggio. Questi problemi hanno costretto i team di sviluppo a inventarsi nuove metodiche per migliorare le prestazioni generali delle tecnologie, ma il nuovo report di Bloomberg probabilmente porterà le associazioni dei consumatori a richiedere maggiore trasparenza sulle varie fasi di sviluppo dei software della categoria.

Amazon ha ovviamente commentato riguardo alle scoperte di Bloomberg e ha dichiarato: "Abbiamo molto a cuore la sicurezza e la privacy delle informazioni personali dei nostri utenti. Annotiamo solo piccolissimi estratti delle registrazioni vocali di Alexa al fine di migliorare l'esperienza per il cliente. Ad esempio queste informazioni ci aiutano ad allenare il sistema di riconoscimento della voce e i sistemi di riconoscimento del linguaggio naturale in modo che Alexa possa capire meglio le richieste degli utenti e garantire un buon funzionamento per tutti".

In aggiunta, Amazon ha dichiarato di aver messo in atto "regole tecniche e operative molto restrittive", e che è applicata "tolleranza zero per qualsiasi abuso dei sistemi".

Resta aggiornato sulle ultime offerte

Ricevi comodamente via email le segnalazioni della redazione di Hardware Upgrade sui prodotti tecnologici in offerta più interessanti per te

Quando invii il modulo, controlla la tua inbox per confermare l'iscrizione.
Leggi la Privacy Policy per maggiori informazioni sulla gestione dei dati personali

58 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
giovanni6911 Aprile 2019, 23:12 #1
La privacy? E' cosa del secolo scorso ci vogliono far credere. Chi se ne importa se dal salotto siamo spiati mentre conversiamo per il piacere di migliorare i servizi di un società che permette di ordinare comodamente articoli dal divano....? Bevenuti nel 2019
X360X11 Aprile 2019, 23:47 #2
certamente gli si dicono infinitamente meno cose che a all'assistente google sul telefono, perché insomma non è in realtà che sia tutta questa utilità se non per i classici comandi: alzare\abbassare il volume, accendere\spegnere\regolare i vari dispositivi intelligenti, mettere un timer\sveglia, decidere la musica\radio, farsi dire il sommario notitizie.
poi bo se c'è chi ci dialoga non so cosa gli chiede

ma trovo lo stesso del tutto scorretto che è attiva di default l'opzione per migliorare il servizio...senza dire nulla.
kliffoth11 Aprile 2019, 23:52 #3
Originariamente inviato da: giovanni69
La privacy? E' cosa del secolo scorso ci vogliono far credere. Chi se ne importa se dal salotto siamo spiati mentre conversiamo per il piacere di migliorare i servizi di un società che permette di ordinare comodamente articoli dal divano....? Bevenuti nel 2019


Sei obbligato a fare entrare a casa tua questa roba?
Sei obbligato ad usare auto che informano la casa madre di ogni tuo passo?
Sei obbligato a connettere ad internet anche lo scopettone del cesso?

Io, pur da amante della tecnologia, preferisco tenere certi ambiti fuori dalla rete.
Tutto l'IOT è inutile e si presta allo sfruttamento, ma sono cose note.
Solo che fa figo avere tutto connesso, accendere con un rutto le luci di casa ed ordinare una pizza con una scorreggia.
Le Tesla (qui dove sono io) si acquistano anche per prestigio, nessuno pensa al costo in temini di privacy.
Ci piace fare i fighi e ridere...ridete e fate i fighi.

Per inciso, ho preso uno smartphone per costrizione, ma fino allo scorso anno vivevo felicemente e spendendo MOLTO meno (circa 10-15 euro al mese contro i 75 di ora ... ah già mi piace telefonare alla gente per incontrarla di persona e non uso i social) con un semplice cellulare di altri tempi - Nokia/Microsoft C2-05, ne ho 3 che uso come sveglie

EDIT Mai usato l'assistente del telefono. Mai dato i permessi a tutto l'ecosistema Huawei del mio telefono (Cloud, Health e tutto il resto, la sveglia me la regolo dal letto la notte prima di addormentarmi - che poi sono i miei Nokia C2-05-, le notizie le cerco pigiando i tasti di una tastiera e a volte leggendo i giornali in vera carta 3d, il mio cloud è il mio nas etc etc)
giovanni6911 Aprile 2019, 23:55 #4
No, non è un discorso di obbligo ma di sottile differenza tra ciò che viene proposto commercialmente come strumenti per agevolare le interazioni commerciali tra utente finale ed Amazon e la differenza tra la sfera delle comunicazioni umane all'interno di una famiglia che può invece rientrare all'interno del concetto di privacy. E' questo intreccio di cui si rischia da tempo di perdere il bandolo della matassa, tra omissioni e buchi legislativi, princìpi civici che vengono dimenticati in nome della comodità, nuove generazioni, esigenze tecnologiche e....bugie dei FANG.

Originariamente inviato da: X360X
[...]

ma trovo lo stesso del tutto scorretto che è attiva di default l'opzione per migliorare il servizio...senza dire nulla.


Così come per anni le immagini e video salvate nei cloud sono state utilizzate per addestrate learning machine, OCR, ecc grazie ad EULA che quasi nessuno legge o comprende. In quei casi anche se è stato scritto, a nessuno importa cedere i diritti d'uso delle immagini della propria famiglia, luoghi, eventi, commemorazioni, compleanni, vita pubblica e privata... ecco come siamo messi, per il piacere della comodità dei servizi.
X360X12 Aprile 2019, 00:05 #5
Originariamente inviato da: giovanni69
No, non è un discorso di obbligo ma di sottile differenza tra ciò che viene proposto commercialmente come strumenti per agevolare le interazioni commerciali tra utente finale ed Amazon e la sottile differenza tra la sfera delle comunicazioni umane all'interno di una famiglia che può invece rientrare all'interno del concetto di privacy.


Loro devono solo rispettare quello che dicono (non fare partire registrazioni senza il comando) e dire chiaramente se si accetta vengano esaminati dei campioni, invece di attivare l"opzione per farlo di default che sta pure un po"' nascosta

Poi il resto va benissimo così, personalmente mi prendo tutte le comodità del caso senza farmi problemi nel dare stupidi comandi che nulla hanno di personale (quando poi Amazon ha già tutti i dati, carte, preferenze su tutto...se si utilizzano i loro servizi questo è, Alexa è quella a cui probabilmente si dice niente di personale, a meno che qualcuno la usi alla Google per dire...ma dubito sia decente in tal senso)
Ciche12 Aprile 2019, 08:58 #6

Una normale fase di debug

Sono l'unico che non ci vede nulla di male? Se io chiedo qualche cosa ad Alexa e lei risponde "non ho capito", mi sembra logico che questa frase vada elaborata da un "umano" per capire come mai alexa non ha appunto capito cosa gli chiedevo.
Questo allo scopo di migliorare il prodotto etc.
Lo "scandalo" sarebbe stato se gli operatori di Amazon potevano, a loro piacere, aprire l'audio da remoto di un Alexa, e sentire in tempo reale tutte le conversazioni.
Ripeto, da programmatore mi sembra una cosa normalissima. Anche io da programmatore loggo tutte le attività che l'utente fa nell'applicazione, in modo da poi guardarle in caso di problematiche. Le note vocali sono "log" per Alexa.
giovanni6912 Aprile 2019, 09:04 #7
D'accordo, ma come giustamente dice X360X , la visione di questi log dovrebbe essere esplicitamente accettata dall'utente finale (avviene nell'EULA? on uso Alexa ) come il dipendente implicitamente si sottomette a tale controllo quando ti passa i log.

Originariamente inviato da: X360X
e dire chiaramente se si accetta vengano esaminati dei campioni, invece di attivare l"opzione per farlo di default che sta pure un po"' nascosta


Purtroppo fino a che non viene disciplinata la trasparenza in modo che sia visibile, comprensibile e gestibile anche da un bambino, con multe pesanti ma soprattutto inibizioni commerciali (altrimenti diventa solo un costo industriale calcolato), per loro è tutta telemetria da gestire. La stessa cosa la vediamo da anni nelle app degli smartphone e nei SaaS come Windows 10.
TigerTank12 Aprile 2019, 09:34 #8
Io sinceramente faccio tranquillamente a meno di dispositivi del genere. preferisco ancora la gestione manuale di certe cose casalinghe in prima persona...così come ad esempio trovo più soddisfazione a guidare con il cambio manuale
Anche perchè più ti abitui agli automatismi, più ti trovi in difficoltà la volta che si guasta qualcosa.
Per cui sinceramente di avere in casa una IA che mi fa da maggiordomo, al momento non mi interessa affatto, al di là della mia passione informatica.
CYRANO12 Aprile 2019, 09:41 #9
Che mi frega non penso capiscano il dialetto vicentino



Cò,sò,sòsòmddl
Rigetto12 Aprile 2019, 10:09 #10
Originariamente inviato da: kliffoth
Sei obbligato a fare entrare a casa tua questa roba?
Sei obbligato ad usare auto che informano la casa madre di ogni tuo passo?
Sei obbligato a connettere ad internet anche lo scopettone del cesso?

Io, pur da amante della tecnologia, preferisco tenere certi ambiti fuori dalla rete.
Tutto l'IOT è inutile e si presta allo sfruttamento, ma sono cose note.
Solo che fa figo avere tutto connesso, accendere con un rutto le luci di casa ed ordinare una pizza con una scorreggia.
Le Tesla (qui dove sono io) si acquistano anche per prestigio, nessuno pensa al costo in temini di privacy.
Ci piace fare i fighi e ridere...ridete e fate i fighi.

Per inciso, ho preso uno smartphone per costrizione, ma fino allo scorso anno vivevo felicemente e spendendo MOLTO meno (circa 10-15 euro al mese contro i 75 di ora ... ah già mi piace telefonare alla gente per incontrarla di persona e non uso i social) con un semplice cellulare di altri tempi - Nokia/Microsoft C2-05, ne ho 3 che uso come sveglie

EDIT Mai usato l'assistente del telefono. Mai dato i permessi a tutto l'ecosistema Huawei del mio telefono (Cloud, Health e tutto il resto, la sveglia me la regolo dal letto la notte prima di addormentarmi - che poi sono i miei Nokia C2-05-, le notizie le cerco pigiando i tasti di una tastiera e a volte leggendo i giornali in vera carta 3d, il mio cloud è il mio nas etc etc)



Ti sei appena meritato una birra ghiacciata!

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^