Project Artemis: lo strumento di Microsoft per cercare segni di adescamento dei minori nei log delle chat

Project Artemis: lo strumento di Microsoft per cercare segni di adescamento dei minori nei log delle chat

Uno strumento che grazie all'AI cerca segnali di online grooming all'interno delle chat, che possono essere ulteriormente verificati per allertare le autorità

di pubblicata il , alle 14:01 nel canale Web
Microsoft
 

L'avvento di Internet ha costituito una vera e propria rivoluzione per la società nel suo complesso, che ha conocsciuto nuovi modi di interazione e sterminate possibilità di accesso all'informazione. Ovviamente come sempre accade in questi casi gli elementi positivi sono accompagnati da un inevitabile rovescio della medaglia: la rete ha permesso agli individui senza scrupoli di portare avanti attività illecite, talvolta anche inedite, in pieno anonimato.

Microsoft con il nuovo Project Artemis vuole cercare di elevare la battaglia in un campo particolare, quello dello sfruttamento e abuso sessuale dei minori che avviene online e che rappresenta un problema di lungo corso per le autorità e per le società che operano sulla rete in qualità di fornitori di connettività o di servizi di comunicazione.

Si tratta di uno strumento basato su intelligenza artificiale che ha lo scopo di analizzare i log di chat di testo per individuare eventuali segni di "online grooming" ovvero quella pratica che comprende tecniche di approccio verso i bambini per infondere loro un falso senso di sicurezza e familiarità e abusare poi di loro online in un secondo momento.

Una parte significativa di questa pratica consiste proprio nel chattare con i bambini, il che rappresenta un terreno di caccia particolarmente ghiotto per l'intelligenza artificiale di Microsoft. La società non si dilunga nei dettagli tecnici, e spiega semplicemente che chi vorrà usare la tecnologia potrà individuare se nei log delle chat vi siano elementi da inviare ad un revisore umano per un controllo approfondito ed, eventualmente, allertare le autorità.

Microsoft rivela di aver utilizzato questa tecnologia per anni su Xbox e pianifica ora di utilizzarla anche per Skype. La tecnologia Project Artemis viene fornita in licenza anche a Thorn, una società non-profit che ha l'obiettivo di realizzare tecnologie per combattere l'abuso sessuale di minori.

Si tratta di una tecnologia che ovviamente può far nascere qualche perplessità, in quanto facilmente può violare la privacy dell'utente. Ma del resto il confine tra privacy, diritto all'anonimato e attività illegali ha sempre rappresentato un argomento spigoloso. Un equilibrio adeguato è ovviamente necessario quando si mette uno strumento del genere nelle mani di società private.

Resta aggiornato sulle ultime offerte

Ricevi comodamente via email le segnalazioni della redazione di Hardware Upgrade sui prodotti tecnologici in offerta più interessanti per te

Quando invii il modulo, controlla la tua inbox per confermare l'iscrizione.
Leggi la Privacy Policy per maggiori informazioni sulla gestione dei dati personali

9 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
sbaffo11 Gennaio 2020, 15:13 #1
su xbox non so ma probabilmente le chat sono pubbliche, su skype sicuramente no, quindi per intercettarle ci vorrebbe l’autorizzazione preventiva di un giudice, perciò questa pesca a strascico sarebbe impossibile, o mi sfugge qualcosa?
lucusta11 Gennaio 2020, 15:19 #2
accettazione dei termini di servizio.
Marko_00111 Gennaio 2020, 19:13 #3
ha fatto la stessa cosa Apple con le immagini
caricate dai loro clienti nei loro spazi privati
le ha scansionate alla ricerca di pedoporno
appellandosi all'eula accettata al momento dell'attivazione
del servizio
non so se poi abbiano solo provveduto all'eliminazione
o abbiano anche denunciato, come non so se hanno avuto
dei falsi positivi.
sbaffo12 Gennaio 2020, 12:32 #4
@ lucusta
non sapevo che dicessero che possono ascoltare/leggere le tue telefonate/chat private a loro piacimento. Ma tanto nessuno legge i termini quindi possono scrivere qualunque cosa.

Mi ricordo che una decina di anni fa si diceva che skype non era intercettabile perciò era usato dai criminali, mi pare di ricordare addirittura una interrogazione parlamentare di Maroni. Una bufala vista oggi... in effetti anche allora sembrava un honeypot.

@ marko
non la sapevo questa, è recentissima. Alla faccia della privacy di cui apple proclama paladina.
Per fortuna che la pubblicità apple dice “ ciò che accade su iphone resta su iphone “ , ma non su icluod.
Poi però non sblocca i cellulari dei terroristi, mah.
amd-novello12 Gennaio 2020, 15:46 #5
Originariamente inviato da: sbaffo
Poi però non sblocca i cellulari dei terroristi, mah.


se volevano una backdoor che avrebbe fatto bucare ogni idevice esistente bene ha fatto ad ignorarli.

honeypot cos'è?
sbaffo12 Gennaio 2020, 16:17 #6
Originariamente inviato da: amd-novello
honeypot cos'è?

Honeypot sarebbe un vaso di miele, sono dette così le trappole (per hacker di solito). In questo caso invece fanno credere che skype sia sicuro così i malviventi ci si buttano a pesce e parlano liberamente, invece lo intercettano alla grande e sentono tutto.
Poi chiaramente li beccano 'casualmente' in altra maniera per non scoprire la loro fonte, ma sapendo dove andare a cercare.

Girava voce già anni fa che su skype ci fosse un controllo automatizzato che scattava (silenziosamente) con certe parole chiave. Ora lo ammettono chiaramente.
Marko_00113 Gennaio 2020, 09:59 #7
ormai è assodato che lavorano tutti nello stesso modo
con i vari assistenti vocali/servizi di traduzione.
"Secondo un ex appaltatore Microsoft, il programma dell'azienda, che includeva la trascrizione delle registrazioni audio degli utenti dell'assistente vocale Cortana e dell'applicazione Skype, è stato condotto per anni senza misure di sicurezza.
I dipendenti di una società di terze parti con sede a Pechino hanno avuto accesso ai dati degli utenti mentre lavoravano in remoto da casa utilizzando un personal computer.
inviavano dati utente password per l'accesso ad un portale ad-hoc via mail"
penso fosse legato al servizio Skype Translator
origine della notizia il Guardian (via 3dnews.ru)
amd-novello13 Gennaio 2020, 12:18 #8
chissà se danno colpa anche alla ms invece di chi commette il crimine come hanno fatto per quella che ha chiuso per colpa del ransomware.
sbaffo14 Gennaio 2020, 19:49 #9
@ marko
è ben diverso l’esempio degli assistenti/traduttori cortana-alexa-ecc, lì stai parlando a Ms-amazon ecc e lo sai.
Skype invece sono conversazioni tra privati, icluod sono le mie foto personali fatte col mio cellulare poi backuppate sul cluod. Chi mi dice che invece che cercare solo i pedofili non guardino anche le foto della mia ragazza ignuda, o le mie password o altro?

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^