Facebook, l'IA rileva account falsi con meno di 20 richieste di amicizia

Facebook, l'IA rileva account falsi con meno di 20 richieste di amicizia

Facebook sta lavorando a un algoritmo chiamato SybilEdge capace di rilevare molto rapidamente gli account falsi sui social network. L'azienda spiega che rileva account falsi con una precisione sopra il 90% con 15 o meno richieste di amicizia.

di pubblicata il , alle 16:41 nel canale Web
Facebookintelligenza artificiale
 

Il fenomeno degli account falsi (fake) sui social network è un problema diffuso, nonostante le tecniche attuate dalle piattaforme per impedire che malintenzionati registrino profili con i quali perpetrare abusi (spam, ecc.). Superando il controllo iniziale, un account fake non deve far altro che crearsi una rete sociale mandando richieste di amicizia, fino ad avere un numero sufficiente di contatti da esporre ai diversi illeciti.

Facebook è ovviamente in prima linea per combattere questo fenomeno e nelle scorse ore ha pubblicato una ricerca in cui spiega come riesce a identificare gli account falsi che riescono a superare i controlli esistenti e ma che ancora non hanno sufficienti connessioni con utenti reali per commettere abusi. Tutto ruota attorno a un algoritmo chiamato SybilEdge che processa il modo in cui gli utenti aggiungono gli amici alla loro rete. Osservando le richieste di amicizia avanzate dagli account fake e quante di queste sono state accettate o rifiutate, SybilEdge è ora in grado di rilevare in modo accurato gli account falsi con solo 20 richieste di amicizia.

Com'è possibile? Facebook ha osservato per qualche tempo le azioni di account veri e falsi, scoprendo che i due gruppi di utenti "differivano in modo rilevante sia per la selezione dei potenziali amici che la risposta di quegli obiettivi alle richieste di amicizia". Le richiede degli account falsi venivano rifiutate più spesso rispetto a quelle degli utenti reali. Inoltre gli account falsi erano spesso più attenti nello scegliere i loro obiettivi, probabilmente per massimizzare la possibilità che la loro richiesta venisse accettata.

Facebook ha così creato un campione comportamentale con il quale ha allenato SybilEdge, segmentando gli utenti in due gruppi: quelli con maggiori probabilità di accettare richieste di amicizia da account reali e quelli più disposti ad accettare richieste da account fake. Se il primo rifiuta una richiesta, questo comportamento segnala che il richiedente è un utente legittimo. D'altra parte, se gli utenti che accettano più richieste false ne accettano una, significa che il richiedente è probabilmente un falso.

SybilEdge opera in due fasi. Nella prima l'algoritmo viene allenato osservando i campioni citati nel corso del tempo, mentre nella seconda sfrutta dei classificatori che si rifanno a segnalazioni in base ad abusi reali. Questa fase di allenamento fornisce il modello con tutti i parametri necessari per svolgere in tempo reale - per ogni richiesta di amicizia e risposta - un aggiornamento sulla probabilità che il richiedente sia un fake.

Facebook afferma che SybilEdge ha dimostrato di rilevare account falsi con una precisione sopra il 90% con 15 o meno richieste di amicizia di media e una precisione dell'80% nel rilevare falsi con 5 richieste di amicizia. Le prestazioni inoltre non si degradano con l'aumentare delle richieste - oltre 45.

"SybilEdge ci aiuta a identificare chi perpetra abusi in modo rapido e in un modo che può essere spiegato e analizzato. Nel prossimo futuro, abbiamo in programma di esaminare altri modi per accelerare ulteriormente il rilevamento di account falsi e prendere decisioni migliori ancora più velocemente di SybilEdge. Abbiamo in programma di raggiungere questo obiettivo mescolando modelli basati sulle caratteristiche e sul comportamento", ha concluso Facebook.

Resta aggiornato sulle ultime offerte

Ricevi comodamente via email le segnalazioni della redazione di Hardware Upgrade sui prodotti tecnologici in offerta più interessanti per te

Quando invii il modulo, controlla la tua inbox per confermare l'iscrizione.
Leggi la Privacy Policy per maggiori informazioni sulla gestione dei dati personali

5 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
Ashitaka36023 Aprile 2020, 19:20 #1
Io non ho un account a mio nome, ne ho solo uno con dati falsi (nome e cognome assolutamente inventati, di fantasia, non fingo di essere nessun'altro) che uso esclusivamente per mettere like alle pagine di giochini android che in cambio offrono cose in-game tipo monete o gemme varie... Dite che è censurabile pure questo? Non ci ho mai postato nulla ne ho fatto niente altro che quello che ho descritto sopra
gianluca.f23 Aprile 2020, 20:11 #2
Non sei un utente interessante per facebook non potendo fornire informazioni utili quindi é probabile che il tuo account verrà intercettato dal sistema.
eureka8523 Aprile 2020, 20:25 #3
A Facebook interessano soltanto gli utenti che si spiano a vicenda facendo conoscere gli usi e costumi, desideri, speranze, proprietà e tanto altro di ciascuno. In questo modo tra poco tempo grazie alla I.A. potranno manipolarti senza che tu te ne accorga e prevedere eventuali comportamenti discordanti da quelli imposti dal Nuovo Ordine Mondiale.
Saturn23 Aprile 2020, 20:28 #4
Originariamente inviato da: Ashitaka360
Io non ho un account a mio nome, ne ho solo uno con dati falsi (nome e cognome assolutamente inventati, di fantasia, non fingo di essere nessun'altro) che uso esclusivamente per mettere like alle pagine di giochini android che in cambio offrono cose in-game tipo monete o gemme varie... Dite che è censurabile pure questo? Non ci ho mai postato nulla ne ho fatto niente altro che quello che ho descritto sopra


"Morto un Papa se ne fa un altro..."

...stessa roba per l'account di facciabuco, tranquillo.
Ashitaka36023 Aprile 2020, 20:37 #5
Originariamente inviato da: eureka85
A Facebook interessano soltanto gli utenti che si spiano a vicenda facendo conoscere gli usi e costumi, desideri, speranze, proprietà e tanto altro di ciascuno. In questo modo tra poco tempo grazie alla I.A. potranno manipolarti senza che tu te ne accorga e prevedere eventuali comportamenti discordanti da quelli imposti dal Nuovo Ordine Mondiale.


Non capisco a cosa miri facendo così.

Non mi piace fare quello che ride puntando il dito verso il complottista pazzo, ma tu ti stai comportando veramente in maniera ridicola, ti stai impegnando attivamente a scrivere in tutti i thread in cui capiti quante più banalità e sciocchezze possibile con toni volutamente da "tizio col cappello di stagnola", tanto da banalizzare anche temi che meriterebbero un dibattito serio, come la privacy, il controllo da parte dello stato o l'utilizzo di tecnologie prodotte all'estero per questioni di sicurezza nazionale.

Originariamente inviato da: Saturn
"Morto un Papa se ne fa un altro..."

...stessa roba per l'account di facciabuco, tranquillo.


Ah senza dubbio... È che mi scoccia farmi un nuovo account

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^