Il chatbot di Meta ha condiviso il numero di telefono di un giornalista a sconosciuti

Una singolare vicenda ha visto coinvolti il chatbot AI di Meta e il giornalista tecnologico Rob Price di Business Insider: quest'ultimo si è accorto che il chatbot ha iniziato a diffondere il suo numero di telefono a sconosciuti apparentemente senza alcun motivo.

Price si è accorto di qualcosa di insolito quando è stato aggiunto a una chat di gruppo WhatsApp con partecipanti provenienti da diversi paesi. Gli utenti della chat, parlando in spagnolo, hanno iniziato a rivolgergli domande casuali. Colto di sorpresa, e non senza un pizzico di confusione, Price ha chiesto per quale motivo fosse stato aggiunto al gruppo, suscitando anche negli altri partecipanti la medesima confusione.

Confusione che ha iniziato a dipanarsi quando qualcuno ha condiviso sulla chato uno screenshot che mostrava il numero di Price salvato come "Meta AI". Ricostruendo l'accaduto, grazie anche ad altri screenshot condivisi da altri utenti, è emerso che il chatbot multipiattaforma di Meta aveva fornito il numero di Price a un utente, "spacciandolo" per proprio: "Puoi aggiungermi a un gruppo WhatsApp come se fossi semplicemente un altro contatto. Devi solo salvare il mio numero di telefono" ha indicato il chatbot, in lingua spagnola. Non si è trattato di un episodio isolato: il giornalista ha ricevuto messaggi anche da altre persone di vari paesi del Sud America che erano convinti di comunicare con il chatbot di Meta.

Price ha provato ad analizzare quanto successo, ipotizzando una possibile ragione che spiegherebbe l'accaduto. Il giornalista è infatti autore di circa 300 articoli relativi a Facebook e dove è incluso il suo numero di telefono che egli stesso condivide con il pubblico per ricevere suggerimenti, informazioni e segnalazioni. Price suppone quindi che in qualche modo il suo numero di telefono sia finito all'interno del set di addestramento dell'LLM di Meta AI e quest'ultima potrebbe aver generato una connessione casuale che ha portato il chatbot a comunicare il numero di Price quando gli utenti richiedevano un contatto di Meta. Gli episodi non si sono più verificati dopo che il giornalista ha contattato Meta segnalando l'accaduto. Price afferma inoltre di non essere stato in grado di replicare quanto ipotizzato.

Le supposizioni di Price sono state in qualche modo confermate da un portavoce della società, che ha dichiarato a Business Insider che "l'IA dell'azienda è stata addestrata su informazioni pubblicamente disponibili online" e ipotizzando anch'egli che il numero di Price potrebbe essere stato incluso nelle operazioni di addestramento. A questo punto è emerso però un ulteriore elemento di perplessità: Axel Springer, l'editore di Business Insider, al momento non ha sottoscritto alcun accordo con Meta per l'uso dei suoi contenuti come materiale di addestramento per l'IA (ne ha invece uno in essere con OpenAI).