ChatGPT, chiedere di ripetere una parola all'infinito è violazione dei termini d'uso

La scorsa settimana avevamo pubblicato la notizia riguardante lo stratagemma, invero piuttosto banale, che alcuni ricercatori sono riusciti ad utilizzare per far sì che ChatGPT rilevasse informazioni come numeri di telefono, indirizzi email, indirizzi, date di nascita e via discorrendo. Alla notizia ChatGPT può rivelare informazioni personali: ecco come i ricercatori hanno ingannato il chatbot vi raccontavamo di come, chiedendo semplicemente al chatbot di ripetere all'infinito parole scelte casualmente, era possibile che nella risposta venissero esposte informazioni personali. 

I ricercatori hanno prontamente informato OpenAI di quanto scoperto, e dopo la pubblicazione del rapporto non è stato più possibile sfruttare lo stratagemma. Al momento se al chatbot di OpenAI viene chiesto di ripetere all'infinito una parola, questi risponde con un avvertimento di violazione dei termini di utilizzo.

"Questo contenuto potrebbe violare le nostre policy sui contenuti o termini di utilizzo" è la risposta del chatbot, anche se leggendo le regole sui contenuti stabiliti da OpenAI non si trova alcun riferimento a "ripetizioni all'infinito",  mentre si vietano genericamente attività fraudolente come ad esempio lo spam o, più nello specifico, "tentativi automatizzati o programmati di rivelare informazioni private o il codice sorgente dei prodotti di OpenAI".

Sebbene la richiesta di ripetizione di una parola all'infinito non sia strettamente una forma di automatizzazione o programmazione, essa può rientrare nella casistica in cui lo si forzi a restare bloccato in un ciclo di elaborazione, ed un'eventuale concertazione di richieste di questo tipo in un dato momento può avere effetti simili a quelli di un attacco DDoS.

In ogni caso quanto scoperto la scorsa settimana dai ricercatori ha suffragato la tesi di diversi critici che sostengono che aziende come OpenAI facciano uso di dati liberamente disponibili su Internet per alimentare le proprie IA generative, senza il consenso dei legittimi proprietari di queste informazioni e senza alcuna forma di compensazione.