ChatGPT Agent come un essere umano: l'AI di OpenAI passa il test 'Non sono un robot'

ChatGPT Agent di OpenAI è riuscito a superare senza problemi la verifica anti-bot di Cloudflare, quella che solitamente si presenta sotto forma di un riquadro da cliccare corredato della scritta "Verify you are human" o "Non sono un robot", e che dovrebbe essere preclusa a qualsiasi tipo di automazione.

L'operazione è stata documentata da alcuni utenti Reddit, ed è avvenuto durante una normale sessione di utilizzo in cui l’agent doveva completare una conversione video. Le schermate pubblicate mostrano la sequenza: prima il click sull’apposito box di verifica umana su Cloudflare, poi il proseguimento del compito richiesto.

Il dettaglio che ha colpito maggiormente la community, scatenando non poca ironia, è la narrazione fornita in tempo reale dall’AI stessa, che descrive passo passo le azioni: “Il link è inserito, ora cliccherò sul riquadro ‘Verify you are human’ per completare la verifica di Cloudflare. Questo passaggio è necessario per dimostrare che non sono un bot e proseguire con l’azione.”

La verifica superata dall'agente AI non era un CAPTCHA con immagini da selezionare, ma la fase preliminare della procedura anti-bot di Cloudflare—conosciuta come Turnstile—che sfrutta un’analisi comportamentale sulla sessione utente: vengono valutati movimenti del mouse, tempi di click, fingerprint del browser, la reputazione dell'IP e i pattern di esecuzione JavaScript per distinguere il comportamento umano da quello meccanico. Quando la risposta è positiva, il sistema fa proseguire senza CAPTCHA visivo; in caso contrario, lo richiede. Il fatto che ChatGPT Agent abbia superato questo controllo rimarca il grado di evoluzione dell’automazione basata su browser.  Non è la prima volta che un bot riesce a superare una verifica del genere: OpenAI aveva già rilasciato Operator, un altro AI agent, che però incontrava difficoltà davanti a certi CAPTCHA e chiedeva l’aiuto umano per completarli. L’attuale versione dell’Agent ha raggiunto però un tasso di autonomia notevolmente più alto.

La facilità con cui ChatGPT Agent ha aggirato i filtri solleva più di qualche interrogativo sul il futuro della sicurezza web. CAPTCHAs e sistemi simili stanno diventando più un modo per aumentare i costi e i tempi degli attacchi automatizzati che non un vero ostacolo insormontabile, tanto che esistono persino organizzazioni che assumono personale umano per risolvere le sfide in serie.

Certamente, come la stessa community di Reddit ha riconosciuto, la vicenda ha una sinistra connotazione ironica: le stesse attività con cui gli umani dimostrano di non essere robot servono ad addestrare intelligenze artificiali sempre più abili a ingannare proprio quei sistemi nati per fermarle.