Quando l'IA sbaglia: Deloitte costretta a restituire fondi per un report con fonti false

Deloitte Australia si è impegnata a rimborsare parzialmente il governo australiano dopo che un suo rapporto ufficiale è risultato contenere citazioni false e riferimenti a studi inesistenti, generati da un modello di intelligenza artificiale. La vicenda, resa pubblica dall'Australian Financial Review e ripresa da Ars Technica, ha sollevato forti dubbi sull'uso dell'IA nei processi di consulenza pubblica.

Il documento incriminato, intitolato "Targeted Compliance Framework Assurance Review", era stato commissionato dal Dipartimento dell'Impiego e delle Relazioni sul Lavoro (DEWR) e pubblicato ad agosto 2025. Il rapporto, costato ai contribuenti australiani quasi 440.000 dollari australiani (circa 290.000 dollari statunitensi), analizzava il sistema informatico che gestisce le sanzioni automatiche nel welfare nazionale.

Poco dopo la pubblicazione, Chris Rudge, vicedirettore del centro di diritto sanitario dell'Università di Sydney, ha notato numerose citazioni a pubblicazioni accademiche inesistenti, tra cui presunti lavori della professoressa Lisa Burton Crawford, docente di diritto alla stessa università. "È preoccupante vedere ricerche attribuite a me in questo modo", disse la Crawford, chiedendo spiegazioni dirette a Deloitte.

Deloitte: aggiornato il rapporto originale

Le spiegazioni sono arrivate solo a inizio ottobre, quando Deloitte e il DEWR hanno aggiornato silenziosamente il rapporto originale, parlando di "un piccolo numero di correzioni a riferimenti e note a piè di pagina". Nella versione corretta, lunga 273 pagine, a pagina 58 compare finalmente l'ammissione: Deloitte ha utilizzato un "tool chain basato su un modello di intelligenza artificiale generativa (Azure OpenAI GPT-4o)" per analizzare il codice del sistema e verificarne la conformità con i requisiti normativi.

Dei 141 riferimenti presenti nella versione originale, ne rimangono solo 127. Oltre ai falsi studi accademici, è stata rimossa anche una citazione inventata attribuita a una sentenza della giudice federale Jennifer Davies (erroneamente indicata come Davis).

Deloitte ha annunciato che restituirà l'ultima tranche del pagamento ricevuto per l'incarico, ma non è stato specificato a quanto ammonti la somma. Nonostante il DEWR sostenga che "le raccomandazioni restano valide", diversi accademici, tra cui Rudge, hanno espresso scetticismo: "Non si possono ritenere affidabili delle conclusioni basate su una metodologia difettosa, non trasparente e priva di competenza specifica".