Quando l'IA sbaglia: Deloitte costretta a restituire fondi per un report con fonti false

Quando l'IA sbaglia: Deloitte costretta a restituire fondi per un report con fonti false

Deloitte Australia restituirà parte dei fondi al governo dopo aver ammesso l'uso di GPT-4o in un report ufficiale che conteneva citazioni e fonti inventate. L'errore, scoperto da accademici australiani, ha sollevato dubbi sulla trasparenza e l'affidabilità dell'uso dell'intelligenza artificiale

di pubblicata il , alle 11:23 nel canale Web
Deloitte
 

Deloitte Australia si è impegnata a rimborsare parzialmente il governo australiano dopo che un suo rapporto ufficiale è risultato contenere citazioni false e riferimenti a studi inesistenti, generati da un modello di intelligenza artificiale. La vicenda, resa pubblica dall'Australian Financial Review e ripresa da Ars Technica, ha sollevato forti dubbi sull'uso dell'IA nei processi di consulenza pubblica.

Il documento incriminato, intitolato "Targeted Compliance Framework Assurance Review", era stato commissionato dal Dipartimento dell'Impiego e delle Relazioni sul Lavoro (DEWR) e pubblicato ad agosto 2025. Il rapporto, costato ai contribuenti australiani quasi 440.000 dollari australiani (circa 290.000 dollari statunitensi), analizzava il sistema informatico che gestisce le sanzioni automatiche nel welfare nazionale.

Poco dopo la pubblicazione, Chris Rudge, vicedirettore del centro di diritto sanitario dell'Università di Sydney, ha notato numerose citazioni a pubblicazioni accademiche inesistenti, tra cui presunti lavori della professoressa Lisa Burton Crawford, docente di diritto alla stessa università. "È preoccupante vedere ricerche attribuite a me in questo modo", disse la Crawford, chiedendo spiegazioni dirette a Deloitte.

Deloitte: aggiornato il rapporto originale

Le spiegazioni sono arrivate solo a inizio ottobre, quando Deloitte e il DEWR hanno aggiornato silenziosamente il rapporto originale, parlando di "un piccolo numero di correzioni a riferimenti e note a piè di pagina". Nella versione corretta, lunga 273 pagine, a pagina 58 compare finalmente l'ammissione: Deloitte ha utilizzato un "tool chain basato su un modello di intelligenza artificiale generativa (Azure OpenAI GPT-4o)" per analizzare il codice del sistema e verificarne la conformità con i requisiti normativi.

Dei 141 riferimenti presenti nella versione originale, ne rimangono solo 127. Oltre ai falsi studi accademici, è stata rimossa anche una citazione inventata attribuita a una sentenza della giudice federale Jennifer Davies (erroneamente indicata come Davis).

Deloitte ha annunciato che restituirà l'ultima tranche del pagamento ricevuto per l'incarico, ma non è stato specificato a quanto ammonti la somma. Nonostante il DEWR sostenga che "le raccomandazioni restano valide", diversi accademici, tra cui Rudge, hanno espresso scetticismo: "Non si possono ritenere affidabili delle conclusioni basate su una metodologia difettosa, non trasparente e priva di competenza specifica".

I migliori sconti su Amazon oggi

Bosch Set da 34 Pezzi di punte e bit avvitamento in titanio X-Line (per legno, pietra e metallo, accessori trapano)

9.95€ Compra ora

TCL 55V6C TV 55'' 4K UHD Smart LED TV, 4K HDR, Google TV con design senza bordi (Dolby Audio, Motion Clarity, compatibile con Google Assistant e Alexa)

299.00€ Compra ora

origimagic C4 Mini PC,con Ryzen 5 3550H Processor(fino a 3,7GHz) Light Gaming PC,16GB RAM,512GB SSD,Supporto Triple Display,USB3.2/Doppia Ethernet/Wi-Fi5/BT 5.0,Mini Desktop per Ufficio Domestico

219.00€ Compra ora
4 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
Unrue07 Ottobre 2025, 11:46 #1
Che fagiani, davvero pensavano che nessuno se ne sarebbe accorto?
h.rorschach07 Ottobre 2025, 13:05 #2
Originariamente inviato da: Unrue
Che fagiani, davvero pensavano che nessuno se ne sarebbe accorto?


Intendi come le aziende non si accorgono di pagare la consulenza dieci volte quello che il consulente viene effettivamente pagato?
gnpb07 Ottobre 2025, 13:35 #3
Questo non è importante.
Il consulente che fa parte di una grossa società non si cerca i clienti, non si gestisce le attività di pagamento e recupero crediti, si piglia i vari bonus aziendali (computer, telefono, auto, cene, ecc.) in sostanza non ha i costi di gestione di una sua attività.

Quindi è normale che la società di consulenza per cui lavora venga pagata molto di più di quanto lei paga lui. Del resto se si ritiene sfruttato e pensa di saper fare meglio (e col suo nome di attirare la stessa clientela per es. di Deloitte) può sempre fare il consulente in proprio.

Il problema vero è quando l'azienda paga la consulenza molto più di quanto vale. Per saperlo spesso però ha bisogno di una consulenza esterna

Ah e non dimentichiamo che Deloitte si è comprata quel che rimaneva di Arthur Andersen dopo lo scandalo Enron... Probabilmente qualcuno ha perso il pelo ma non il vizio...
Notturnia07 Ottobre 2025, 21:34 #4
Apperò.. la Deloitte ?.. che bella figura

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^