Non sappiamo ancora se l'IA ci ruberà il lavoro, ma presto in Nevada deciderà sui sussidi di disoccupazione

Lo stato americano del Nevada potrebbe essere il teatro del primo esperimento dell'uso dell'intelligenza artificiale per velocizzare processi decisionali ad alto impatto. In un documento del Department of Employment, Training, and Rehabilitation (DETR) dello Stato si apprende, infatti, della stipula di un contratto con Google del valore di quasi 1,4 milioni di dollari per utilizzare strumenti IA per accelerare le decisioni e l'emissione di sentenze relative ai ricorsi sui sussidi di disoccupazione richiesti dai cittadini. Il sistema sarà resto operativo nel corso dei prossimi mesi. Le decisioni prese dall'intelligenza artificiale potrebbero determinare l'assegnazione o meno di migliaia di dollari in sussidi di disoccupazione, condizionando in modo sostanziale la vita dei richiedenti.

Il fulcro di questo esperimento è Vertex AI Studio, un servizio cloud di Google che verrà personalizzato per interfacciarsi con il database del DETR in modo da recuperare solamente dati mirati per ottenere "risultati più accurati" ed elaborare decisioni "più personalizzate". Il funzionamento del sistema prevede l'elaborazione automatica delle trascrizioni delle udienze e delle sentenze di appello per disoccupazione raccolte dal DETR. L'IA di Google processerà questi dati, li caricherà sul cloud e li confronterà con i casi precedenti per emettere una sentenza in tempi record. Si parla di appena cinque minuti, contro le tre ore mediamente necessarie a un dipendente statale per eseguire lo stesso compito e, forse, anche con maggior precisione.

Al momento lo stato del Nevada è alle prese con un arretrato di oltre 40 mila ricorsi accumulati durante la pandemia COVID-19 e aggravato dalla carenza di personale. E' chiaro che, almeno sulla carta, la riduzione di 36 volte circa il tempo necessario ad espletare una pratica di ricorso consentirebbe al DETR di smaltire efficacemente le domande arretrate.

I funzionari del DETR, però, si fidano "abbastanza" dell'IA, e hanno deciso di implementare alcune misure di salvaguardia che al momento sono ritenute necessarie in un contesto così delicato. Ogni pratica evasa dall'IA sarà comunque passata alla revisione di un impiegato per verificare la presenza di eventuali errori, di pregiudizi o di decisioni sbagliate a causa di qualche "allucinazione" dell'IA. Del resto le linee guida elaborate dallo stato del Nevada per l'uso di questi sistemi stabiliscono un uso etico, equo e trasparente e la stessa Google si è impegnata a collaborare strettamente con lo Stato per "identificare qualsiasi potenziale pregiudizio".

Se la sentenza stabilita dall'IA viene approvata dall'impiegato, la pratica viene approvata, firmata ed emessa con pieno valore. In caso contrario sarà compito dell'impiegato modificare la decisione e fornire un resoconto al DETR perché si possa far luce sulle cause dell'errore.

Se il DETR, come detto, vede da un lato il potenziale e l'opportunità di accelerare l'accesso ai sussidi per i cittadini aventi diritto, e quindi migliorare la loro qualità della vita, inevitabilmente la decisione non ha mancato di destare qualche perplessità. Anzi, è proprio l'aspetto della "velocità" che solleva preoccupazione: sotto la pressione di evadere pratiche il prima possibile, anche i dipendenti chiamati a validare le sentenze dell'IA potrebbero operare frettolosamente, mancando di controllare adeguatamente l'eventuale presenza di errori.

Secondo i giuristi del lavoro e gli avvocati che si sono interessati alla vicenda, l'impiego dell'IA potrebbe inoltre togliere potere al richiedente di ricorrere in appello contro una decisione sbagliata in sede di procedimento civile. Secondo le norme in vigore in USA, un tribunale distrettuale non può sostituire la propria sentenza a quella dell'arbitro d'appello (che in questo caso è rappresentato dal DETR e dalla sua IA) e una revisione umana superficiale potrebbe convalidare una sentenza dell'IA che non sarebbe impugnabile in sede giudiziaria.

La presenza dei revisori umani è, al momento, indispensabile. Non è solo il DETR ad esercitare cautela (e lo stesso direttore del DETR ha ammesso di aver vissuto con una certa apprensione la stipula del contratto), ma è la stessa Google che ammette con trasparenza che nessuno dei suoi modelli di IA può garantire una completa accuratezza. Il colosso di Mountain View raccomanda un monitoraggio continuo post-implementazione, riconoscendo che sicuramente si verificheranno dei problemi. Alcuni recenti studi condotti dai ricercatori di Stanford hanno mostrato che generalmente, non specificatamente in riferimento a Google, i modelli IA forniscono risposte errate o fuorvianti tra il 17% e il 33% dei casi, e risposte incomplete tra il 18% e il 63%.

Il DETR sta già pensando a possibili altri impieghi per l'IA, come la gestione delle domande di base nei call center o per aiutare le persone a trovare un impiego. L'iniziativa rappresenterà comunque un esperimento interessante non solo per lo stato del Nevada, ma per tutta l'America in generale e anche per altre realtà e giurisdizioni.

Nel frattempo non si può non notare una sottile ironia nel fatto che molto presto, da qualche parte nel mondo, vi sarà un'intelligenza artificiale a decidere le sorti del sussidio di disoccupazione di un ex-impiegato che, magari, si è visto sottrarre il lavoro proprio da un'intelligenza artificiale. L'auspicio è che almeno la sentenza non sia emessa dalla stessa IA che suggerisce di usare la colla sulla pizza...