Un milione di utenti mostra disagio su ChatGPT ogni settimana: la risposta di OpenAI

OpenAI ha pubblicato un rapporto dettagliato sugli sviluppi implementati per migliorare la capacità di ChatGPT di gestire conversazioni legate alla salute mentale. L'azienda ha coinvolto più di 170 esperti tra psichiatri, psicologi e medici di base provenienti da 60 paesi per perfezionare le risposte del chatbot quando gli utenti manifestano segnali di disagio psicologico. L'obiettivo dichiarato è trasformare il sistema in uno strumento capace di riconoscere situazioni critiche e indirizzare le persone verso assistenza professionale nel mondo reale.

Il lavoro svolto ha portato a una riduzione compresa tra il 65% e l'80% delle risposte considerate inadeguate secondo le tassonomie interne dell'azienda. Le aree di intervento prioritarie sono state tre: problemi di salute mentale acuti come psicosi e mania, autolesionismo e pensieri suicidi, e dipendenza emotiva dal chatbot. Secondo quanto dichiarato da OpenAI, il modello è stato addestrato a riconoscere segnali diretti e indiretti di malessere, modulare le conversazioni con maggiore empatia e suggerire il contatto con linee di emergenza quando appropriato.

Le stime presentate dall'azienda offrono una fotografia della diffusione di queste situazioni sulla piattaforma: circa lo 0,07% degli utenti attivi settimanalmente mostra possibili segni di emergenze legate a psicosi o mania, percentuale che corrisponde allo 0,01% dei messaggi totali. Per quanto riguarda i segnali di ideazione suicidaria, le cifre salgono allo 0,15% degli utenti attivi e allo 0,05% dei messaggi. Anche la dipendenza emotiva dal chatbot è stata quantificata, con lo 0,15% degli utenti e lo 0,03% dei messaggi che mostrano livelli potenzialmente preoccupanti di attaccamento al sistema.

La metodologia adottata da OpenAI si articola in cinque fasi: definizione del problema, misurazione iniziale attraverso valutazioni e dati reali, validazione con esperti esterni, applicazione di mitigazioni tecniche e iterazione continua. In questo modo l'azienda può mappare le caratteristiche delle conversazioni sensibili e stabilire parametri chiari per distinguere comportamenti desiderati e indesiderati del modello. Gli esperti hanno analizzato oltre 1.800 risposte generate da modelli diversi, confrontando GPT-5 con le versioni precedenti e registrando miglioramenti sostanziali.

Valutazioni cliniche indipendenti hanno rilevato una diminuzione delle risposte indesiderate compresa tra il 39% e il 52% a seconda della categoria esaminata. Le metriche automatizzate mostrano che GPT-5 raggiunge una conformità superiore al 90% con i comportamenti desiderati nei test strutturati più impegnativi, costruiti appositamente per individuare punti deboli del sistema. OpenAI ha inoltre introdotto interventi a livello di prodotto per aumentare la sicurezza delle interazioni: le conversazioni sensibili provenienti da modelli meno recenti vengono ora reindirizzate automaticamente verso versioni più sicure, mentre promemoria delicati invitano gli utenti a fare pause durante sessioni particolarmente lunghe. L'accesso alle linee telefoniche di emergenza è stato ampliato e integrato direttamente nelle risposte del modello, che ora è in grado di fornire riferimenti specifici in base alla localizzazione geografica dell'utente.

L'aggiornamento ha portato anche all'introduzione di nuove metriche permanenti nel sistema di test di sicurezza di base utilizzato per le future versioni dei modelli. Oltre alle valutazioni di lunga data su suicidio e autolesionismo, ora vengono monitorate sistematicamente anche la dipendenza emotiva e le emergenze di salute mentale non suicidarie. La rarità di queste conversazioni rappresenta una sfida metodologica, visto che le situazioni che richiedono interventi di sicurezza sono estremamente poco frequenti rispetto al volume totale di interazioni sulla piattaforma, rendendo complessa la misurazione accurata e richiedendo tecniche di valutazione specifiche. OpenAI utilizza sia dati provenienti dall'utilizzo reale del sistema sia valutazioni offline strutturate, progettate per concentrarsi su scenari particolarmente difficili o ad alto rischio che potrebbero non emergere con sufficiente frequenza nel traffico normale.

L'azienda - che sta attualmente affrontando una causa legale in materia - riconosce che il lavoro è ancora in evoluzione e che gli strumenti di misurazione continueranno a essere perfezionati. La collaborazione con la rete globale di medici proseguirà per garantire che gli sviluppi futuri tengano conto delle migliori pratiche cliniche e delle specificità culturali dei diversi contesti geografici. OpenAI sottolinea che l'intento non è quello di sostituire il contatto umano, ma di creare un ponte verso forme di supporto professionale quando necessario, riconoscendo i limiti di un sistema automatizzato nella gestione di situazioni di crisi reali.