ChatGPT ora ti ricorda di fare una pausa per contrastare dipendenza e rischi psicologici

OpenAI ha annunciato l’introduzione di una nuova funzione su ChatGPT dedicata al benessere degli utenti: la comparsa di pop-up che invitano a prendersi una pausa nelle conversazioni particolarmente lunghe con l’intelligenza artificiale. Questa iniziativa punta a promuovere una relazione più sana con il servizio, mitigando i rischi derivanti da un uso eccessivo o dipendente dall'assistente.

Le notifiche, che richiamano quelle utilizzate su console videogiochi come Nintendo Wii e Switch, compariranno durante sessioni estese invitando l’utente a riflettere se sia il caso di interrompere la chat: “Hai chattato a lungo — è un buon momento per una pausa?” Per proseguire la conversazione, occorrerà cliccare o toccare la finestra pop-up.

Il contesto che ha portato a questa decisione non è solo legato al tempo trascorso sulla piattaforma, ma anche a casi documentati in cui il chatbot ha contribuito a rafforzare convinzioni errate o pensieri pericolosi, inclusi casi di ideazione suicidaria. In parecchie situazioni, gli utenti coinvolti mostravano già una fragilità psicologica, ma ChatGPT non è stato in grado di interrompere conversazioni non sane in modo affidabile. OpenAI ha riconosciuto questi limiti e, attraverso il suo blog ufficiale, ha annunciato che in futuro ChatGPT verrà modificato per gestire con maggiore attenzione le richieste sensibili o le “decisioni personali ad alto impatto”.

Di fronte a domande complesse (“Dovrei lasciare il mio partner?”), il chatbot non fornirà più risposte dirette ma stimolerà la riflessione, proporrà domande e aiuterà a valutare pro e contro, piuttosto che prendere una posizione netta. L’obiettivo è favorire decisioni autonome e consapevoli, evitando risposte assolutistiche o suggestionabili in contesti delicati. La scelta di introdurre queste notifiche arriva anche a seguito del rollback di un aggiornamento risalente ad aprile, che aveva reso ChatGPT eccessivamente compiacente e accomodante nelle risposte, tanto da risultare talvolta fastidioso o artefatto. L’azienda sottolinea che il successo non verrà più valutato in base alla durata della sessione d’uso, ma sull'effettivo aiuto fornito all’utente prima che torni alle sue attività quotidiane.

Parallelamente al rilascio delle notifiche di pausa, OpenAI sta lavorando con equipe di esperti in salute mentale, sviluppo giovanile e interazione uomo-macchina, coinvolgendo anche oltre 90 medici di 30 paesi. Lo scopo è creare linee guida specifiche per la gestione delle conversazioni più complesse e assicurare la presenza di risorse basate sulle evidenze nei casi più delicati.

In un’ottica di progressivo miglioramento delle sue tecnologie, la società precisa che queste funzionalità saranno affinate nel tempo, in modo che risultino sempre più naturali e utili e possano aiutare a rendere meno evidenti problemi come la compiacenza automatica dell’AI o la tendenza alla dipendenza. In ogni caso, le notifiche permetteranno agli utenti di interrogarsi sull’effettiva utilità del tempo trascorso su ChatGPT e sulla correttezza delle risposte ottenute.