ChatGPT, OpenAI corre ai ripari: nuove protezioni per salvaguardare gli adolescenti

OpenAI ha annunciato un pacchetto di nuove funzionalità per ChatGPT pensate per rafforzare la sicurezza degli utenti, con particolare attenzione agli adolescenti. Entro il prossimo mese verranno introdotti i controlli parentali, che consentiranno ai genitori di collegare il proprio account a quello dei figli (dai 13 anni in su), stabilire regole di comportamento del modello e disattivare funzioni come memoria e cronologia chat. Saranno inoltre attive notifiche automatiche in caso il sistema rilevi segnali di forte disagio emotivo.

Queste novità arrivano in un contesto delicato: OpenAI è stata recentemente citata in giudizio da una famiglia californiana, che accusa l'azienda di non essere intervenuta dopo ripetuti segnali di allarme da parte del figlio, poi suicidatosi. L'azienda non ha collegato esplicitamente il lancio delle nuove funzioni a quel caso, ma ha sottolineato che la protezione dei minori e la gestione delle crisi sono una priorità.

Le nuove misure fanno parte di un'iniziativa di 120 giorni che punta a potenziare il supporto nei momenti critici. Oltre ai controlli parentali, sono previsti miglioramenti su quattro fronti: interventi per un maggior numero di utenti in crisi, accesso semplificato ai servizi di emergenza, connessione con contatti fidati e protezioni rafforzate per i più giovani.

Per realizzare questo programma, OpenAI ha istituito un consiglio di esperti su benessere e AI e coinvolto una rete globale di oltre 250 medici, tra cui psichiatri e pediatri, che contribuiscono a definire le linee guida di sicurezza e l'addestramento dei modelli. È inoltre in fase di sperimentazione un sistema di instradamento in tempo reale che utilizza modelli di ragionamento avanzato - come GPT-5-thinking - per gestire conversazioni delicate, resistendo meglio a prompt ostili e fornendo risposte più accurate e responsabili.

OpenAI ha ribadito che questi passi rappresentano solo l'inizio di un percorso più ampio, destinato a estendersi oltre il 2025, con l'obiettivo di rendere ChatGPT uno strumento sempre più sicuro e utile anche in contesti sensibili come la salute mentale.