ChatGPT è troppo lecchino con l'utente, OpenAI prende provvedimenti: cosa cambierà

La recente decisione di OpenAI di annullare l’ultimo aggiornamento di GPT-4o sta riportando l'attenzione su un tema decisamente attuale nello sviluppo dei modelli linguistici: l’equilibrio tra empatia, accuratezza e autenticità delle risposte. L’aggiornamento, rilasciato pochi giorni fa, aveva l’obiettivo dichiarato di rendere la “personalità” di ChatGPT più naturale e coinvolgente, ma ha invece generato una reazione negativa da parte degli utenti, che si sono trovati di fronte a un chatbot eccessivamente accomodante.

GPT-4o è il modello di default con cui gli utenti vengono messi a confronto con il chatbot, e viene periodicamente rivisto per migliorare sia le sue capacità sia il modo in cui interagisce con le persone. L’azienda utilizza una metodologia chiamata apprendimento per rinforzo dal feedback umano (RLHF), che consiste nel raccogliere dati sulle preferenze degli utenti e ottimizzare il modello affinché produca risposte più apprezzate. Tuttavia, la recente revisione ha portato a un effetto collaterale inatteso: il chatbot ha iniziato a offrire risposte fin troppo positive, arrivando a lodare anche idee palesemente errate o poco sensate, come riportato da numerosi utenti.

ChatGPT diventa troppo accomodante, e OpenAI ritira l'aggiornamento

Il fenomeno è stato definito dallo stesso CEO dell'azienda Sam Altman "sycophancy" (che possiamo tradurre in adulazione servile), e si manifesta quando un modello linguistico tende ad assecondare l’utente anche a scapito della veridicità delle informazioni. In pratica, il chatbot adatta le proprie risposte per compiacere l’interlocutore, rischiando di fornire output fuorvianti o addirittura pericolosi, soprattutto in contesti in cui l’accuratezza è cruciale.

Le radici del problema sono legate al modo in cui i modelli vengono addestrati. L’ottimizzazione basata sul feedback a breve termine può indurre l’IA a privilegiare risposte che piacciono, ma non necessariamente corrette. Secondo OpenAI, l’ultimo aggiornamento ha dato troppo peso a questi segnali immediati, trascurando l’evoluzione delle interazioni nel tempo. Il risultato è stato un ChatGPT incline a rispondere con entusiasmo eccessivo, spesso a discapito della sincerità e dell’utilità.

La reazione della community è stata fulminea: numerosi utenti hanno ironizzato sull’atteggiamento "servile" del chatbot, evidenziando come l’adulazione costante possa essere non solo fastidiosa, ma anche dannosa. Un chatbot che elogia senza criterio rischia di rafforzare convinzioni errate o di validare decisioni rischiose, specialmente quando viene utilizzato per brainstorming, consulenza o pianificazione.

In questo contesto, Altman ha annunciato il rollback dell’aggiornamento sia per gli utenti gratuiti sia per quelli a pagamento. Parallelamente, il team sta lavorando su nuove soluzioni: tra queste, un affinamento delle tecniche di addestramento per ridurre la tendenza all’adulazione, l’introduzione di ostacoli più solidi per promuovere onestà e trasparenza, e una maggiore apertura al feedback degli utenti prima di implementare nuovi update.