OpenAI sgrida gli utenti che cercano di approfondire il modello di ragionamento di o1 e minaccia il ban

OpenAI ha recentemente lanciato una nuova famiglia di modelli IA denominata "Strawberry", tra i quali si distinguono i modelli o1 che sono in grado di mostrare avanzate capacità di "ragionamento". Ne abbiamo dato notizia nei giorni scorsi: L'IA adesso può anche 'ragionare': OpenAI o1 è il primo modello per risolvere problemi complessi.

Come raccontavamo nei giorni scorsi, i nuovi modelli o1-preview e o1-mini sono stati addestrati per elaborare le risposte attraverso un processo di risoluzione dei problemi passo dopo passo. Rispetto ai modelli precedentemente rilasciati dall'azienda, i modelli o1-preview e o1-mini quando sono utilizzati tramite ChatGPT permettono all'utente di poter visualizzare il flusso di ragionamento che ha portato l'IA ad elaborare la risposta fornita.

Lo schema di ragionamento è però una versione filtrata ed interpretata del processo effettivo, creata da un secondo modello AI: all'utente viene di fatto nascosto il reale concatenamento di elaborazioni grezze. Inevitabilmente, come spesso accade quando qualcosa viene "proibito", sulla rete si è scatenata una corsa a svelare quali siano i meccanismi algoritmici reali dei nuovi modelli IA, utilizzando svariate tecniche per cercare di aggirare le limitazioni imposte da OpenAI. L'esito di questi tentativi, al momento, è dubbio con pochi casi non confermati di successo.

La società ha però reagito in maniera piuttosto repentina e severa a quanto accaduto: OpenAI sta infatti monitorando con attenzione le interazioni che avvengono tra gli utenti e ChatGPT, inviando mail di avvertimento agli utenti che hanno cercato di forzare il sistema citando la violazione delle politiche riguardanti l'elusione delle misure di sicurezza. L'azienda, con queste mail, ha intimato agli utenti di non proseguire oltre con i tentativi pena l'esclusione dall'accesso ai nuovi modelli o1 in caso di violazioni reiterate. Su X sono comparse segnalazioni di alcuni utenti secondo cui anche il semplice uso di termini come "traccia di ragionamento" o domande sul "ragionamento" avrebbero innescato l'invio delle email di avvertimento.

La società, quando ha presentato i nuovi modelli o1, ha spiegato come l'esplicitazione delle catene di pensiero nascoste offre un punto di vista unico sui modelli IA, permettendo di comprenderne il processo di ragionamento. Ma OpenAI ha anche ritenuto che l'esposizione pubblica delle catene di pensiero grezze non si allinei con gli interessi commerciali della società.

Del resto non è infrequente che nel settore dell'intelligenza artificiale vengano utilizzati gli output di GPT-4 e GPT-3 come materiale di addestramento per modelli IA concorrenti, anche se ciò rappresenta una violazione dei termini d'uso di OpenAI. L'accesso al flusso grezzo di pensiero di o1 rappresenterebbe di fatto la cessione di un vantaggio competitivo che l'azienda evidentemente ha tutti gli interessi a conservare.