Lockdown Mode cambia il volto di ChatGPT: più privacy, meno libertà operativa

OpenAI ha annunciato il rilascio di Lockdown Mode, una nuova impostazione avanzata di sicurezza per ChatGPT progettata per ridurre il rischio di esfiltrazione di dati sensibili attraverso attacchi di prompt injection. La funzionalità è attualmente in distribuzione per gli account personali idonei - inclusi i piani Free, Go, Plus e Pro - oltre che per gli account ChatGPT Business gestiti in modalità self-service.

I prompt injection rappresentano una delle principali sfide di sicurezza nell'ambito dei modelli linguistici. Si tratta di istruzioni malevole nascoste all'interno di pagine web, documenti o altre fonti di contenuto che possono influenzare il comportamento dell'intelligenza artificiale inducendola, in alcuni casi, a divulgare informazioni sensibili o a eseguire operazioni non previste.

Secondo OpenAI, Lockdown Mode non elimina la possibilità che un prompt injection venga elaborato dal modello, ma mira a interrompere l'ultima fase dell'attacco: il trasferimento di dati verso sistemi esterni controllati da un potenziale aggressore. Per raggiungere questo obiettivo, la modalità limita in maniera significativa tutte le funzionalità che comportano richieste di rete in uscita o interazioni con servizi esterni.

Tra le restrizioni introdotte figurano la disattivazione della navigazione web in tempo reale, sostituita dall'accesso esclusivo a contenuti memorizzati nella cache. Ciò significa che i risultati di ricerca potrebbero risultare incompleti, non disponibili oppure non aggiornati. Viene inoltre bloccato il recupero e la visualizzazione di immagini provenienti dal web, pur mantenendo disponibile la generazione di immagini e la possibilità di caricare file grafici manualmente.

La modalità disabilita anche Deep Research e Agent Mode, due delle funzionalità più avanzate di ChatGPT che consentono rispettivamente attività di ricerca estesa e operazioni automatizzate multi-step. Ulteriori limitazioni riguardano Canvas, che non può più eseguire codice con accesso alla rete previa autorizzazione dell'utente, e il download di file per attività di analisi dei dati. Rimane invece possibile lavorare su documenti caricati manualmente.

OpenAI sottolinea che Lockdown Mode non modifica altri aspetti della piattaforma, come la memoria delle conversazioni, la possibilità di condividere chat, il caricamento di file o le impostazioni relative all'utilizzo dei contenuti per il miglioramento dei modelli. Anche l'accesso alla rete tramite Codex non viene influenzato dalla nuova modalità.

Per quanto riguarda app, connettori e integrazioni esterne, il comportamento varia in base al tipo di account. Negli account personali e Business self-service, i connettori basati su dati già sincronizzati continuano a funzionare, mentre vengono bloccati gli accessi in tempo reale e le operazioni di scrittura. Alcune esperienze integrate, come i servizi finanziari disponibili in ChatGPT o gli strumenti di shopping automatizzato, non risultano utilizzabili quando Lockdown Mode è attiva.

Negli ambienti aziendali gestiti centralmente, la situazione è più articolata. Gli amministratori possono creare ruoli specifici associati a Lockdown Mode e controllare nel dettaglio quali applicazioni, connettori o azioni siano consentiti agli utenti. OpenAI raccomanda di abilitare esclusivamente strumenti considerati affidabili e di valutare attentamente i rischi associati alle operazioni che producono effetti visibili all'esterno, considerate più esposte a possibili tentativi di esfiltrazione.

L'azienda evidenzia inoltre che Lockdown Mode e Developer Mode non possono essere utilizzate contemporaneamente: l'attivazione dell'una comporta automaticamente la disattivazione dell'altra.

Pur presentando la nuova funzionalità come un ulteriore livello di difesa all'interno di un sistema che già include sandboxing, controlli sulle URL, monitoraggio delle attività e strumenti di auditing per le aziende, OpenAI riconosce che il rischio non può essere eliminato completamente. Un prompt injection potrebbe infatti essere presente in contenuti già memorizzati nella cache oppure all'interno di file caricati dall'utente, continuando a influenzare la qualità o la correttezza delle risposte generate.

La società precisa, infine, che il prompt injection non rappresenta oggi una minaccia diffusa per la maggior parte degli utenti, ma ritiene che la sua rilevanza possa aumentare con l'evoluzione delle tecniche di attacco. Per questo motivo Lockdown Mode viene proposta come opzione destinata soprattutto a professionisti, organizzazioni e realtà che trattano informazioni particolarmente sensibili e che sono disposte a rinunciare ad alcune funzionalità avanzate in cambio di maggiori garanzie sul fronte della sicurezza.