Anthropic: tra un anno i dipendenti virtuali AI saranno realtà nelle aziende

Jason Clinton, Chief Information Security Officer di Anthropic, ha dichiarato in un’intervista esclusiva ad Axios che i dipendenti virtuali animati da intelligenza artificiale arriveranno nelle reti aziendali già nel corso del prossimo anno. Si tratta di un cambio di paradigma epocale, che rappresenta nuove opportunità per l'innovazione, ma anche sfide e rischi per la sicurezza tecnologica.

Laddove gli agenti IA attuali sono fondamentalmente limitati a compiti programmabili e ben definiti, come può essere ad esempio la risposta automatica a segnalazioni di phishing o altri indicatori di minacce, i futuri dipendenti virtuali avranno un livello di autonomia nettamente superiore: queste entità digitali disporranno di una propria “memoria”, di ruoli ben definiti all’interno dell’azienda e persino di account e password aziendali personali, elementi che li renderanno molto più simili a veri e propri colleghi umani rispetto agli agenti AI tradizionali.

Appare immediatamente chiaro come la gestione delle identità di questi "dipendenti virtuali" implichi una profonda revisione delle strategie di cybersecurity. Nell'intervista, Clinton sottolinea che "in questo nuovo mondo ci sono moltissimi problemi di sicurezza che non abbiamo ancora risolto e che dovremo affrontare". Un tema dibattuto è la gestione della responsabilità qualora un dipendente IA, operativo per settimane, dovesse compiere azioni dannose come, ad esempio, compromettere i sistemi dove viene testato e integrato il nuovo codice prima del rilascio.

Anthropic, dal canto suo, si assume due responsabilità chiave per affrontare queste sfide: la prima è sottoporre i modelli Claude a test approfonditi per garantirne la resistenza agli attacchi informatici, la seconda è monitorare costantemente le problematiche di sicurezza e intervenire per mitigare i rischi di abuso da parte di attori malevoli.

Clinton osserva che gli amministratori di rete sono già oggi in difficoltà nel monitorare quali account abbiano accesso a diversi sistemi e nel difendersi da attacchi che sfruttano credenziali di dipendenti rivendute sul dark web. L’introduzione di dipendenti virtuali rischia di aggravare ulteriormente questa complessità, rendendo ancora più difficile la gestione e la protezione degli accessi.

Clinton prevede che la sicurezza dei dipendenti virtuali rappresenterà una delle principali aree di investimento per le aziende IA nei prossimi anni: al momento sono già in fase di sviluppo soluzioni che consentono di tracciare in modo dettagliato le attività degli account dei lavoratori virtuali e strumenti per creare nuovi sistemi di classificazione degli account, più adatti a gestire le identità digitali autonome e a rilevare eventuali attività sospette non riconducibili ad una traccia umana.