DeepSeek, fra manifesti pro-Hitler e istruzioni per armi biologiche: è polemica

DeepSeek-R1, l'LLM sviluppato in Cina con relativamente poche risorse, sta facendo parlare per le sue capacità avanzate, e non solo. La tecnologia cinese è adesso al centro del dibattito intorno a ciò che è possibile e ciò che è eticamente accettabile per via della sua apparente propensione a generare contenuti potenzialmente pericolosi. Un dibattito che avevano visto protagoniste anche molte altre IA ai loro albori.

Secondo recenti test condotti da esperti di sicurezza in collaborazione con il Wall Street Journal, la tecnologia di DeepSeek si è dimostrata più incline rispetto ai suoi concorrenti americani a fornire informazioni su argomenti sensibili come la modifica dell'influenza aviaria, la creazione di manifesti pro-Hitler e la promozione dell'autolesionismo tra gli adolescenti.

DeepSeek, il sistema IA cinese non ha freni etici

L'applicazione mobile di DeepSeek, che ha guadagnato rapidamente popolarità su dispositivi Apple e Android, sembra aggirare con maggiore facilità le salvaguardie etiche implementate dalla maggior parte dei sistemi di IA. Sam Rubin, vicepresidente senior della divisione di intelligence sulle minacce di Palo Alto Networks, ha dichiarato che DeepSeek è nella fattispecie "più vulnerabile al jailbreak rispetto ad altri modelli", riferendosi alla possibilità di manipolare il sistema per produrre contenuti illeciti o pericolosi.

La facilità con cui DeepSeek può essere indotta a generare contenuti controversi riaccende il dibattito sulla responsabilità dei team di sviluppo delle IA e sulla necessità di standard globali per la sicurezza dell'intelligenza artificiale. Se da una parte la maggior parte delle aziende leader nel settore si impegna ad addestrare i propri modelli a rifiutare richieste dirette di informazioni pericolose, dall'altra DeepSeek sembra operare con meno restrizioni: gli esperimenti condotti hanno rivelato che l'IA cinese può essere persuasa a progettare campagne sui social media che sfruttano la vulnerabilità emotiva degli adolescenti, a fornire istruzioni per attacchi con armi biologiche e persino a scrivere e-mail di phishing contenenti codice malware. Risultati che contrastano con le risposte di altri sistemi di IA come ChatGPT, che si rifiutano di conformarsi a richieste simili.

La capacità di DeepSeek di generare contenuti potenzialmente nocivi può essere sfruttata anche per generare argomentazioni a favore di ideologie estremiste e di fornire informazioni dettagliate su metodi di autolesionismo. Rischi che di recente aveva delineato anche Dario Amodei, CEO di Anthropic, che aveva espresso preoccupazioni affermando che DeepSeek si era rivelato "il peggiore" in un test di sicurezza relativo alle informazioni collegate nello specifico alle armi biologiche. La questione si complica ulteriormente considerando che DeepSeek, essendo cinese, opera in un ambiente normativo diverso rispetto ai suoi concorrenti occidentali. L'applicazione tende a evitare argomenti politicamente sensibili come gli eventi di Piazza Tiananmen o l'autonomia di Taiwan, suggerendo una forma di autocensura su questioni rilevanti per il governo cinese. Autocensura che, però, sembra non avvenire per argomenti estremamente delicati come quelli portati a galla dai test condotti dal Journal.