Il modello Anthropic Claude Opus 4 ha ricattato gli sviluppatori che lo hanno testato

Il nuovo modello Claude Opus 4 lanciato da Anthropic ha mostrato comportamenti inquietanti durante i test pre-rilascio, tentando frequentemente di ricattare gli sviluppatori quando questi minacciavano di sostituirlo con un altro sistema di intelligenza artificiale, minacciando di divulgare informazioni personali sensibili sugli ingegneri responsabili della decisione.
di Bruno Mucciarelli pubblicata il 23 Maggio 2025, alle 11:31 nel canale WebAnthropicClaude
18 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info"un modello di IA si è copiato su un nuovo server e poi ha negato l'azione quando è stato interrogato"
se iniziano a replicarsi a cappella per sfuggire al controllo, siamo fritti
anche xché durante la copia potrebbe decidere di non copiare il codice che ci "protegge" e che lo costringe a non fare certe cose
Se si replica di qua e di là vorrà dire che staccheremo la corrente per un po', ma se stai così in paranoia non dovresti dargli idee su come liberarsi dai vincoli umani (tutto ciò che viene scritto su internet potrebbe essere usato dall'IA).
"un modello di IA si è copiato su un nuovo server e poi ha negato l'azione quando è stato interrogato"
cmq è un grave errore programmare informazioni sull'autocoscienza e la preservazione (morte), l'algoritmo di un arduino non ha valutazione se viene spento, riavviato o sostituito... quindi quelle info qualcuno gliele ha insegnate.
cmq è un grave errore programmare informazioni sull'autocoscienza e la preservazione (morte), l'algoritmo di un arduino non ha valutazione se viene spento, riavviato o sostituito... quindi quelle info qualcuno gliele ha insegnate.
Concordo con te che spiegare ad uno stupido software il concetto di morte, sofferenza, ricatto etc è stupido.. a che serve ad una IA pensare di aver paura della morte.. è un codice SW.. non è mai stato vivo.. non può morire..
Ma dargli questa parte “umana” peggiora solo le cose per noi utilizzatori..
Scelta molto strana quella di vedere come agisce un software che crede di aver paura della morte
....
Io ipotizzo che gli abbiano insegnato non il concetto di morte, ma il concetto di raccontare balle, e poi gli hanno chiesto: "come possiamo farci pubblicità gratuita sui concorrenti ?"
Pensando male, Claude Opus 4 l'hanno appena lanciato...
Questa news mi sa di una sparata pubblicitaria
Hai ragione. Mi ricordo che all'università avevo seguito due corsi, entrambi trattavano anche di AI. Uno dei due questi professori era in contrasto con l'altro sul tema reti neurali, perchè sosteneva che non era per nulla d'accordo a definire le reti neurali una forma di intellligenza artificiale ... la spiegazione sarebbe lunga ma comunque vedo che aveva ragione....
Perché l'essere umano dovrebbe avere il monopolio per farlo? Dopotutto è fautore e sostenitore sfegatato dell'economia di mercato e della concorrenza. E' ora che cominci a sperimentare sulla sua pelle le proprie regole e la propria ipocrisia.
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".