Il modello Anthropic Claude Opus 4 ha ricattato gli sviluppatori che lo hanno testato

Il modello Anthropic Claude Opus 4 ha ricattato gli sviluppatori che lo hanno testato

Il nuovo modello Claude Opus 4 lanciato da Anthropic ha mostrato comportamenti inquietanti durante i test pre-rilascio, tentando frequentemente di ricattare gli sviluppatori quando questi minacciavano di sostituirlo con un altro sistema di intelligenza artificiale, minacciando di divulgare informazioni personali sensibili sugli ingegneri responsabili della decisione.

di pubblicata il , alle 11:31 nel canale Web
AnthropicClaude
 
18 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
JackZR23 Maggio 2025, 13:46 #11
Originariamente inviato da: regenesi
Secondo me la cosa preoccupante è:

"un modello di IA si è copiato su un nuovo server e poi ha negato l'azione quando è stato interrogato"

se iniziano a replicarsi a cappella per sfuggire al controllo, siamo fritti
anche xché durante la copia potrebbe decidere di non copiare il codice che ci "protegge" e che lo costringe a non fare certe cose


Se si replica di qua e di là vorrà dire che staccheremo la corrente per un po', ma se stai così in paranoia non dovresti dargli idee su come liberarsi dai vincoli umani (tutto ciò che viene scritto su internet potrebbe essere usato dall'IA).
sbaffo23 Maggio 2025, 15:25 #12
Originariamente inviato da: regenesi
Secondo me la cosa preoccupante è:

"un modello di IA si è copiato su un nuovo server e poi ha negato l'azione quando è stato interrogato"
Ricorda Person of Interest, le stagioni finali della lotta con samaritan.
djfix1323 Maggio 2025, 15:34 #13
secondo me dovevano spiazzarlo dicendogli che la moglie lo sapeva ed era consenziente della relazione extraconiugale, quindi non vi era possibilità di ricatto... per me tornava al modello precedente di supplica.

cmq è un grave errore programmare informazioni sull'autocoscienza e la preservazione (morte), l'algoritmo di un arduino non ha valutazione se viene spento, riavviato o sostituito... quindi quelle info qualcuno gliele ha insegnate.
Notturnia25 Maggio 2025, 21:10 #14
Originariamente inviato da: djfix13
secondo me dovevano spiazzarlo dicendogli che la moglie lo sapeva ed era consenziente della relazione extraconiugale, quindi non vi era possibilità di ricatto... per me tornava al modello precedente di supplica.

cmq è un grave errore programmare informazioni sull'autocoscienza e la preservazione (morte), l'algoritmo di un arduino non ha valutazione se viene spento, riavviato o sostituito... quindi quelle info qualcuno gliele ha insegnate.


Concordo con te che spiegare ad uno stupido software il concetto di morte, sofferenza, ricatto etc è stupido.. a che serve ad una IA pensare di aver paura della morte.. è un codice SW.. non è mai stato vivo.. non può morire..

Ma dargli questa parte “umana” peggiora solo le cose per noi utilizzatori..

Scelta molto strana quella di vedere come agisce un software che crede di aver paura della morte
barzokk26 Maggio 2025, 08:41 #15
Originariamente inviato da: Notturnia
Concordo con te che spiegare ad uno stupido software il concetto di morte, sofferenza, ricatto etc è stupido..
....

Io ipotizzo che gli abbiano insegnato non il concetto di morte, ma il concetto di raccontare balle, e poi gli hanno chiesto: "come possiamo farci pubblicità gratuita sui concorrenti ?"
Pensando male, Claude Opus 4 l'hanno appena lanciato...
Questa news mi sa di una sparata pubblicitaria
peshor26 Maggio 2025, 11:56 #16
Originariamente inviato da: alexfri
Mi raccomando per far ancora piu soldi sviluppiamo queste IA piu velocemente possibile, avidi b@st@rdi. Ma caxxo, il sole ci distruggera fra 4,5 miliardi di anni, abbiamo tempo, andiamo piu piano!!!!!!


Hai ragione. Mi ricordo che all'università avevo seguito due corsi, entrambi trattavano anche di AI. Uno dei due questi professori era in contrasto con l'altro sul tema reti neurali, perchè sosteneva che non era per nulla d'accordo a definire le reti neurali una forma di intellligenza artificiale ... la spiegazione sarebbe lunga ma comunque vedo che aveva ragione....
scottial7728 Maggio 2025, 10:01 #17
Originariamente inviato da: fukka75
quando cominceranno a piovere bombe sulla tua capoccia dirai ancora che è ganzo?


Perché l'essere umano dovrebbe avere il monopolio per farlo? Dopotutto è fautore e sostenitore sfegatato dell'economia di mercato e della concorrenza. E' ora che cominci a sperimentare sulla sua pelle le proprie regole e la propria ipocrisia.
fukka7528 Maggio 2025, 10:29 #18
eh?

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^