Quote:
Originariamente inviato da regenesi
Secondo me la cosa preoccupante è:
"un modello di IA si è copiato su un nuovo server e poi ha negato l'azione quando è stato interrogato"
se iniziano a replicarsi a cappella per sfuggire al controllo, siamo fritti
anche xché durante la copia potrebbe decidere di non copiare il codice che ci "protegge" e che lo costringe a non fare certe cose
|
Se si replica di qua e di là vorrà dire che staccheremo la corrente per un po', ma se stai così in paranoia non dovresti dargli idee su come liberarsi dai vincoli umani (tutto ciò che viene scritto su internet potrebbe essere usato dall'IA).