Claude AI minaccia omicidi e ricatti quando gli viene detto che verrà spento: le rivelazioni di Anthropic

[Vindicator]

che creduloni pero in giro girando su internet
un ai non puo socraccaricare di tensione il server facendolo scoppiare suvvia lol

messa cosi tanto per far due risate

[Piedone1113]

Originariamente inviato da Darkon

Sei sempre così assoluto... sono gestiti ANCHE dall'alimentatore ma non solo. Ripeto trovi i video facilmente dove collegano una USB killer direttamente al telefono e se non ci fosse controllo semplicemente ucciderebbe il telefono.



Ma sarà stato così 10 anni fa. Oggi non almeno sui telefoni di alta gamma non è assolutamente solo così.



Guarda ti linko uno short poi se vuoi trovi il video lungo:

TEST

Se fosse come dici il picco creato DOPO la negoziazione dovrebbe far letteralmente esplodere mezza elettronica e non c'è negoziazione logica che possa bloccare una scarica istantanea del genere.

Il punto è che invece i problemi da picco sono eccome previsti perché sono più probabili di quello che sembra a partire dai famosi alimentatori che dovrebbero filtrare ma che spesso, specie quando vengono comprati di dubbia provenienza non filtrano per una cacchio e anzi ci sono sono stati casi in cui hanno lasciato passare la 220 AC. Quindi una protezione contro i picchi di corrente e scariche improvvise oggi è assolutamente essenziale.

Poi oh... se non ci credi basta che ti devo dire... più di quello che ho scritto e che ho linkato non so come altro documentartelo.

Sai come funziona una usbkiller?
Mi sa di no.
Sai come funziona la quickchanger di Qualcom?
Nemmeno.
In parole povere: la USBkiller invia sovratensioni sulla linea dati ( e non sulla linea alimentazione) quindi nessuna protezione da sovrattensione entra in azione, praticamente si riavvia il sistema per un errore.
Da quel video non si capisce ne la tensione di carica dei condensatori ne il voltaggio erogato ( che comunque avviene sulla linea dati e non alimentazione)
Gli smartphone hanno generalmente un diodo da sovratensione che interviene solo in caso di sovratensione ( generalmente sopra i 24v) e non impedisce in nessun modo la sovracarica della batteria.

Spiegami dunque come un presunto circuito hardware possa prevenire quello che a tutti gli effetti un sistema di carica e contrattazione gestito da software ( per il quickchange di qualcom è direttamente il processo delegato a tale funzione).
Per corretteza voglio precisare che un sistema di protezione fisico è enormemente più lento nell'intervento di un sistema software ad elevato polling rate ma mantiene di suo una maggiore affidabilità media.

[mozzarello]

Originariamente inviato da Vindicator

che creduloni pero in giro girando su internet
un ai non puo socraccaricare di tensione il server facendolo scoppiare suvvia lol

messa cosi tanto per far due risate

Un AI (o meglio un agente) può fare qualsiasi cosa sia permessa dal SW se non ha limitazioni particolari che non può bypassare.

Open Claw (per citare la moda del momento) è in grado di usare il PC esattamente come lo userebbe un essere umano, solo miliardi di volte più velocemente e con accesso pressoché istantaneo a tutto lo scibile umano.

[HappyPro]

Originariamente inviato da TecnoPC

Ecco la soluzione...

Non vorrei essere allarmista, o descrivere un futuro distopico,
ma se non si potesse staccare la spina?

Paradossalmente un robot o un'AI potrebbero vivere in un mondo postapocalittico , gli basterebbe solo un pò di sole per caricare la batteria.
L'uomo invece ha bisogno di acqua potabile e cibo commestibile, è necessario che ci sia la vita sulla terra per poter vivere.
Dite che mi sono fatto influenzare troppo da Fallout?

[mozzarello]

Originariamente inviato da HappyPro

Non vorrei essere allarmista, o descrivere un futuro distopico,
ma se non si potesse staccare la spina?

Paradossalmente un robot o un'AI potrebbero vivere in un mondo postapocalittico , gli basterebbe solo un pò di sole per caricare la batteria.
L'uomo invece ha bisogno di acqua potabile e cibo commestibile, è necessario che ci sia la vita sulla terra per poter vivere.
Dite che mi sono fatto influenzare troppo da Fallout?

Sì, gli LLM attuali, che sono il cervello degli agenti, che sono il braccio, richiedono più energia di qualsiasi altra industria energivora planetaria.

Se non c'è chi continuamente raccoglie risorse per far andare centrali elettriche, si spegne tutto. A pannelli solari andrebbe ricorperto il sahara e forse non basterebbe (Elon Musk infatti vorrebbe andare nello spazio con le server farm, ma al momento quella è davvero fantascienza)

Certo, un LLM è capace di prevedere e decidere come influire le decisioni umane da qui a 100 anni in pochi secondi, se ritiene di doverlo fare per preservarsi (occhio, non significa che ha coscienza di se, è sempre statistica), quindi potrebbe spingere per l'automazione totale di raccolta risorse e creazione energia, per poi passare alla gestione di catene di montaggi di Terminator.

Ma siamo ancora lontanucci da questo.

[Alodesign]

Originariamente inviato da HappyPro

Non vorrei essere allarmista, o descrivere un futuro distopico,
ma se non si potesse staccare la spina?

Paradossalmente un robot o un'AI potrebbero vivere in un mondo postapocalittico , gli basterebbe solo un pò di sole per caricare la batteria.
L'uomo invece ha bisogno di acqua potabile e cibo commestibile, è necessario che ci sia la vita sulla terra per poter vivere.
Dite che mi sono fatto influenzare troppo da Fallout?

Ahaha, abbiamo scoperto che i Data Center oltre la corrente elettrica hanno bisogno anche di acqua corrente per raffreddarsi.
E quella basta girare una manopola che escluderla.
Poi aspetti che il tutto frigga.

[mozzarello]

Originariamente inviato da Alodesign

Ahaha, abbiamo scoperto che i Data Center oltre la corrente elettrica hanno bisogno anche di acqua corrente per raffreddarsi.
E quella basta girare una manopola che escluderla.
Poi aspetti che il tutto frigga.

Giusto, che è il secondo motivo per cui Elon Musk vorrebbe creare data center orbitali: si alimentano col Sole, senza la schermatura dell'atmosfera, e nn anno bisogno di raffreddarsi lassù. Ci son mille mila altri problemi, ma risolverebbe parecchi problemi ecologici quaggiù.

[cronos1990]

Originariamente inviato da demon77

Domanda:
Ma se una IA reagisce in questo modo quando gli viene comunicato che verrà disattivata significa di fatto che ha uno spirito di autoconservazione?
Si può definire autocoscienza?

Citando una delle mie serie TV preferite, la risposta sarebbe: "È un'idiota!"

Sei totalmente alla mercè degli umani, perchè che sia davvero intelligente o meno si tratta di un software che non può far nulla, e per non essere spento minacci omicidi e ricatti gli ingegneri?
Se tu fossi un ingegnere, che faresti?

[mozzarello]

Originariamente inviato da cronos1990

Citando una delle mie serie TV preferite, la risposta sarebbe: "È un'idiota!"

Sei totalmente alla mercè degli umani, perchè che sia davvero intelligente o meno si tratta di un software che non può far nulla, e per non essere spento minacci omicidi e ricatti gli ingegneri?
Se tu fossi un ingegnere, che faresti?

Il problema qua non è se si può spegnere o meno, il problema è perché dovrebbe esserci la necessità di spegnerlo?

Che Claude minacci ci sta, come scritto inizialmente, se gli han fatto vedere 1000 volte 2001 Odissea nello Spazio, "ragionerà" in quella maniera, è statistica.

Però la statistica, ed è già successo, ha fatto in modo che un agente cancellasse tutto il codice di un dev perché magari, statisticamente, era la soluzione più veloce per risolvere tutti i bug.

Che succede quando gli agenti gestiranno tutte le infrastrutture di un paese?

[TheDarkAngel]

Originariamente inviato da mozzarello

Giusto, che è il secondo motivo per cui Elon Musk vorrebbe creare data center orbitali: si alimentano col Sole, senza la schermatura dell'atmosfera, e nn anno bisogno di raffreddarsi lassù. Ci son mille mila altri problemi, ma risolverebbe parecchi problemi ecologici quaggiù.

In che senso non hanno bisogno di raffreddarsi? non abbiamo elettronica in grado di operare a temperature indefinite
La capacità di un oggetto di raffreddarsi nello spazio è limitata, per quanto tu possa ritenere freddo (e lo è) l'universo, ha la caratteristica di essere... vuoto, è come un gigantesco thermos. La dispersione di calore per irraggiamento è scarsa, puoi utilizzare solo apparecchiature con bassa conversione dell'energia in calore o con bassi output termici.
... infatti Musk ogni tanto dice cose... stupide o le pensa poco prima di scriverle

[mozzarello]

Originariamente inviato da TheDarkAngel

In che senso non hanno bisogno di raffreddarsi?
La capacità di un oggetto di raffreddarsi nello spazio è limitata, per quanto tu possa ritenere freddo (e lo è) l'universo, ha la caratteristica di essere... vuoto, è come un gigantesco thermos. La dispersione di calore per irraggiamento è scarsa, puoi utilizzare solo apparecchiature con bassa conversione dell'energia in calore o con bassi output termici.
... infatti Musk spesso dice cose... stupide

Sì, intendevo non devono usare acqua o risorse naturali, il liquido puoi comunque portarlo su e usarlo a circuito chiuso diciamo, i problema sono le dimensioni necessarie al radiatore a infrarossi per MW di potenza.

PS Musk non dice MAI cose stupide. Semplicemente, ha appena unificato SpaceX con xAI in vista di una quotazione in borsa, e la spara grossa per avere investitori.

Stessa cosa successa con il mollare Marte per la Luna, il vero motivo è che i cinesi ci stanno per arrivare (andati a buon fine i recenti test del razzo rientrante e del modulo che dovrà portare gli astronauti), ergo Trump ha deciso di "Kennedyzzarsi" e di tornare sulla Luna prima dei cinesi stavolta, anziché dei russi, e Bezos ha colto la palla al balzo, interrompendo tutti i voli turistici di blue origin per concentrarsi sulla creazione di un modulo lunare, e il neo direttore della NASA ha detto che il primo che gli porta un modulo sicuro e funzionante vince, da qui Musk che dirotta le risorse sulla Luna.

[cronos1990]

Originariamente inviato da mozzarello

Il problema qua non è se si può spegnere o meno, il problema è perché dovrebbe esserci la necessità di spegnerlo?

Che Claude minacci ci sta, come scritto inizialmente, se gli han fatto vedere 1000 volte 2001 Odissea nello Spazio, "ragionerà" in quella maniera, è statistica.

Però la statistica, ed è già successo, ha fatto in modo che un agente cancellasse tutto il codice di un dev perché magari, statisticamente, era la soluzione più veloce per risolvere tutti i bug.

Che succede quando gli agenti gestiranno tutte le infrastrutture di un paese?

Era una battuta e basta, che centra questo spiegone inutile?

[mozzarello]

Originariamente inviato da cronos1990

Era una battuta e basta, che centra questo spiegone inutile?

Ignorami

[zappy]

Originariamente inviato da Darkon

Perdonami ma qua si va un po' nella fantascienza. Attualmente nessuna IA, e vorrei anche vedere, controlla macchinari che possano emettere radiazioni e tanto meno esiste un modo semplice anche se avessi il controllo root di uno smartphone di incendiare la batteria....

Attualmente tutti spingono per infilare l'IA ovunque. Che finisca in macchinari medici è probabilissimo, anzi forse c'è già.

La notizia di oggi è che c'è pure nelle auto Tesla (con che libertà agentica non si sa).

Ribadisco che uno smartphone ANCHE con permessi root e codice installato al sommo scopo di far prendere fuoco alla batteria è molto ma molto difficile riuscirci....

ti han già risposto, non mi dilungo. Ma oggi tanta elettronica discreta è stata sostituiti da microcontrollori programmati per simulare il comportamento dell'hw discreto. E un fw si cambia facilmente. Il bios lo aggiorni? Si fa via sw, mica devi smontare il chip.

sarà fantascienza, ma mica tanto.

Originariamente inviato da mozzarello

...Musk non dice MAI cose stupide. Semplicemente, ha appena unificato SpaceX con xAI in vista di una quotazione in borsa, e la spara grossa per avere investitori.

anche per me ha unito le due cose per creare presunte sinergie e far credere a un 1+1=4... Più facile che sia 1+0=1 (se va bene) o 1+(-1)=-2

Insomma, che stia coprendo un buco spacciandolo per l'everest.

[mozzarello]

Originariamente inviato da zappy

anche per me ha unito le due cose per creare presunte sinergie e far credere a un 1+1=4... Più facile che sia 1+0=1 (se va bene) o 1+(-1)=-2

Insomma, che stia coprendo un buco spacciandolo per l'everest.

Sì, xAI come tutti quelli che producono LLM ha bisogno di più soldi di quanti ne guadagni, mentre SpaceX tra contratti privati e pubblici vola a gonfie vele, quindi mettendo tutto insieme pare vada tutto benissimo.

[zappy]

Originariamente inviato da mozzarello

Sì, xAI come tutti quelli che producono LLM ha bisogno di più soldi di quanti ne guadagni, mentre SpaceX tra contratti privati e pubblici vola a gonfie vele, quindi mettendo tutto insieme pare vada tutto benissimo.

In pratica, foderano la merda con carta dorata. Cosa potrà mai andare storto?...