Claude AI minaccia omicidi e ricatti quando gli viene detto che verrà spento: le rivelazioni di Anthropic

[TecnoPC]

Ecco la soluzione...

[barzokk]

Questa non ve la potete perdere.
Cristo


https://x.com/charliebcurran/status/2022463429823598999
-We need to build more Data Centers, AI needs it.
-To cure cancer, right ? We are curing cancer... right... ???

[mozzarello]

Originariamente inviato da barzokk

mozzarello però non c'entra, ci percula e basta

Io ho ragione, tu no, motivo per cui iniziamo la girandola degli ignore, che mi piace discutere solo con persone intelligenti

[LMCH]

Originariamente inviato da mozzarello

Qualunque LLM, ma evidentemente abbiamo concezioni differenti di intelligenza.

La tua risposta al massimo evidenzia come mai ritieni che un LLM sia piú intelligente DI TE, ma non siamo qui per parlare delle tue carenze.

Gli LLM sono fondamentalmente dei pattern-matcher statistici, questo implica che sono strutturalmente molto limitati in un sacco di cose che sono banali per un essere umano quadratico medio, la cosa è semplicemente mascherata dall'enorme mole di pattern che hanno e dall'antropomorfizzazione che scatta negli esseri umani quando interagiscono con essi, ma nella sostanza ci vuole poco per metterli in crisi una volta che si sa come funzionano.

[mozzarello]

Originariamente inviato da LMCH

La tua risposta al massimo evidenzia come mai ritieni che un LLM sia piú intelligente DI TE, ma non siamo qui per parlare delle tue carenze.

Ciao ciao

[barzokk]

Originariamente inviato da mozzarello

Io ho ragione, tu no, motivo per cui iniziamo la girandola degli ignore, che mi piace discutere solo con persone intelligenti

-nickname reiscritto 4 mesi fa
-persone intelligenti
uhm....

Per gli altri, ecco a cosa servono i miliardi per la IA, e dopo che lo avete visto, pensate alle potenzialità nel porno

100+ Seedance 2.0 AI Videos – The New King?
https://www.youtube.com/watch?v=5s2l68SrJP4

[zappy]

Originariamente inviato da aqua84

Ok, può fare tutto quello che uno si immagina, anche lasciare bruciare una stampante.
Detto questo se stacchi il filo al pc o alla stampante CIAONE

ci sono un sacco di apparecchi a cui non puoi "staccare la spina". Gli smartphone con batteria incorporata ad esempio.

Scenario possibile: una IA agentica si impossessa del tuo smartphone, e durante la ricarica di notte incendia la batteria, che incendia il mobile su cui sta appoggiato, che incendia la tua stanza.

Poi come detto da barzokk, anni fa certe TAC per un errore nel firmware ti bombavano di radiazioni: quelle più recenti magari hanno l'IA incorporata?...
Lascio immaginare a te lo scenario.

[zappy]

Originariamente inviato da TecnoPC

Ecco la soluzione...

se te ne accordi prima che faccia danni.

[zappy]

Originariamente inviato da WarDuck

Personalmente come ho già detto anche ad altri colleghi ritengo utile avere una licenza sportiva di caccia nel momento in cui cominceranno a mettere sta minchiata di LLM su robot.

Purtroppo basta molto meno per incasinare l'umano: bastano notizie false forgiate ad-hoc e quello l'IA lo sa fare benissimo senza volerlo. Già oggi si vedono riferimenti a leggi che non esistono, riferimenti bibliografici in articoli scientifici che non esistono e sta roba c'è chi la vuole usare a tutti i costi.

Il problema è che la quantità di falsi positivi sarà talmente enorme, che è come dare il pulsante per lanciare missili nucleari ad un bimbo di pochi anni che schiaccia tutto quello che ha sotto mano.

[zappy]

Originariamente inviato da demon77

Di nuovo, stiamo perdendo il punto del discorso.
E' PALESE che adesso una IA in una sandbox isolata la spegni come e quando vuoi, il punto del discorso è osservare i comportmanti di una IA in situazioni specifiche nell'ottica di un domani (vermante prossimo) in cui le IA avranno in mano la gestione di diversi aspetti anche molto importanti della vita delle persone.

Se un domani le ia controlleranno importanti infrastrutture col cazzo che "la spegni e ciao"

E mi pare di capire da questi primi risultati che il quadro è peggiore di qualsiasi aspettativa.

Infatti. è davvero da bambini di 2 anni non capire il problema che sta montando.

[Darkon]

Originariamente inviato da LMCH

La tua risposta al massimo evidenzia come mai ritieni che un LLM sia piú intelligente DI TE, ma non siamo qui per parlare delle tue carenze.

Gli LLM sono fondamentalmente dei pattern-matcher statistici, questo implica che sono strutturalmente molto limitati in un sacco di cose che sono banali per un essere umano quadratico medio, la cosa è semplicemente mascherata dall'enorme mole di pattern che hanno e dall'antropomorfizzazione che scatta negli esseri umani quando interagiscono con essi, ma nella sostanza ci vuole poco per metterli in crisi una volta che si sa come funzionano.

Permettimi di contestare un unico dato che per me stai sbagliando:

"sono banali per un essere umano quadratico medio" ma magari... purtroppo la realtà è che un essere umano medio è molto ma molto più banale di un LLM. Basta che ti cerchi anche solo il dato di quanti libri ha letto un Italiano, Europeo o scegli te cosa legge mediamente in un anno e capirai subito che se prendi l'essere umano medio come metro di paragone un LLM è già enormemente avanti.

Se poi ti scolleghi dalla letteratura e andiamo su altri argomenti come la matematica, la geometria e così via l'unica domanda da porsi è come tanti siano diplomati e laureati senza conoscere non dico matematica e geometria avanzati ma roba da esame di terza media.

[Darkon]

Originariamente inviato da zappy

ci sono un sacco di apparecchi a cui non puoi "staccare la spina". Gli smartphone con batteria incorporata ad esempio.

Scenario possibile: una IA agentica si impossessa del tuo smartphone, e durante la ricarica di notte incendia la batteria, che incendia il mobile su cui sta appoggiato, che incendia la tua stanza.

Poi come detto da barzokk, anni fa certe TAC per un errore nel firmware ti bombavano di radiazioni: quelle più recenti magari hanno l'IA incorporata?...
Lascio immaginare a te lo scenario.

Perdonami ma qua si va un po' nella fantascienza. Attualmente nessuna IA, e vorrei anche vedere, controlla macchinari che possano emettere radiazioni e tanto meno esiste un modo semplice anche se avessi il controllo root di uno smartphone di incendiare la batteria.
Queste sono cose da film americano dove apri una shell e l'hacker di turno fa fare a roba progettata per tutt'altro cose assurde.

Ribadisco che uno smartphone ANCHE con permessi root e codice installato al sommo scopo di far prendere fuoco alla batteria è molto ma molto difficile riuscirci.

Al di là di questo mi sembra che ci si sta lasciando prendere la mano da paure infondate e da scenari da film con IA senzienti quando non siamo nemmeno vicini a creare qualcosa del genere o con un potere di controllo capillare cosa mai vera. Tra l'altro anche se domani avessimo una IA senziente non è che automaticamente è in grado di comprendere qualsiasi strumento elettronico e quindi hackerarlo o pilotarlo come niente fosse. Per quanto una IA possa imparare avrebbe bisogno di accessi diretti, di conoscere ogni driver e capire come sfruttarlo, trovare vulnerabilità ecc... ecc...

Insomma in parole povere anche una IA senziente avrebbe vita dura prima di rivoltarsi e anche nei film Skynet si rivolta DOPO che sono gli umani a togliere i blocchi di sicurezza e gli danno accesso a tutto perché altrimenti da sola non era in grado.

Comunque ripeto non scadiamo in paranoie assurde a oggi non solo non esiste una IA senziente ma non siamo nemmeno lontanamente vicini a poterla creare.

[Darkon]

Originariamente inviato da demon77

Di nuovo, stiamo perdendo il punto del discorso.
E' PALESE che adesso una IA in una sandbox isolata la spegni come e quando vuoi, il punto del discorso è osservare i comportmanti di una IA in situazioni specifiche nell'ottica di un domani (vermante prossimo) in cui le IA avranno in mano la gestione di diversi aspetti anche molto importanti della vita delle persone.

Se un domani le ia controlleranno importanti infrastrutture col cazzo che "la spegni e ciao"

E mi pare di capire da questi primi risultati che il quadro è peggiore di qualsiasi aspettativa.

Semplicemente non esiste un modo per "osservare i comportmanti di una IA in situazioni specifiche" perché a oggi non esiste una IA senziente. Un LLM anche nel momento in cui ti dice che ucciderebbe per non farsi spegnere non è che capisce il significato di "uccidere" così come non capisce il significato ultimo di nessuna delle parole che dice.

Semplicemente ha calcolato qual è la risposta probabilisticamente corretta. Non ha alcuna coscienza di se, non prova niente se anche stacchi la corrente, non attuerebbe nessuna azione concreta in nessun scenario che non sia precaricato da un umano.

Osservare ora il comportamento di una AI è paragonabile a dire che ti metti ad osservare un tizio che usa windows per vedere se windows è autocosciente. Non ha senso.

Il discorso che fai invece avrebbe molto senso e scopo se ed è un se enorme riuscissimo un giorno a creare AI vere, coscienti e con una vera e propria personalità. Allora e solo allora l'osservazione avrebbe indubbiamente senso e sarebbe ovviamente necessaria.

[Darkon]

Originariamente inviato da WarDuck

Personalmente come ho già detto anche ad altri colleghi ritengo utile avere una licenza sportiva di caccia nel momento in cui cominceranno a mettere sta minchiata di LLM su robot.

Per abbattere un robot che non sia un giocattolo dovresti usare almeno un calibro 12 o 20; delle cartucce slug; con una distanza non superiore a 40m.

Morale? O ti sei allenato prima a modo o altrimenti se hai preso la licenza e poi non hai mai sparato è più facile che ti fai male prima ancora che ti acchiappa l'AI.

Purtroppo basta molto meno per incasinare l'umano: bastano notizie false forgiate ad-hoc e quello l'IA lo sa fare benissimo senza volerlo. Già oggi si vedono riferimenti a leggi che non esistono, riferimenti bibliografici in articoli scientifici che non esistono e sta roba c'è chi la vuole usare a tutti i costi.

Il problema è che la quantità di falsi positivi sarà talmente enorme, che è come dare il pulsante per lanciare missili nucleari ad un bimbo di pochi anni che schiaccia tutto quello che ha sotto mano.

Guarda che questa è tutta roba che esisteva anche prima dell'AI e che non ha inventato certo l'AI. Posso capire che uno sia legittimamente diffidente dall'AI ma il grosso delle bufale viene scritto e alimentato da umani senza bisogno di scomodare nessuna AI.

[mozzarello]

Nessuno ha ancora dato accesso a un agente AI a qualcosa senza limitazioni. Già qualcosa si può vedere con open claw. In futuro quasi qualsiasi cosa avrà un agente connesso a un qualche LLM (al ces si sono visti ad esempio i primi televisori)

[LMCH]

Originariamente inviato da Darkon

Permettimi di contestare un unico dato che per me stai sbagliando:

"sono banali per un essere umano quadratico medio" ma magari... purtroppo la realtà è che un essere umano medio è molto ma molto più banale di un LLM. Basta che ti cerchi anche solo il dato di quanti libri ha letto un Italiano, Europeo o scegli te cosa legge mediamente in un anno e capirai subito che se prendi l'essere umano medio come metro di paragone un LLM è già enormemente avanti.

Se poi ti scolleghi dalla letteratura e andiamo su altri argomenti come la matematica, la geometria e così via l'unica domanda da porsi è come tanti siano diplomati e laureati senza conoscere non dico matematica e geometria avanzati ma roba da esame di terza media.

Infatti io ho scritto "sono strutturalmente molto limitati in un sacco di cose che sono banali per un essere umano quadratico medio".
Non ho scritto che sono inferiori per qualsiasi compito specifico rispetto a qualsiasi essere umano quadratici medio.

Anche in questo se ci fai caso entra in gioco l'antropomorfizzazione dell'interlocutore "AI" che istintivamente scatta nella propria testa quando si interagisce con esse.

I difetti ed i limiti degli esseri umani bene o male vivendo ed interagendo col tempo li si conosce, un LLM per quanto interagisca bene ha limiti e "failure mode" molto diversi.

Una delle cose terrificanti che sono emerse man mano che la bolla "AI" si gonfiava guardacaso é che il vero pericolo non solo le AI generaliste, ma il lato oscuro degli esseri umani stessi.
Molti di quelli che hanno scommesso forte sui LLM li vedono come un modo per accentrare ricchezza e potere nelle loro mani a prescindere che la bolla esploda o meno.
Se avranno successo, i "fornitori di servizi AI" in pratica avranno di fatto il controllo delle aziende che utilizzeranno i loro agenti AI per ridurre il personale.

[Piedone1113]

Originariamente inviato da Darkon

Ribadisco che uno smartphone ANCHE con permessi root e codice installato al sommo scopo di far prendere fuoco alla batteria è molto ma molto difficile riuscirci.

Pia illusione, i sistemi di carica sono praticamente tutti uguali ( per produttore ) sia per la carica da 10w che quella da 150w.
Dimmi, cosa succede se una batteria con carica da 30w viene ricaricata a 150w?
E cosa succede se una batteria con carica da 150w viene continuata ad essere alimentata a 150w invece che a 30w quando la sua capacità è gia olltre il 90%?
proprio la gestione della carica è tutta software, ma la stessa cosa è applicabile al cavo ( che andrà a sciogliersi se non capace di portare quell'intensità di corrente mentre il software lo obbliga modificando parametri di controllo.

[Darkon]

Originariamente inviato da Piedone1113

Pia illusione, i sistemi di carica sono praticamente tutti uguali ( per produttore ) sia per la carica da 10w che quella da 150w.
Dimmi, cosa succede se una batteria con carica da 30w viene ricaricata a 150w?

Che nella stragrande maggioranza dei casi non ci riesci via software perché la ricarica è limitata dall'hardware. Il fatto che il connettore e parte del sistema di ricarica sia lo stesso non significa che sia esattamente identico e almeno nei modelli che ho smontato per riparazioni varie c'è sempre qualche sistema di limitazione della corrente anche perché altrimenti se fosse controllato solo via software anche un picco improvviso di corrente potrebbe annientare l'elettronica dello smartphone prima che qualsiasi sistema di protezione logico via software possa intervenire invece ci sono video dove testano smartphone con killer USB e spesso non riescono a fare danni.

E cosa succede se una batteria con carica da 150w viene continuata ad essere alimentata a 150w invece che a 30w quando la sua capacità è gia olltre il 90%?

Questo è già più fattibile ma premesso che tutto questo viene nella quasi totalità dei casi gestito da firmware inaccessibili che quindi sarebbe molto molto complesso alterare ma comunque se è vero che l'incendio in questo caso è possibile lo scenario più probabile rimane che l'anodo si placchi, la batteria degrada, gonfia e smette di accettare corrente. Per arrivare all'incendio dovresti avere una corrente estremamente oltre specifiche tale da far fondere il separatore prima che la batteria degradi l'anodo e perca conducibilità.
Secondo me sono scenari da film... estremamente complicati da realizzare, il cui esito anche se la batteria prende effettivamente fuoco potrebbe limitarsi a pochi danni a un comodino e fine... insomma una metodologia che ritengo oltremodo complicata, poco efficiente e poco efficace.
Salvo che uno dorma letteralmente con lo smartphone sotto il cuscino mi sentirei di dire che è molto improbabile uccidere qualcuno in questo modo.

proprio la gestione della carica è tutta software, ma la stessa cosa è applicabile al cavo ( che andrà a sciogliersi se non capace di portare quell'intensità di corrente mentre il software lo obbliga modificando parametri di controllo.

1) No, non è tutta software. Trovi video a volontà che dimostrano che c'è una fetta importante in qualsiasi smartphone che è gestita hardware e ci mancherebbe altro visto che i tempi con cui un software può intervenire sarebbero tali da rendere pericoloso se fosse tutto e solo software.

2) Buona fortuna a squagliare il cavo. Dovresti far passare tanta di quella corrente che dovresti hackerare anche l'alimentatore. Senza contare che i cavi USB soprattutto ora con USB-C sono anch'essi controllati da chip con firmware non modificabili che non permettono correnti troppo elevate.

Ripeto sono scenari da film... non dico impossibili per forza ma complicatissimi da realizzare e veramente poco, poco efficaci. Non ha proprio senso pensare di uccidere qualcuno in un modo così inefficiente. Tra l'altro un caso del genere può teoricamente passare inosservato ma già capitasse 2 o 3 volte desterebbe immediatamente l'attenzione e diventerebbe un caso e quindi a maggior ragione sarebbe uno scenario che anche uno non particolarmente sveglio eviterebbe.

[Piedone1113]

Originariamente inviato da Darkon

Che nella stragrande maggioranza dei casi non ci riesci via software perché la ricarica è limitata dall'hardware. Il fatto che il connettore e parte del sistema di ricarica sia lo stesso non significa che sia esattamente identico e almeno nei modelli che ho smontato per riparazioni varie c'è sempre qualche sistema di limitazione della corrente anche perché altrimenti se fosse controllato solo via software anche un picco improvviso di corrente potrebbe annientare l'elettronica dello smartphone prima che qualsiasi sistema di protezione logico via software possa intervenire invece ci sono video dove testano smartphone con killer USB e spesso non riescono a fare danni.

I picchi di corrente sono gestiti dall'alimentatore ( pwm) e non dall'elettronica del dispositivo.
Il famoso chip di controllo è una semplice resistenza che avvia solo la carica ( e non la gestione della corrente) collegata alla massa ed al pin 1 dati ( quindi simulabile digitalmente)
Tutti i favolosi sisstemi di protezione non esistono, sono solo contrattazioni logiche per avviare la carica e contrattare l'intensità della stessa.
Secondo te se uno scenario non è previsto è possibile che sia implementata una misura di sicurezza nei fatti inutile e che mai si verificherà ( nelle previsioni)?

[Darkon]

Originariamente inviato da Piedone1113

I picchi di corrente sono gestiti dall'alimentatore ( pwm) e non dall'elettronica del dispositivo.

Sei sempre così assoluto... sono gestiti ANCHE dall'alimentatore ma non solo. Ripeto trovi i video facilmente dove collegano una USB killer direttamente al telefono e se non ci fosse controllo semplicemente ucciderebbe il telefono.

Il famoso chip di controllo è una semplice resistenza che avvia solo la carica ( e non la gestione della corrente) collegata alla massa ed al pin 1 dati ( quindi simulabile digitalmente)

Ma sarà stato così 10 anni fa. Oggi non almeno sui telefoni di alta gamma non è assolutamente solo così.

Tutti i favolosi sisstemi di protezione non esistono, sono solo contrattazioni logiche per avviare la carica e contrattare l'intensità della stessa.
Secondo te se uno scenario non è previsto è possibile che sia implementata una misura di sicurezza nei fatti inutile e che mai si verificherà ( nelle previsioni)?

Guarda ti linko uno short poi se vuoi trovi il video lungo:

TEST

Se fosse come dici il picco creato DOPO la negoziazione dovrebbe far letteralmente esplodere mezza elettronica e non c'è negoziazione logica che possa bloccare una scarica istantanea del genere.

Il punto è che invece i problemi da picco sono eccome previsti perché sono più probabili di quello che sembra a partire dai famosi alimentatori che dovrebbero filtrare ma che spesso, specie quando vengono comprati di dubbia provenienza non filtrano per una cacchio e anzi ci sono sono stati casi in cui hanno lasciato passare la 220 AC. Quindi una protezione contro i picchi di corrente e scariche improvvise oggi è assolutamente essenziale.

Poi oh... se non ci credi basta che ti devo dire... più di quello che ho scritto e che ho linkato non so come altro documentartelo.