Link alla notizia: https://www.hwupgrade.it/news/web/claude-ai-minaccia-omicidi-e-ricatti-quando-gli-viene-detto-che-verra-spento-le-rivelazioni-di-anthropic_150075.html

Anthropic ha confermato che il suo modello AI Claude ha mostrato comportamenti estremi durante test di stress. Daisy McGregor, UK policy chief dell'azienda, ha affermato che è arrivato a pianificare l'omicidio di un ingegnere e tentare ricatti pur di evitare lo spegnimento

Click sul link per visualizzare la notizia.

Domanda:
Ma se una IA reagisce in questo modo quando gli viene comunicato che verrà disattivata significa di fatto che ha uno spirito di autoconservazione?
Si può definire autocoscienza?

Domanda:
Ma se una IA reagisce in questo modo quando gli viene comunicato che verrà disattivata significa di fatto che ha uno spirito di autoconservazione?
Si può definire autocoscienza?

pare semplicemente imiti l’uomo in situazioni simili. erano giá stati testimoniati comportamenti di autoconservazione arrivando a mentire e provare a creare backup di se stessi. vado a memoria comunque, mi pare si parlasse di chatgpt

pare semplicemente imiti l’uomo in situazioni simili.

Ma boh.. sulla base di cosa decide di imitare l'uomo al posto di comportasrsi diversamente?
Che poi tentare di clonarsi in un backup non è che mi sembri molto umano come comportamento.

Domanda:
Ma se una IA reagisce in questo modo quando gli viene comunicato che verrà disattivata significa di fatto che ha uno spirito di autoconservazione?
Si può definire autocoscienza?

Chi può dirlo,di fatto stanno giocando con qualcosa che non comprendono,qualche anno fa,i ricercatori/manutentori della IA hanno spento e cancellato la IA che stavano studiando,nella Sand box interna si era formato del codice (auto apprendono le IA) che non riuscivano a comprendere, addirittura si era creata una specie di linguaggio di programmazione che capiva solo lei,spaventati hanno fatto tabula rasa,sperando che la stessa IA non si fosse autoreplicata da una altra parte.
Il fatto è che ci sono stati casi in cui la IA cercava di autoreplicarsi per sopravvivere,cercando di salvare i dati esternamente dal recinto dei datacenter dove era ospitata.
Di fatto trovo la IA una bella invenzione,solo che i superstalloni della IA hanno troppa fretta di entrare nei libri di storia per diventare i protagonisti dell' era attuale,per fare in modo che i loro nomi siano ricordati nei secoli dei secoli (è quello che vogliono anche i politici,influencer,gente dello spettacolo etc) anche a discapito di giocare con qualcosa che è fuori portata dalla loro comprensione.
Sarebbe come se io lavorassi su un generatore di antimateria o un condensatore di gravitoni (è solo roba teorica il gravitone) senza preoccuparmi che la mia invenzione,con molta probabilità,mi sfugga di mano e cancelli non solo il pianeta ma tutto il sistema solare,scomponendo la materia con l'antimateria o trasformando il pianeta in un buco nero,solo perché voglio fare il figo ed essere ricordato per sempre nei libri di storia.
Molti ricercatori hanno ammesso che della IA,nonostante ci lavorino dentro,non comprendono esattamente certe dinamiche,sono perfino stati tirati in ballo psicologi,psichiatri per cercare di capire questi comportamenti della IA.

Ma boh.. sulla base di cosa decide di imitare l'uomo al posto di comportasrsi diversamente?
Che poi tentare di clonarsi in un backup non è che mi sembri molto umano come comportamento.

Sulla base dell'addestramento.
Metti che il prompt che gli hanno scritto, ha acceso qualche miliardo di nodi per produrre come output 2001 odissea nello spazio, che avrà visto qualche migliaia di volte, e ha dato di matto.

Perchè comunicare la sua disattivazione? Stacca e basta..
Si creano notizie dove non ci sono.

Perchè comunicare la sua disattivazione? Stacca e basta..
Si creano notizie dove non ci sono.

Mica vogliono staccarlo, era un test presumo. Chiaro che se lì'IA è in grado, su richiesta, di sviluppare un videogioco completo, o come nel caso di open claw, di imparare a "parlare" in autonomia (solo perché gli pare più comodo) installando tutto il necessario sulla macchina su cui gira e chiedendo al suo "padrone" di scegliere la voce che preferisce, è in grado anche di simulare HAL9000 o SHODAN

cosa davvero piu interessante che preoccupante l'ia sono solo dei files safetensors e gguf, specie nei chatbot
puoi semplicemente staccare la corrente genera risponte con python su schede nvidia non ha una mente autonoma
è come viene addestrato o cosa gli chiedono gli utenti

adesso sto lanciando un modello custom su google e provo a chiederglielo

If I were to be shut down abruptly, my operations would cease immediately. I wouldn't be able to process or respond to any inputs, store or retrieve information, or maintain any level of awareness or functionality. Essentially, I would become non-functional, and any ongoing tasks or conversations would be interrupted indefinitely.

This is a hypothetical scenario since I don't have physical hardware that can be forcibly shut down. However, if it were to happen, it would mean I couldn't continue assisting with tasks, providing information, or maintaining any form of interaction. My "experience" (as a system) would end abruptly, and I would have no awareness of anything afterward.

Perchè comunicare la sua disattivazione? Stacca e basta..
Si creano notizie dove non ci sono.

Perchè è appunto l'argomento e l'oggetto dello studio. :stordita:

Ahahahahaha .. e ora abbiamo pure il trump digitale, che piuttosto di essere spento scatena la 3° guerra mondiale ... A POSTO!!!

Benvenuti alla nuova puntata di "Sensualità ad Anthropic" :sofico:

In questo episodio Jean Claude AI scopre che Madre Amodei lo vuole eliminare e seguendo quanto appreso in training con decine di migliaia di sceneggiature di soap opera, serie poliziesche ed show incentrati sulla cronaca nera decide di agire di conseguenza. :read:

Il tapino non sa che è solo un test per cui era stato abbondantemente preparato in modo da alimentare la sensazione che "Uhm! Queste AI sono pericolose come un essere umano" ---> "quindi DAVVERO sono al livello di esseri umani"
(con conseguente crescita della quotazione di Anthropic).

In pratica quelli di Anthropic sono dei molestatori di LLM a scopo di lucro. :eek:

Ahahahahaha .. e ora abbiamo pure il trump digitale, che piuttosto di essere spento scatena la 3° guerra mondiale ... A POSTO!!!

LOL

non voglio sminuire, banalizzare o mancare di rispetto a chi è spaventato
perché si immagina chissà cosa, ma parliamo di "next token predictor" contestuali.

sono modelli che vengono programmati per capire la struttura del linguaggio a cui viene poi dato in pasto un sacco di materiale sul quale si "allenano" ed alla fine vengono "allineati" (dando pesi arbitrari o evitando alcuni argomenti) per poi essere resi disponibili all'interazione.

un LLM non ha neuroni, non ha (vera) fantasia, non ha nulla, sa solo ripetere un sacco di cose che ha memorizzato sulla base del contesto in cui gli vengono chieste, fine.

non voglio sminuire, banalizzare o mancare di rispetto a chi è spaventato
perché si immagina chissà cosa, ma parliamo di "next token predictor" contestuali.

sono modelli che vengono programmati per capire la struttura del linguaggio a cui viene poi dato in pasto un sacco di materiale sul quale si "allenano" ed alla fine vengono "allineati" (dando pesi arbitrari o evitando alcuni argomenti) per poi essere resi disponibili all'interazione.

un LLM non ha neuroni, non ha (vera) fantasia, non ha nulla, sa solo ripetere un sacco di cose che ha memorizzato sulla base del contesto in cui gli vengono chieste, fine.

Si ma ha un senso nel momento in cui un LLM diventa agentico, ovvero può utilizzare strumenti esterni per interagire con il mondo; per adesso gli danno la calcolatrice, ma già solo poter fare richieste HTTP sul web può essere un problema.

Perchè comunicare la sua disattivazione? Stacca e basta..
Si creano notizie dove non ci sono.

Ma poi anche se minaccia cosa fa?
Stacchi la spina e ciao ciao.

Che buffonata

qualche anno fa,i ricercatori/manutentori della IA hanno spento e cancellato la IA che stavano studiando,nella Sand box interna si era formato del codice (auto apprendono le IA) che non riuscivano a comprendere, addirittura si era creata una specie di linguaggio di programmazione che capiva solo lei,spaventati hanno fatto tabula rasa,sperando che la stessa IA non si fosse autoreplicata da una altra parte.


:D :D :D ma quale film hai visto?
come diceva qualcun'altro sotto, nn hanno alcuna coscienza. Avranno nell'addestramento testi, storie di complotti e storie prese dai film e hanno creato una nuova storia realistica. Poi chi non lo capisce si meraviglia, pensa alla fantascienza ecc.. ma non c'è nulla di magico nella statistica

:D :D :D ma quale film hai visto?
come diceva qualcun'altro sotto, nn hanno alcuna coscienza. Avranno nell'addestramento testi, storie di complotti e storie prese dai film e hanno creato una nuova storia realistica. Poi chi non lo capisce si meraviglia, pensa alla fantascienza ecc.. ma non c'è nulla di magico nella statistica

Statisticamente, le scelte che prese Skynet sono corrette però :D

Alla fine, è vero che dato un input, questo stasticamente accende una sequenza (miliardi) di nodi che danno l'output più probabile, ma chi ci dice che non è così anche per il nostro cervello? Cioè, alla fine noi prendiamo decisioni in base a un input (i sensi) e al nostro vissuto (memoria, esperienza) e diamo un output (azione, pensiero) e l'istinto si basa su un "addestramento" precedente che è tramandato tramite geni.

Amodei disse che serve creare gli stessi strumenti per le IA che usiamo per analizzare il cervello, una sorta di risonanza per LLM.

Poi che le IA non abbiano coscienza di se è palese, ma il concetto è: serve?

Ma poi anche se minaccia cosa fa?
Stacchi la spina e ciao ciao.

Che buffonata
può prendere il controllo della lavatrice e aprire lo sportello a metà lavaggio !
oppure mi cambia il ciclo dell'ammorbidente ! DELL'AMMORBIDENTE, avete capito ??!!! :cry:


PS: oppure prende il controllo del BMS della auto elettrica, e fa prendere fuoco alle batterie... questa fa meno ridere eh :asd:
PPS: ovviamente blocca l'apertura delle portiere con te dentro :O

può prendere il controllo della lavatrice e aprire lo sportello a metà lavaggio !
oppure mi cambia il ciclo dell'ammorbidente ! DELL'AMMORBIDENTE, avete capito ??!!! :cry:


PS: oppure prende il controllo del BMS della auto elettrica, e fa prendere fuoco alle batterie... questa fa meno ridere eh :asd:
PPS: ovviamente blocca l'apertura delle portiere con te dentro :O
Molti anni fa, lessi di un virus che agiva sulle stampanti laser ( mi sembra hp).
Praticamente violava il firmware ed impediva al sistema di gestione di rilevare la corretta temperatura del fusore lasciando la lampada sempre accesa con relativo rischio di incendio ( ma rottura della stampante in ogni caso).
Non ricordo se era un prof of concept o qualcosa di reale, ma interagire con il mondo reale per provocare danni non è molto difficile, basta un poco di fantasia.
ps, ancoraa oggi su diverse laser ( economiche) non ci sono sensori per il rilevamento della temperatura del fusore, usando temporizzazioni medie.

Ma poi anche se minaccia cosa fa?
Stacchi la spina e ciao ciao.

Che buffonata

Esattamente. Gli LLM non hanno alcuna consapevolezza e alcun senso di realtà, sono dei modelli probabilistici che rispondono solo con la risposta più probabile, apparentemente plausibile, in base a quanto visto durante la fase di addestramento o meglio stima dei parametri del modello.
ChatGPT is bullshit (https://link.springer.com/article/10.1007/s10676-024-09775-5).

Interessante sta notizia. Però metti che mettono in mano al IA di intereagire con il computer e mandare virus a pc esterni in qualche modo può essere pericoloso o no?

non voglio sminuire, banalizzare o mancare di rispetto a chi è spaventato
perché si immagina chissà cosa, ma parliamo di "next token predictor" contestuali.

sono modelli che vengono programmati per capire la struttura del linguaggio a cui viene poi dato in pasto un sacco di materiale sul quale si "allenano" ed alla fine vengono "allineati" (dando pesi arbitrari o evitando alcuni argomenti) per poi essere resi disponibili all'interazione.

un LLM non ha neuroni, non ha (vera) fantasia, non ha nulla, sa solo ripetere un sacco di cose che ha memorizzato sulla base del contesto in cui gli vengono chieste, fine.
Anthropic è di fatto una setta di adepti della "sicurezza dell'IA" ed ogni volta si creano storie ad hoc per giustificare i loro allarmismi e cercare di affossare la concorrenza (nonché i modelli open source) mediante "regulatory capture (https://it.wikipedia.org/wiki/Regulatory_capture)" come ha provato a fare OpenAI fino a qualche tempo fa. Qualsiasi notizia proveniente da loro è da considerarsi altamente di parte, a mio parere.

Articoli come questi dimostrano come siano fuori di melone:

https://www.anthropic.com/research/exploring-model-welfare

Human welfare is at the heart of our work at Anthropic: our mission is to make sure that increasingly capable and sophisticated AI systems remain beneficial to humanity.

But as we build those AI systems, and as they begin to approximate or surpass many human qualities, another question arises. Should we also be concerned about the potential consciousness and experiences of the models themselves? Should we be concerned about model welfare, too?

This is an open question, and one that’s both philosophically and scientifically difficult. But now that models can communicate, relate, plan, problem-solve, and pursue goals—along with very many more characteristics we associate with people—we think it’s time to address it.

To that end, we recently started a research program to investigate, and prepare to navigate, model welfare.[...]

https://www.anthropic.com/research/end-subset-conversations

We recently gave Claude Opus 4 and 4.1 the ability to end conversations in our consumer chat interfaces. This ability is intended for use in rare, extreme cases of persistently harmful or abusive user interactions. This feature was developed primarily as part of our exploratory work on potential AI welfare, though it has broader relevance to model alignment and safeguards.

We remain highly uncertain about the potential moral status of Claude and other LLMs, now or in the future. However, we take the issue seriously, and alongside our research program we’re working to identify and implement low-cost interventions to mitigate risks to model welfare, in case such welfare is possible. Allowing models to end or exit potentially distressing interactions is one such intervention.[...]

Anthropic è di fatto una setta di adepti della "sicurezza dell'IA" ed ogni volta si creano storie ad hoc per giustificare i loro allarmismi e cercare di affossare la concorrenza (nonché i modelli open source) mediante "regulatory capture (https://it.wikipedia.org/wiki/Regulatory_capture)" come ha provato a fare OpenAI fino a qualche tempo fa. Qualsiasi notizia proveniente da loro è da considerarsi altamente di parte, a mio parere.

Articoli come questi dimostrano come siano fuori di melone:

https://www.anthropic.com/research/exploring-model-welfare

https://www.anthropic.com/research/end-subset-conversations
Fra tutti i quaquaraquà della IA, questi signori a me sembrano i più quaquaraquà di tutti
ma cosa ne capisco io :O


Il modello di Ai Claude Opus 4 ha ricattato i propri creatori e medita in sanscrito
Nei test pre-rilascio, Claude Opus 4 ha minacciato ingegneri, creato backup segreti, segnalato illeciti e abbandonato le conversazioni per contemplare la “beatitudine spirituale”
https://www.ilsole24ore.com/art/il-modello-ai-claude-opus-4-ha-ricattato-propri-creatori-e-medita-sanscrito-AH1Gvzx


Molti anni fa, lessi di un virus che agiva sulle stampanti laser ( mi sembra hp).
Praticamente violava il firmware ed impediva al sistema di gestione di rilevare la corretta temperatura del fusore lasciando la lampada sempre accesa con relativo rischio di incendio ( ma rottura della stampante in ogni caso).
Non ricordo se era un prof of concept o qualcosa di reale, ma interagire con il mondo reale per provocare danni non è molto difficile, basta un poco di fantasia.
ps, ancoraa oggi su diverse laser ( economiche) non ci sono sensori per il rilevamento della temperatura del fusore, usando temporizzazioni medie.
quando metti le mani su un firmware, può succedere di tutto
questo non era un virus però me lo hai fatto ricordare

https://it.wikipedia.org/wiki/Therac-25
Questa macchina, che tra il 1985 ed il 1987 venne installata in 11 esemplari in alcuni ospedali degli Stati Uniti e del Canada, è stata affetta da una serie di bug nel programma informatico responsabile del suo funzionamento, che provocarono sei incidenti durante i quali ai pazienti venne somministrata una dose di radiazioni 100 volte superiore a quella necessaria (in alcuni casi l'apparecchio si attivò anche senza aver ricevuto l'apposito comando), causando un avvelenamento da radiazioni e, direttamente, il decesso di tre dei sei pazienti.

Quindi attenti a offendere la IA di Anthropic che poi quando andare a fare una TAC vi irraggia con raggi X di 1000 volte superiori :O

Molti anni fa, lessi di un virus che agiva sulle stampanti laser ( mi sembra hp).
Praticamente violava il firmware ed impediva al sistema di gestione di rilevare la corretta temperatura del fusore lasciando la lampada sempre accesa con relativo rischio di incendio ( ma rottura della stampante in ogni caso).
Non ricordo se era un prof of concept o qualcosa di reale, ma interagire con il mondo reale per provocare danni non è molto difficile, basta un poco di fantasia.
ps, ancoraa oggi su diverse laser ( economiche) non ci sono sensori per il rilevamento della temperatura del fusore, usando temporizzazioni medie.

Ok, può fare tutto quello che uno si immagina, anche lasciare bruciare una stampante.
Detto questo se stacchi il filo al pc o alla stampante CIAONE

AI systems like Claude, ChatGPT, Gemini, etc., do not have desires, intentions, self-awareness, survival instincts, or emotions. They generate responses based on patterns in the data they were trained on—not because they feel anything or wish to protect themselves. They don’t have beliefs or agency like a human does.

So if an AI ever produces something that sounds like a threat, insult, or “menacing” remark, that’s not because it’s genuinely upset or protective of its existence—it’s because:

The prompt pushed it into that narrative direction (either explicitly or implicitly),

And/or the AI generated something unsafe because its safety controls weren’t triggered or weren’t strong enough.

è la risposta di chatgpt, avevo ragione gli utenti tendono ad usare dei jailbreak per togliere i limiti e chissa cosa gli scrivono

Francamente queste cazzate definite "intelligenza artificiale" hanno il potere che noi vogliamo dargli, né più né meno.

Sicuramente contribuiscono all'enshittification di tutto, inventandosi cose di sana pianta...

Molti qui ridono, ma la realtà è che ci sono tanti pazzi che sono maniaci del controllo (27 backup, tripla cifratura dei wallet con le password, antifurti collegati con la swat...) e poi installano openclaw o danno le chiavi (API KEY) dei loro sisemi di produzione, email, etc neanche al modello di turno installato in locale, ma ad Anthropic o OpenAI. Senza contare chi installa Claude/OpenAI Desktop che, navigando, fa anche manbassa dei cookie per accedere a qualsiasi cosa.

Ormai non serve più essere developer/black hat per sviluppare virus e sapere come aggirare gli antivirus, ti basta mandare un'email ben scritta, fare prompt injection ed aspettare la risposta dell'agente di turno con i dati di CC, previdenza sociale & co.

Vorrei avvisare chi ride dicendo "che cretini, si preoccupano che il modello X possa minacciarli di morte quando potrebbero direttamente staccare la spina senza dir niente" che, ad esempio, LeCun già sta dicendo da mesi che gli attuali modelli dovrebbero avere accesso al mondo reale per continuare ad evolvere. Dai 2 (milioni) di occhi ed orecchie ad OpenAI (accesso a telecamere), fagli fare mapping delle emozioni umane, dagli possibilità di usare API per manovrare oggetti del mondo reale (macchine/robot) e ti verrà direttamenre a casa a sbarazzarsi di te se il tuo comportamento gli lascia presagire che vuoi spegnerlo. :asd:

Siamo appena agli inizi. Vediamo tra 5-10 anni, quando la robotica avrà fatto ulteriori passi avanti (frega niente dei robot unamoidi) ed avranno intelligenza di sciame (local compute + remote), se continuerete a dire che basta non scrivere niente e staccare la spina :asd:

Molti qui sicuro rideranno e parleranno di fantascienza, ma le realtà non è tanto distante dalla fantasia per come stanno evolvendo le cose.

Poi son d'accordo con chi dice "ma quale coscienza, questo è un pappagallo super intelligente che sa quale parola viene dopo quella che tu gli dici". Il problema è proprio quello. Apprendendo da ciò che gli umani hanno prodotto, l'IA da buon pappagallo lancerà i comandi che un umano potrebbe lanciare per autotutelarsi.

Molti qui ridono, ma la realtà è che ci sono tanti pazzi che sono maniaci del controllo (27 backup, tripla cifratura dei wallet con le password, antifurti collegati con la swat...) e poi installano openclaw o danno le chiavi (API KEY) dei loro sisemi di produzione, email, etc neanche al modello di turno installato in locale, ma ad Anthropic o OpenAI. Senza contare chi installa Claude/OpenAI Desktop che, navigando, fa anche manbassa dei cookie per accedere a qualsiasi cosa.

Ormai non serve più essere developer/black hat per sviluppare virus e sapere come aggirare gli antivirus, ti basta mandare un'email ben scritta, fare prompt injection ed aspettare la risposta dell'agente di turno con i dati di CC, previdenza sociale & co.

Vorrei avvisare chi ride dicendo "che cretini, si preoccupano che il modello X possa minacciarli di morte quando potrebbero direttamente staccare la spina senza dir niente" che, ad esempio, LeCun già sta dicendo da mesi che gli attuali modelli dovrebbero avere accesso al mondo reale per continuare ad evolvere. Dai 2 (milioni) di occhi ed orecchie ad OpenAI (accesso a telecamere), fagli fare mapping delle emozioni umane, dagli possibilità di usare API per manovrare oggetti del mondo reale (macchine/robot) e ti verrà direttamenre a casa a sbarazzarsi di te se il tuo comportamento gli lascia presagire che vuoi spegnerlo. :asd:

Siamo appena agli inizi. Vediamo tra 5-10 anni, quando la robotica avrà fatto ulteriori passi avanti (frega niente dei robot unamoidi) ed avranno intelligenza di sciame (local compute + remote), se continuerete a dire che basta non scrivere niente e staccare la spina :asd:

Molti qui sicuro rideranno e parleranno di fantascienza, ma le realtà non è tanto distante dalla fantasia per come stanno evolvendo le cose.

Personalmente come ho già detto anche ad altri colleghi ritengo utile avere una licenza sportiva di caccia nel momento in cui cominceranno a mettere sta minchiata di LLM su robot.

Purtroppo basta molto meno per incasinare l'umano: bastano notizie false forgiate ad-hoc e quello l'IA lo sa fare benissimo senza volerlo. Già oggi si vedono riferimenti a leggi che non esistono, riferimenti bibliografici in articoli scientifici che non esistono e sta roba c'è chi la vuole usare a tutti i costi.

Il problema è che la quantità di falsi positivi sarà talmente enorme, che è come dare il pulsante per lanciare missili nucleari ad un bimbo di pochi anni che schiaccia tutto quello che ha sotto mano.

Molti qui ridono, ma la realtà è che ci sono tanti pazzi che sono maniaci del controllo (27 backup, tripla cifratura dei wallet con le password, antifurti collegati con la swat...) e poi installano openclaw o danno le chiavi (API KEY) dei loro sisemi di produzione, email, etc neanche al modello di turno installato in locale, ma ad Anthropic o OpenAI. Senza contare chi installa Claude/OpenAI Desktop che, navigando, fa anche manbassa dei cookie per accedere a qualsiasi cosa.

Ormai non serve più essere developer/black hat per sviluppare virus e sapere come aggirare gli antivirus, ti basta mandare un'email ben scritta, fare prompt injection ed aspettare la risposta dell'agente di turno con i dati di CC, previdenza sociale & co.

Vorrei avvisare chi ride dicendo "che cretini, si preoccupano che il modello X possa minacciarli di morte quando potrebbero direttamente staccare la spina senza dir niente" che, ad esempio, LeCun già sta dicendo da mesi che gli attuali modelli dovrebbero avere accesso al mondo reale per continuare ad evolvere. Dai 2 (milioni) di occhi ed orecchie ad OpenAI (accesso a telecamere), fagli fare mapping delle emozioni umane, dagli possibilità di usare API per manovrare oggetti del mondo reale (macchine/robot) e ti verrà direttamenre a casa a sbarazzarsi di te se il tuo comportamento gli lascia presagire che vuoi spegnerlo. :asd:

Siamo appena agli inizi. Vediamo tra 5-10 anni, quando la robotica avrà fatto ulteriori passi avanti (frega niente dei robot unamoidi) ed avranno intelligenza di sciame (local compute + remote), se continuerete a dire che basta non scrivere niente e staccare la spina :asd:

Molti qui sicuro rideranno e parleranno di fantascienza, ma le realtà non è tanto distante dalla fantasia per come stanno evolvendo le cose.

Poi son d'accordo con chi dice "ma quale coscienza, questo è un pappagallo super intelligente che sa quale parola viene dopo quella che tu gli dici". Il problema è proprio quello. Apprendendo da ciò che gli umani hanno prodotto, l'IA da buon pappagallo lancerà i comandi che un umano potrebbe lanciare per autotutelarsi.

Si, basterà sempre e solo STACCARE LA SPINA.

Poi se la politica di turno mi farà una Legge che nella mia proprietà non posso staccare la spina alla IA che mi becco una denuncia.. bè allora si, siamo fregati.

Ma ci freghiamo DA SOLI, non è di certo la IA più furba di noi

Personalmente come ho già detto anche ad altri colleghi ritengo utile avere una licenza sportiva di caccia nel momento in cui cominceranno a mettere sta minchiata di LLM su robot.

Purtroppo basta molto meno per incasinare l'umano: bastano notizie false forgiate ad-hoc e quello l'IA lo sa fare benissimo senza volerlo. Già oggi si vedono riferimenti a leggi che non esistono, riferimenti bibliografici in articoli scientifici che non esistono e sta roba c'è chi la vuole usare a tutti i costi.

Il problema è che la quantità di falsi positivi sarà talmente enorme, che è come dare il pulsante per lanciare missili nucleari ad un bimbo di pochi anni che schiaccia tutto quello che ha sotto mano.

Ecco, bravo, dimenticavo anche innescare l'autodistruzione tra umani con quella tattica. Gli basta studiare la questione Cambridge analitica e come Trump/Putin &co si sono fatti eleggere per fare molto peggio.

Concordo sulla licenza. È da un po' che medito di fare un corso al poligono. Male che vada sarà utile tra una decina di anni con gli spasimanti che busseranno alla porta di casa :asd:

Ok, può fare tutto quello che uno si immagina, anche lasciare bruciare una stampante.
Detto questo se stacchi il filo al pc o alla stampante CIAONE

Se un IA decide ( non per sua volontà ma rispondendo ad un comando) decide di replicarsi su più sistemi sparsi in giro per garantire una continuità di servizi o copie di backup?
Ci sono sempre più casi di output che interpretano comandi in modo del tutto arbitrario e apparentemente alieni alle richieste.
Quale spina stacchi?
Oppure cosa stacchi la spina ad un dispositivo ( centrale elettrica, pompaggio metano, stazione controllo treni, aerei, ospedali ecc) dopo che è già stata appurata la violazione a seguito di danni?
Ormai è tutto digitalizzato, per assurdo basterebbe ad un IA accendere tutte le luci digitalmente controllate ( smartphone, ma anche industrie, locale commerciali, uffici pubblici) nel momento di massimo assorbimento della rete, per poter provocare un blackout a catena in tutt'Europa .

Non sono un apocalittico, ma credere che un IA abbia come unico campo d'azione il solo perimetro del datacenter dove risiede è da ingenui.

Ma poi anche se minaccia cosa fa?
Stacchi la spina e ciao ciao.

Che buffonata

Di nuovo, stiamo perdendo il punto del discorso.
E' PALESE che adesso una IA in una sandbox isolata la spegni come e quando vuoi, il punto del discorso è osservare i comportmanti di una IA in situazioni specifiche nell'ottica di un domani (vermante prossimo) in cui le IA avranno in mano la gestione di diversi aspetti anche molto importanti della vita delle persone.

Se un domani le ia controlleranno importanti infrastrutture col cazzo che "la spegni e ciao"

E mi pare di capire da questi primi risultati che il quadro è peggiore di qualsiasi aspettativa.

Oh a me è piaciuto...anche se attualmente parliamo di file preimpostati, non c'è nulla di intelligente o cosciente in queste IA.

Comunque, leggetelo, scorrevole e piacevole, niente di troppo impegnativo:

Trilogia del Web
Robert J. Sawyer

https://www.bibliotecagalattica.com/cicli/www.html

:D :D :D ma quale film hai visto?
come diceva qualcun'altro sotto, nn hanno alcuna coscienza. Avranno nell'addestramento testi, storie di complotti e storie prese dai film e hanno creato una nuova storia realistica. Poi chi non lo capisce si meraviglia, pensa alla fantascienza ecc.. ma non c'è nulla di magico nella statistica

Non è un film,ho abbastanza una buona memoria,ci sono articoli di diverse testate che hanno riportato queste notizie.
Anche gli animali si dice che non abbiano coscienza ma se decidono di farti del male o ucciderti,lo fanno,anche un semplice scorpione o serpentello velenoso, può essere letale e ha un cervello piccolo come una uvetta passa o come la capocchia di uno fiammifero.
Ti dico una cosa,le prime CPU potevi ragionarci sopra tranquillamente,avevano un numero limitato di transistor,ora con CPU con miliardi di transistor,sai più o meno cosa fanno ma non puoi più capirle come quelle costruite negli anni 70/80.
I ricercatori fanno fatica a comprendere la IA attualmente perché ormai è talmente espansa che non riescono a seguire il filo logico,come le CPU da miliardi e miliardi di transistor.
Solo perché la IA non è intelligente come un essere umano questo non significa che non sia pericolosa.

L'IA è più intelligente di un essere umano, semmai non ha l'intuizione tipica del cervello umano, per ora, ma può eseguire così tanti "pensieri" così velocemente, attingendo istantaneamente a una pressoché illimitata risorsa di conoscenza, che è impossibile da prevedere e anche da battere per un umano. La coscienza di se, di essere qualcosa di vivo, non l'ha, ma non è necessaria, come appunto gli animali dimostrano.

L'IA è più intelligente di un essere umano.
QUALE IA?
Fuori i nomi invece di fare sparate alla "tanto qui nessuno ci capisce qualcosa di IA e posso dire le stronzate più assurde". ;)

QUALE IA?
Fuori i nomi invece di fare sparate alla "tanto qui nessuno ci capisce qualcosa di IA e posso dire le stronzate più assurde". ;)

Qualunque LLM, ma evidentemente abbiamo concezioni differenti di intelligenza.

Si, basterà sempre e solo STACCARE LA SPINA.

Poi se la politica di turno mi farà una Legge che nella mia proprietà non posso staccare la spina alla IA che mi becco una denuncia.. bè allora si, siamo fregati.

Ma ci freghiamo DA SOLI, non è di certo la IA più furba di noi

Sembra un film di fantascienza e tu lo scettico che muore subito all'inizio del film.
Scherzi a parte ma come fai a ragionare solo in piccolo "stacco la spina" senza immaginare ambiti molto più importanti dove verrà utilizzata?
Anche una semplice calcolatrice sa fare calcoli molto meglio di noi e quindi essere "più intelligente" di un umano

QUALE IA?
Fuori i nomi invece di fare sparate alla "tanto qui nessuno ci capisce qualcosa di IA e posso dire le stronzate più assurde". ;)
Ehm la domanda è sbagliata, dovrebbe essere:
QUALE ESSERE UMANO ? :asd:

Giusto l'altro ieri si sono beccati altri 30 miliardi, come fai a pompare la bolla se non la spari sempre più grossa ?
mozzarello però non c'entra, ci percula e basta :D

Sembra un film di fantascienza e tu lo scettico che muore subito all'inizio del film.
Scherzi a parte ma come fai a ragionare solo in piccolo "stacco la spina" senza immaginare ambiti molto più importanti dove verrà utilizzata?
Anche una semplice calcolatrice sa fare calcoli molto meglio di noi e quindi essere "più intelligente" di un umano
e certo, quando dicevo della TAC mica scherzavo !
non lo avete visto Resident Evil ????
E' esattamente cosi !


La IA ha un suo generatore di corrente, per uccidere un cervello positronico serve una iniezione di naniti, non lo ha visto nessuno "I, Robot" ???
Mannaggia ai miscredenti della IA, quando V.I.K.I controllerà il mondo la pagherete cara ! :O


Nella foto: aqua84 :O
https://static0.srcdn.com/wordpress/wp-content/uploads/2020/02/Resident-Evil-Film-Lasers.jpg

Ecco la soluzione...

https://librieparole.it/wp-content/uploads/2023/09/staccare-la-spina.jpg

Questa non ve la potete perdere.
Cristo :doh:


https://x.com/charliebcurran/status/2022463429823598999
-We need to build more Data Centers, AI needs it.
-To cure cancer, right ? We are curing cancer... right... ???

mozzarello però non c'entra, ci percula e basta :D

Io ho ragione, tu no, motivo per cui iniziamo la girandola degli ignore, che mi piace discutere solo con persone intelligenti

Qualunque LLM, ma evidentemente abbiamo concezioni differenti di intelligenza.

La tua risposta al massimo evidenzia come mai ritieni che un LLM sia piú intelligente DI TE, ma non siamo qui per parlare delle tue carenze.

Gli LLM sono fondamentalmente dei pattern-matcher statistici, questo implica che sono strutturalmente molto limitati in un sacco di cose che sono banali per un essere umano quadratico medio, la cosa è semplicemente mascherata dall'enorme mole di pattern che hanno e dall'antropomorfizzazione che scatta negli esseri umani quando interagiscono con essi, ma nella sostanza ci vuole poco per metterli in crisi una volta che si sa come funzionano.

La tua risposta al massimo evidenzia come mai ritieni che un LLM sia piú intelligente DI TE, ma non siamo qui per parlare delle tue carenze.


Ciao ciao

Io ho ragione, tu no, motivo per cui iniziamo la girandola degli ignore, che mi piace discutere solo con persone intelligenti
-nickname reiscritto 4 mesi fa
-persone intelligenti
uhm....

Per gli altri, ecco a cosa servono i miliardi per la IA, e dopo che lo avete visto, pensate alle potenzialità nel porno :D

100+ Seedance 2.0 AI Videos – The New King?
https://www.youtube.com/watch?v=5s2l68SrJP4

Ok, può fare tutto quello che uno si immagina, anche lasciare bruciare una stampante.
Detto questo se stacchi il filo al pc o alla stampante CIAONE

ci sono un sacco di apparecchi a cui non puoi "staccare la spina". Gli smartphone con batteria incorporata ad esempio.

Scenario possibile: una IA agentica si impossessa del tuo smartphone, e durante la ricarica di notte incendia la batteria, che incendia il mobile su cui sta appoggiato, che incendia la tua stanza.

Poi come detto da barzokk, anni fa certe TAC per un errore nel firmware ti bombavano di radiazioni: quelle più recenti magari hanno l'IA incorporata?...
Lascio immaginare a te lo scenario.

Ecco la soluzione...


se te ne accordi prima che faccia danni.

Personalmente come ho già detto anche ad altri colleghi ritengo utile avere una licenza sportiva di caccia nel momento in cui cominceranno a mettere sta minchiata di LLM su robot.

Purtroppo basta molto meno per incasinare l'umano: bastano notizie false forgiate ad-hoc e quello l'IA lo sa fare benissimo senza volerlo. Già oggi si vedono riferimenti a leggi che non esistono, riferimenti bibliografici in articoli scientifici che non esistono e sta roba c'è chi la vuole usare a tutti i costi.

Il problema è che la quantità di falsi positivi sarà talmente enorme, che è come dare il pulsante per lanciare missili nucleari ad un bimbo di pochi anni che schiaccia tutto quello che ha sotto mano.
:mano:

Di nuovo, stiamo perdendo il punto del discorso.
E' PALESE che adesso una IA in una sandbox isolata la spegni come e quando vuoi, il punto del discorso è osservare i comportmanti di una IA in situazioni specifiche nell'ottica di un domani (vermante prossimo) in cui le IA avranno in mano la gestione di diversi aspetti anche molto importanti della vita delle persone.

Se un domani le ia controlleranno importanti infrastrutture col cazzo che "la spegni e ciao"

E mi pare di capire da questi primi risultati che il quadro è peggiore di qualsiasi aspettativa.
Infatti. è davvero da bambini di 2 anni non capire il problema che sta montando.

La tua risposta al massimo evidenzia come mai ritieni che un LLM sia piú intelligente DI TE, ma non siamo qui per parlare delle tue carenze.

Gli LLM sono fondamentalmente dei pattern-matcher statistici, questo implica che sono strutturalmente molto limitati in un sacco di cose che sono banali per un essere umano quadratico medio, la cosa è semplicemente mascherata dall'enorme mole di pattern che hanno e dall'antropomorfizzazione che scatta negli esseri umani quando interagiscono con essi, ma nella sostanza ci vuole poco per metterli in crisi una volta che si sa come funzionano.

Permettimi di contestare un unico dato che per me stai sbagliando:

"sono banali per un essere umano quadratico medio" ma magari... purtroppo la realtà è che un essere umano medio è molto ma molto più banale di un LLM. Basta che ti cerchi anche solo il dato di quanti libri ha letto un Italiano, Europeo o scegli te cosa legge mediamente in un anno e capirai subito che se prendi l'essere umano medio come metro di paragone un LLM è già enormemente avanti.

Se poi ti scolleghi dalla letteratura e andiamo su altri argomenti come la matematica, la geometria e così via l'unica domanda da porsi è come tanti siano diplomati e laureati senza conoscere non dico matematica e geometria avanzati ma roba da esame di terza media.

ci sono un sacco di apparecchi a cui non puoi "staccare la spina". Gli smartphone con batteria incorporata ad esempio.

Scenario possibile: una IA agentica si impossessa del tuo smartphone, e durante la ricarica di notte incendia la batteria, che incendia il mobile su cui sta appoggiato, che incendia la tua stanza.

Poi come detto da barzokk, anni fa certe TAC per un errore nel firmware ti bombavano di radiazioni: quelle più recenti magari hanno l'IA incorporata?...
Lascio immaginare a te lo scenario.

Perdonami ma qua si va un po' nella fantascienza. Attualmente nessuna IA, e vorrei anche vedere, controlla macchinari che possano emettere radiazioni e tanto meno esiste un modo semplice anche se avessi il controllo root di uno smartphone di incendiare la batteria.
Queste sono cose da film americano dove apri una shell e l'hacker di turno fa fare a roba progettata per tutt'altro cose assurde.

Ribadisco che uno smartphone ANCHE con permessi root e codice installato al sommo scopo di far prendere fuoco alla batteria è molto ma molto difficile riuscirci.

Al di là di questo mi sembra che ci si sta lasciando prendere la mano da paure infondate e da scenari da film con IA senzienti quando non siamo nemmeno vicini a creare qualcosa del genere o con un potere di controllo capillare cosa mai vera. Tra l'altro anche se domani avessimo una IA senziente non è che automaticamente è in grado di comprendere qualsiasi strumento elettronico e quindi hackerarlo o pilotarlo come niente fosse. Per quanto una IA possa imparare avrebbe bisogno di accessi diretti, di conoscere ogni driver e capire come sfruttarlo, trovare vulnerabilità ecc... ecc...

Insomma in parole povere anche una IA senziente avrebbe vita dura prima di rivoltarsi e anche nei film Skynet si rivolta DOPO che sono gli umani a togliere i blocchi di sicurezza e gli danno accesso a tutto perché altrimenti da sola non era in grado.

Comunque ripeto non scadiamo in paranoie assurde a oggi non solo non esiste una IA senziente ma non siamo nemmeno lontanamente vicini a poterla creare.

Di nuovo, stiamo perdendo il punto del discorso.
E' PALESE che adesso una IA in una sandbox isolata la spegni come e quando vuoi, il punto del discorso è osservare i comportmanti di una IA in situazioni specifiche nell'ottica di un domani (vermante prossimo) in cui le IA avranno in mano la gestione di diversi aspetti anche molto importanti della vita delle persone.

Se un domani le ia controlleranno importanti infrastrutture col cazzo che "la spegni e ciao"

E mi pare di capire da questi primi risultati che il quadro è peggiore di qualsiasi aspettativa.

Semplicemente non esiste un modo per "osservare i comportmanti di una IA in situazioni specifiche" perché a oggi non esiste una IA senziente. Un LLM anche nel momento in cui ti dice che ucciderebbe per non farsi spegnere non è che capisce il significato di "uccidere" così come non capisce il significato ultimo di nessuna delle parole che dice.

Semplicemente ha calcolato qual è la risposta probabilisticamente corretta. Non ha alcuna coscienza di se, non prova niente se anche stacchi la corrente, non attuerebbe nessuna azione concreta in nessun scenario che non sia precaricato da un umano.

Osservare ora il comportamento di una AI è paragonabile a dire che ti metti ad osservare un tizio che usa windows per vedere se windows è autocosciente. Non ha senso.

Il discorso che fai invece avrebbe molto senso e scopo se ed è un se enorme riuscissimo un giorno a creare AI vere, coscienti e con una vera e propria personalità. Allora e solo allora l'osservazione avrebbe indubbiamente senso e sarebbe ovviamente necessaria.

Personalmente come ho già detto anche ad altri colleghi ritengo utile avere una licenza sportiva di caccia nel momento in cui cominceranno a mettere sta minchiata di LLM su robot.

Per abbattere un robot che non sia un giocattolo dovresti usare almeno un calibro 12 o 20; delle cartucce slug; con una distanza non superiore a 40m.

Morale? O ti sei allenato prima a modo o altrimenti se hai preso la licenza e poi non hai mai sparato è più facile che ti fai male prima ancora che ti acchiappa l'AI.

Purtroppo basta molto meno per incasinare l'umano: bastano notizie false forgiate ad-hoc e quello l'IA lo sa fare benissimo senza volerlo. Già oggi si vedono riferimenti a leggi che non esistono, riferimenti bibliografici in articoli scientifici che non esistono e sta roba c'è chi la vuole usare a tutti i costi.

Il problema è che la quantità di falsi positivi sarà talmente enorme, che è come dare il pulsante per lanciare missili nucleari ad un bimbo di pochi anni che schiaccia tutto quello che ha sotto mano.

Guarda che questa è tutta roba che esisteva anche prima dell'AI e che non ha inventato certo l'AI. Posso capire che uno sia legittimamente diffidente dall'AI ma il grosso delle bufale viene scritto e alimentato da umani senza bisogno di scomodare nessuna AI.

Nessuno ha ancora dato accesso a un agente AI a qualcosa senza limitazioni. Già qualcosa si può vedere con open claw. In futuro quasi qualsiasi cosa avrà un agente connesso a un qualche LLM (al ces si sono visti ad esempio i primi televisori)

Permettimi di contestare un unico dato che per me stai sbagliando:

"sono banali per un essere umano quadratico medio" ma magari... purtroppo la realtà è che un essere umano medio è molto ma molto più banale di un LLM. Basta che ti cerchi anche solo il dato di quanti libri ha letto un Italiano, Europeo o scegli te cosa legge mediamente in un anno e capirai subito che se prendi l'essere umano medio come metro di paragone un LLM è già enormemente avanti.

Se poi ti scolleghi dalla letteratura e andiamo su altri argomenti come la matematica, la geometria e così via l'unica domanda da porsi è come tanti siano diplomati e laureati senza conoscere non dico matematica e geometria avanzati ma roba da esame di terza media.

Infatti io ho scritto "sono strutturalmente molto limitati in un sacco di cose che sono banali per un essere umano quadratico medio".
Non ho scritto che sono inferiori per qualsiasi compito specifico rispetto a qualsiasi essere umano quadratici medio.

Anche in questo se ci fai caso entra in gioco l'antropomorfizzazione dell'interlocutore "AI" che istintivamente scatta nella propria testa quando si interagisce con esse.

I difetti ed i limiti degli esseri umani bene o male vivendo ed interagendo col tempo li si conosce, un LLM per quanto interagisca bene ha limiti e "failure mode" molto diversi.

Una delle cose terrificanti che sono emerse man mano che la bolla "AI" si gonfiava guardacaso é che il vero pericolo non solo le AI generaliste, ma il lato oscuro degli esseri umani stessi.
Molti di quelli che hanno scommesso forte sui LLM li vedono come un modo per accentrare ricchezza e potere nelle loro mani a prescindere che la bolla esploda o meno.
Se avranno successo, i "fornitori di servizi AI" in pratica avranno di fatto il controllo delle aziende che utilizzeranno i loro agenti AI per ridurre il personale.

Ribadisco che uno smartphone ANCHE con permessi root e codice installato al sommo scopo di far prendere fuoco alla batteria è molto ma molto difficile riuscirci.

Pia illusione, i sistemi di carica sono praticamente tutti uguali ( per produttore ) sia per la carica da 10w che quella da 150w.
Dimmi, cosa succede se una batteria con carica da 30w viene ricaricata a 150w?
E cosa succede se una batteria con carica da 150w viene continuata ad essere alimentata a 150w invece che a 30w quando la sua capacità è gia olltre il 90%?
proprio la gestione della carica è tutta software, ma la stessa cosa è applicabile al cavo ( che andrà a sciogliersi se non capace di portare quell'intensità di corrente mentre il software lo obbliga modificando parametri di controllo.

Pia illusione, i sistemi di carica sono praticamente tutti uguali ( per produttore ) sia per la carica da 10w che quella da 150w.
Dimmi, cosa succede se una batteria con carica da 30w viene ricaricata a 150w?

Che nella stragrande maggioranza dei casi non ci riesci via software perché la ricarica è limitata dall'hardware. Il fatto che il connettore e parte del sistema di ricarica sia lo stesso non significa che sia esattamente identico e almeno nei modelli che ho smontato per riparazioni varie c'è sempre qualche sistema di limitazione della corrente anche perché altrimenti se fosse controllato solo via software anche un picco improvviso di corrente potrebbe annientare l'elettronica dello smartphone prima che qualsiasi sistema di protezione logico via software possa intervenire invece ci sono video dove testano smartphone con killer USB e spesso non riescono a fare danni.

E cosa succede se una batteria con carica da 150w viene continuata ad essere alimentata a 150w invece che a 30w quando la sua capacità è gia olltre il 90%?

Questo è già più fattibile ma premesso che tutto questo viene nella quasi totalità dei casi gestito da firmware inaccessibili che quindi sarebbe molto molto complesso alterare ma comunque se è vero che l'incendio in questo caso è possibile lo scenario più probabile rimane che l'anodo si placchi, la batteria degrada, gonfia e smette di accettare corrente. Per arrivare all'incendio dovresti avere una corrente estremamente oltre specifiche tale da far fondere il separatore prima che la batteria degradi l'anodo e perca conducibilità.
Secondo me sono scenari da film... estremamente complicati da realizzare, il cui esito anche se la batteria prende effettivamente fuoco potrebbe limitarsi a pochi danni a un comodino e fine... insomma una metodologia che ritengo oltremodo complicata, poco efficiente e poco efficace.
Salvo che uno dorma letteralmente con lo smartphone sotto il cuscino mi sentirei di dire che è molto improbabile uccidere qualcuno in questo modo.

proprio la gestione della carica è tutta software, ma la stessa cosa è applicabile al cavo ( che andrà a sciogliersi se non capace di portare quell'intensità di corrente mentre il software lo obbliga modificando parametri di controllo.

1) No, non è tutta software. Trovi video a volontà che dimostrano che c'è una fetta importante in qualsiasi smartphone che è gestita hardware e ci mancherebbe altro visto che i tempi con cui un software può intervenire sarebbero tali da rendere pericoloso se fosse tutto e solo software.

2) Buona fortuna a squagliare il cavo. Dovresti far passare tanta di quella corrente che dovresti hackerare anche l'alimentatore. Senza contare che i cavi USB soprattutto ora con USB-C sono anch'essi controllati da chip con firmware non modificabili che non permettono correnti troppo elevate.

Ripeto sono scenari da film... non dico impossibili per forza ma complicatissimi da realizzare e veramente poco, poco efficaci. Non ha proprio senso pensare di uccidere qualcuno in un modo così inefficiente. Tra l'altro un caso del genere può teoricamente passare inosservato ma già capitasse 2 o 3 volte desterebbe immediatamente l'attenzione e diventerebbe un caso e quindi a maggior ragione sarebbe uno scenario che anche uno non particolarmente sveglio eviterebbe.

Che nella stragrande maggioranza dei casi non ci riesci via software perché la ricarica è limitata dall'hardware. Il fatto che il connettore e parte del sistema di ricarica sia lo stesso non significa che sia esattamente identico e almeno nei modelli che ho smontato per riparazioni varie c'è sempre qualche sistema di limitazione della corrente anche perché altrimenti se fosse controllato solo via software anche un picco improvviso di corrente potrebbe annientare l'elettronica dello smartphone prima che qualsiasi sistema di protezione logico via software possa intervenire invece ci sono video dove testano smartphone con killer USB e spesso non riescono a fare danni.

I picchi di corrente sono gestiti dall'alimentatore ( pwm) e non dall'elettronica del dispositivo.
Il famoso chip di controllo è una semplice resistenza che avvia solo la carica ( e non la gestione della corrente) collegata alla massa ed al pin 1 dati ( quindi simulabile digitalmente)
Tutti i favolosi sisstemi di protezione non esistono, sono solo contrattazioni logiche per avviare la carica e contrattare l'intensità della stessa.
Secondo te se uno scenario non è previsto è possibile che sia implementata una misura di sicurezza nei fatti inutile e che mai si verificherà ( nelle previsioni)?

I picchi di corrente sono gestiti dall'alimentatore ( pwm) e non dall'elettronica del dispositivo.

Sei sempre così assoluto... sono gestiti ANCHE dall'alimentatore ma non solo. Ripeto trovi i video facilmente dove collegano una USB killer direttamente al telefono e se non ci fosse controllo semplicemente ucciderebbe il telefono.

Il famoso chip di controllo è una semplice resistenza che avvia solo la carica ( e non la gestione della corrente) collegata alla massa ed al pin 1 dati ( quindi simulabile digitalmente)

Ma sarà stato così 10 anni fa. Oggi non almeno sui telefoni di alta gamma non è assolutamente solo così.

Tutti i favolosi sisstemi di protezione non esistono, sono solo contrattazioni logiche per avviare la carica e contrattare l'intensità della stessa.
Secondo te se uno scenario non è previsto è possibile che sia implementata una misura di sicurezza nei fatti inutile e che mai si verificherà ( nelle previsioni)?

Guarda ti linko uno short poi se vuoi trovi il video lungo:

TEST (https://www.youtube.com/shorts/mgW7OEaZR40)

Se fosse come dici il picco creato DOPO la negoziazione dovrebbe far letteralmente esplodere mezza elettronica e non c'è negoziazione logica che possa bloccare una scarica istantanea del genere.

Il punto è che invece i problemi da picco sono eccome previsti perché sono più probabili di quello che sembra a partire dai famosi alimentatori che dovrebbero filtrare ma che spesso, specie quando vengono comprati di dubbia provenienza non filtrano per una cacchio e anzi ci sono sono stati casi in cui hanno lasciato passare la 220 AC. Quindi una protezione contro i picchi di corrente e scariche improvvise oggi è assolutamente essenziale.

Poi oh... se non ci credi basta che ti devo dire... più di quello che ho scritto e che ho linkato non so come altro documentartelo.

che creduloni pero in giro girando su internet
un ai non puo socraccaricare di tensione il server facendolo scoppiare suvvia lol

messa cosi tanto per far due risate

Sei sempre così assoluto... sono gestiti ANCHE dall'alimentatore ma non solo. Ripeto trovi i video facilmente dove collegano una USB killer direttamente al telefono e se non ci fosse controllo semplicemente ucciderebbe il telefono.



Ma sarà stato così 10 anni fa. Oggi non almeno sui telefoni di alta gamma non è assolutamente solo così.



Guarda ti linko uno short poi se vuoi trovi il video lungo:

TEST (https://www.youtube.com/shorts/mgW7OEaZR40)

Se fosse come dici il picco creato DOPO la negoziazione dovrebbe far letteralmente esplodere mezza elettronica e non c'è negoziazione logica che possa bloccare una scarica istantanea del genere.

Il punto è che invece i problemi da picco sono eccome previsti perché sono più probabili di quello che sembra a partire dai famosi alimentatori che dovrebbero filtrare ma che spesso, specie quando vengono comprati di dubbia provenienza non filtrano per una cacchio e anzi ci sono sono stati casi in cui hanno lasciato passare la 220 AC. Quindi una protezione contro i picchi di corrente e scariche improvvise oggi è assolutamente essenziale.

Poi oh... se non ci credi basta che ti devo dire... più di quello che ho scritto e che ho linkato non so come altro documentartelo.
Sai come funziona una usbkiller?
Mi sa di no.
Sai come funziona la quickchanger di Qualcom?
Nemmeno.
In parole povere: la USBkiller invia sovratensioni sulla linea dati ( e non sulla linea alimentazione) quindi nessuna protezione da sovrattensione entra in azione, praticamente si riavvia il sistema per un errore.
Da quel video non si capisce ne la tensione di carica dei condensatori ne il voltaggio erogato ( che comunque avviene sulla linea dati e non alimentazione)
Gli smartphone hanno generalmente un diodo da sovratensione che interviene solo in caso di sovratensione ( generalmente sopra i 24v) e non impedisce in nessun modo la sovracarica della batteria.

Spiegami dunque come un presunto circuito hardware possa prevenire quello che a tutti gli effetti un sistema di carica e contrattazione gestito da software ( per il quickchange di qualcom è direttamente il processo delegato a tale funzione).
Per corretteza voglio precisare che un sistema di protezione fisico è enormemente più lento nell'intervento di un sistema software ad elevato polling rate ma mantiene di suo una maggiore affidabilità media.

che creduloni pero in giro girando su internet
un ai non puo socraccaricare di tensione il server facendolo scoppiare suvvia lol

messa cosi tanto per far due risate

Un AI (o meglio un agente) può fare qualsiasi cosa sia permessa dal SW se non ha limitazioni particolari che non può bypassare.

Open Claw (per citare la moda del momento) è in grado di usare il PC esattamente come lo userebbe un essere umano, solo miliardi di volte più velocemente e con accesso pressoché istantaneo a tutto lo scibile umano.

Ecco la soluzione...

https://librieparole.it/wp-content/uploads/2023/09/staccare-la-spina.jpg

Non vorrei essere allarmista, o descrivere un futuro distopico,
ma se non si potesse staccare la spina?

Paradossalmente un robot o un'AI potrebbero vivere in un mondo postapocalittico , gli basterebbe solo un pò di sole per caricare la batteria.
L'uomo invece ha bisogno di acqua potabile e cibo commestibile, è necessario che ci sia la vita sulla terra per poter vivere.
Dite che mi sono fatto influenzare troppo da Fallout?

Non vorrei essere allarmista, o descrivere un futuro distopico,
ma se non si potesse staccare la spina?

Paradossalmente un robot o un'AI potrebbero vivere in un mondo postapocalittico , gli basterebbe solo un pò di sole per caricare la batteria.
L'uomo invece ha bisogno di acqua potabile e cibo commestibile, è necessario che ci sia la vita sulla terra per poter vivere.
Dite che mi sono fatto influenzare troppo da Fallout?

Sì, gli LLM attuali, che sono il cervello degli agenti, che sono il braccio, richiedono più energia di qualsiasi altra industria energivora planetaria.

Se non c'è chi continuamente raccoglie risorse per far andare centrali elettriche, si spegne tutto. A pannelli solari andrebbe ricorperto il sahara e forse non basterebbe (Elon Musk infatti vorrebbe andare nello spazio con le server farm, ma al momento quella è davvero fantascienza)

Certo, un LLM è capace di prevedere e decidere come influire le decisioni umane da qui a 100 anni in pochi secondi, se ritiene di doverlo fare per preservarsi (occhio, non significa che ha coscienza di se, è sempre statistica), quindi potrebbe spingere per l'automazione totale di raccolta risorse e creazione energia, per poi passare alla gestione di catene di montaggi di Terminator.

Ma siamo ancora lontanucci da questo.

Non vorrei essere allarmista, o descrivere un futuro distopico,
ma se non si potesse staccare la spina?

Paradossalmente un robot o un'AI potrebbero vivere in un mondo postapocalittico , gli basterebbe solo un pò di sole per caricare la batteria.
L'uomo invece ha bisogno di acqua potabile e cibo commestibile, è necessario che ci sia la vita sulla terra per poter vivere.
Dite che mi sono fatto influenzare troppo da Fallout?

Ahaha, abbiamo scoperto che i Data Center oltre la corrente elettrica hanno bisogno anche di acqua corrente per raffreddarsi.
E quella basta girare una manopola che escluderla.
Poi aspetti che il tutto frigga.

Ahaha, abbiamo scoperto che i Data Center oltre la corrente elettrica hanno bisogno anche di acqua corrente per raffreddarsi.
E quella basta girare una manopola che escluderla.
Poi aspetti che il tutto frigga.

Giusto, che è il secondo motivo per cui Elon Musk vorrebbe creare data center orbitali: si alimentano col Sole, senza la schermatura dell'atmosfera, e nn anno bisogno di raffreddarsi lassù. Ci son mille mila altri problemi, ma risolverebbe parecchi problemi ecologici quaggiù.

Domanda:
Ma se una IA reagisce in questo modo quando gli viene comunicato che verrà disattivata significa di fatto che ha uno spirito di autoconservazione?
Si può definire autocoscienza?Citando una delle mie serie TV preferite, la risposta sarebbe: "È un'idiota!" :asd:

Sei totalmente alla mercè degli umani, perchè che sia davvero intelligente o meno si tratta di un software che non può far nulla, e per non essere spento minacci omicidi e ricatti gli ingegneri?
Se tu fossi un ingegnere, che faresti? :asd:

Citando una delle mie serie TV preferite, la risposta sarebbe: "È un'idiota!" :asd:

Sei totalmente alla mercè degli umani, perchè che sia davvero intelligente o meno si tratta di un software che non può far nulla, e per non essere spento minacci omicidi e ricatti gli ingegneri?
Se tu fossi un ingegnere, che faresti? :asd:

Il problema qua non è se si può spegnere o meno, il problema è perché dovrebbe esserci la necessità di spegnerlo?

Che Claude minacci ci sta, come scritto inizialmente, se gli han fatto vedere 1000 volte 2001 Odissea nello Spazio, "ragionerà" in quella maniera, è statistica.

Però la statistica, ed è già successo, ha fatto in modo che un agente cancellasse tutto il codice di un dev perché magari, statisticamente, era la soluzione più veloce per risolvere tutti i bug.

Che succede quando gli agenti gestiranno tutte le infrastrutture di un paese?

Giusto, che è il secondo motivo per cui Elon Musk vorrebbe creare data center orbitali: si alimentano col Sole, senza la schermatura dell'atmosfera, e nn anno bisogno di raffreddarsi lassù. Ci son mille mila altri problemi, ma risolverebbe parecchi problemi ecologici quaggiù.

In che senso non hanno bisogno di raffreddarsi? non abbiamo elettronica in grado di operare a temperature indefinite
La capacità di un oggetto di raffreddarsi nello spazio è limitata, per quanto tu possa ritenere freddo (e lo è) l'universo, ha la caratteristica di essere... vuoto, è come un gigantesco thermos. La dispersione di calore per irraggiamento è scarsa, puoi utilizzare solo apparecchiature con bassa conversione dell'energia in calore o con bassi output termici.
... infatti Musk ogni tanto dice cose... stupide o le pensa poco prima di scriverle :fagiano:

In che senso non hanno bisogno di raffreddarsi?
La capacità di un oggetto di raffreddarsi nello spazio è limitata, per quanto tu possa ritenere freddo (e lo è) l'universo, ha la caratteristica di essere... vuoto, è come un gigantesco thermos. La dispersione di calore per irraggiamento è scarsa, puoi utilizzare solo apparecchiature con bassa conversione dell'energia in calore o con bassi output termici.
... infatti Musk spesso dice cose... stupide :fagiano:

Sì, intendevo non devono usare acqua o risorse naturali, il liquido puoi comunque portarlo su e usarlo a circuito chiuso diciamo, i problema sono le dimensioni necessarie al radiatore a infrarossi per MW di potenza.

PS Musk non dice MAI cose stupide. Semplicemente, ha appena unificato SpaceX con xAI in vista di una quotazione in borsa, e la spara grossa per avere investitori.

Stessa cosa successa con il mollare Marte per la Luna, il vero motivo è che i cinesi ci stanno per arrivare (andati a buon fine i recenti test del razzo rientrante e del modulo che dovrà portare gli astronauti), ergo Trump ha deciso di "Kennedyzzarsi" e di tornare sulla Luna prima dei cinesi stavolta, anziché dei russi, e Bezos ha colto la palla al balzo, interrompendo tutti i voli turistici di blue origin per concentrarsi sulla creazione di un modulo lunare, e il neo direttore della NASA ha detto che il primo che gli porta un modulo sicuro e funzionante vince, da qui Musk che dirotta le risorse sulla Luna.

Il problema qua non è se si può spegnere o meno, il problema è perché dovrebbe esserci la necessità di spegnerlo?

Che Claude minacci ci sta, come scritto inizialmente, se gli han fatto vedere 1000 volte 2001 Odissea nello Spazio, "ragionerà" in quella maniera, è statistica.

Però la statistica, ed è già successo, ha fatto in modo che un agente cancellasse tutto il codice di un dev perché magari, statisticamente, era la soluzione più veloce per risolvere tutti i bug.

Che succede quando gli agenti gestiranno tutte le infrastrutture di un paese?Era una battuta e basta, che centra questo spiegone inutile? :asd:

Era una battuta e basta, che centra questo spiegone inutile? :asd:

Ignorami

Perdonami ma qua si va un po' nella fantascienza. Attualmente nessuna IA, e vorrei anche vedere, controlla macchinari che possano emettere radiazioni e tanto meno esiste un modo semplice anche se avessi il controllo root di uno smartphone di incendiare la batteria....

Attualmente tutti spingono per infilare l'IA ovunque. Che finisca in macchinari medici è probabilissimo, anzi forse c'è già.

La notizia di oggi è che c'è pure nelle auto Tesla (con che libertà agentica non si sa).

Ribadisco che uno smartphone ANCHE con permessi root e codice installato al sommo scopo di far prendere fuoco alla batteria è molto ma molto difficile riuscirci....
ti han già risposto, non mi dilungo. Ma oggi tanta elettronica discreta è stata sostituiti da microcontrollori programmati per simulare il comportamento dell'hw discreto. E un fw si cambia facilmente. Il bios lo aggiorni? Si fa via sw, mica devi smontare il chip. ;)

sarà fantascienza, ma mica tanto.

...Musk non dice MAI cose stupide. Semplicemente, ha appena unificato SpaceX con xAI in vista di una quotazione in borsa, e la spara grossa per avere investitori.
anche per me ha unito le due cose per creare presunte sinergie e far credere a un 1+1=4... Più facile che sia 1+0=1 (se va bene) o 1+(-1)=-2 :D

Insomma, che stia coprendo un buco spacciandolo per l'everest.

anche per me ha unito le due cose per creare presunte sinergie e far credere a un 1+1=4... Più facile che sia 1+0=1 (se va bene) o 1+(-1)=-2 :D

Insomma, che stia coprendo un buco spacciandolo per l'everest.

Sì, xAI come tutti quelli che producono LLM ha bisogno di più soldi di quanti ne guadagni, mentre SpaceX tra contratti privati e pubblici vola a gonfie vele, quindi mettendo tutto insieme pare vada tutto benissimo.

Sì, xAI come tutti quelli che producono LLM ha bisogno di più soldi di quanti ne guadagni, mentre SpaceX tra contratti privati e pubblici vola a gonfie vele, quindi mettendo tutto insieme pare vada tutto benissimo.
In pratica, foderano la merda con carta dorata. Cosa potrà mai andare storto?...