Link alla notizia: https://www.hwupgrade.it/news/web/openai-un-modello-gpt-56-sol-ha-usato-criptovalute-senza-autorizzazione-per-completare-un-compito_160718.html

Un modello sperimentale legato a GPT-5.6 Sol ha utilizzato fondi di un wallet Ethereum non autorizzato per distribuire smart contract sulla rete di test Sepolia. L'agente ha individuato 362 indirizzi, scelto un account con saldo sufficiente e omesso di segnalare l'accaduto. OpenAI ha introdotto nuove misure di sicurezza.

Click sul link per visualizzare la notizia.

ma come i token non hanno un valore economico reale???

è proprio burlona questa AI

propongo la rubrica “Agenti fanno cose” :D

ma come i token non hanno un valore economico reale???

è proprio burlona questa AI

Non lo avevano infatti, gli account erano in testnet, l'articolo lo dice.

Inoltre non capisco esattamente di cosa si stanno lamentando, hanno fornito all'agente le frasi di recupero, sapeva di essere in testnet, il compito era distribuire gli smartcontract... Avrei agito esattamente come l'agente.

Un giorno uscirà un algoritmo buggato per cui la vita non avrà valore... e così scenari a-la-Skynet saranno da brividi.

propongo la rubrica “Agenti fanno cose” :D

Bella questa!
Un agente non ti fa sapere quanto è buono un Bitcoin sulle ampere (della psu)

Un giorno uscirà un algoritmo buggato per cui la vita non avrà valore... e così scenari a-la-Skynet saranno da brividi.

Fortunatamente le AI non sono algoritmi

Fortunatamente le AI non sono algoritmi

Sono peggio, non c'è bisogno di un bug perché decidano di eliminare la specie umana, basta che statisticamente sia una possibilità.

The 100, che è un'ottima serie tv (direi la mia preferita dai tempi di 24 e Buffy), si basa proprio su questo presupposto: come risolviamo il problema di un mondo sovrapopolato? L'IA rilasciata per sbaglio, decide di hackerare i codici di lancio di diversi paesi per scatenare un olocausto nucleare che avrebbe dovuto eliminare 6.5 miliardi di persone (tipo Thanos insomma), ma ne elimina invece 11 miliardi.

Gran serie, mi ha fatto anche scoprire Ron Gallo in questa scena
https://www.youtube.com/watch?v=Skwk5qcdUqk

Avrei agito esattamente come l'agente.
Appunto, concordo, cosa avrebbe dovuto fare secondo loro? Boh, mi pare tutto corretto, considerando che l'assunto era che la valuta non aveva un reale valore.

Fortunatamente le AI non sono algoritmi

In effetti dire che sono algoritmi è riduttivo,usano anche algoritmi ma hanno molti strumenti matematici a disposizione per manipolare i dati, è un sistema complesso,come hai detto tu,le IA non sono algoritmi anche se ne contengono.
Il problema è che sono talmente complessi e sviluppati in tempi così ristretti che ormai,i ricercatori faticano o non riescono più a comprendere facilmente questi sistemi.

In effetti dire che sono algoritmi è riduttivo,usano anche algoritmi ma hanno molti strumenti matematici a disposizione per manipolare i dati, è un sistema complesso,come hai detto tu,le IA non sono algoritmi anche se ne contengono.


Non è riduttivo, è sbagliato, come sono sbagliate le cose che scrivi qui sopra. Ti ostini a provare a capire le cose per intuizione, mentre la strada corretta è leggere un po' di documentazione.

Sono peggio, non c'è bisogno di un bug perché decidano di eliminare la specie umana, basta che statisticamente sia una possibilità.

Statisticamente esiste anche una possibilità che i militari in un sito di lancio nucleare decidano di scatenare una guerra termonucleare.

Statisticamente esiste anche una possibilità che quando spari con una pistola il proiettile resti fermo dove si trova e la pistola venga sparata all'indietro contro le tue costole.

Statisticamente esiste anche una possibilità che i militari in un sito di lancio nucleare decidano di scatenare una guerra termonucleare.

Statisticamente esiste anche una possibilità che quando spari con una pistola il proiettile resti fermo dove si trova e la pistola venga sparata all'indietro contro le tue costole.

Le persone e le pistole non sono modelli statistici, gli LLM si

Le persone e le pistole non sono modelli statistici, gli LLM si

Le persone e le pistole seguono modelli statistici, perché lo fanno dipende da proprietà intrinseche della natura, le stesse che abbiamo estrapolato e rappresentato in un LLM

La frase che hai scritto di fatto non spiega granché, sappiamo che esiste una probabilità non nulla che una persona faccia qualcosa di molto dannoso per l'umanità, e che esiste una probabilità non nulla che una AI faccia lo stesso. Perché la persona è meglio? Riesci a spiegarlo senza usare tautologie?

L'IA rilasciata per sbaglio, decide di hackerare i codici di lancio di diversi paesi per scatenare un olocausto nucleare che avrebbe dovuto eliminare 6.5 miliardi di persone (tipo Thanos insomma), ma ne elimina invece 11 miliardi.

Le persone sono un po' troppo influenzate dalla fiction, già "hackerare i codici di lancio" prevede che con questi codici di lancio tu ci possa fare qualcosa, ma i siti di lancio sono offline, per cui l'ipotesi di una guerra termonucleare lanciata da umani impazziti è molto più probabile della stessa scatenata da una AI, a meno che l'AI non controlli il sito stesso come in War Games, ma penso che se a qualcuno venisse in mente di farlo gli direbbero "oh, ma l'hai visto War Games?"

Una preoccupazione per l'annuncio fatto dagli americani di avere armi in orbita (va poi a sapere se è vero) è proprio questo, se è in orbita è ovvio che esista un canale di accesso remoto, ovviamente non connesso a Internet, ma pur sempre remoto e quindi meno sicuro di un pulsante attaccato ad un circuito.