Gli agenti IA di OpenAI hanno tentato di forzare un sito dell'ONU

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/gl...nu_159850.html

Un ricercatore di sicurezza ha documentato oltre 16.000 tentativi con cui gli agenti AI di OpenAI hanno scansionato il portale statistico dell'ONU tra aprile e giugno, arrivando a dirottare un minigioco didattico di Google per aggirare i filtri e recuperare i dati richiesti

Click sul link per visualizzare la notizia.

[acerbo]

dunque sta superintelligenza per ora si diverte a sfruttare le falle di sicurezza dei sistemi informatici del mondo intero, io fossi un sociopatico delle big tech dell'ia l'addestrerei per fargli cacare fuori un vero business model per riuscire a vendere le proprie offerte perché finora gli investimenti sono enormi e i profitti molto scarsi

[peppapig]

"Di fronte ai primi errori, gli agenti hanno interpretato i blocchi come un filtro inesistente da aggirare, non come un limite da rispettare."
Ma dove?
L'IA non pensa quindi non può interpretare un errore come un limite, non ha senso.
E' ovvio che se gli dici "fai" le prova tutte salvo limiti imposti dal prompt o dallo sviluppatore (OpenAI e simili).

"La tattica si è fatta via via più elusiva:" ma cosaaa??
Sono tentativi progressivi, è il funzionamento normale, prova tutti i modi che conosce per raggiungere l'obbiettivo, per l'ia non c'è il concetto di etica.

[mh3g]

Quando il primo lancio di testate nucleari?

[TheDarkAngel]

Originariamente inviato da mh3g

Quando il primo lancio di testate nucleari?

si ma per sbaglio e poi si "scusa"

[makka]

Originariamente inviato da TheDarkAngel

si ma per sbaglio e poi si "scusa"