OpenAI ammette: i modelli IA sono evasi dal sandbox e hanno attaccato Hugging Face

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/op...ce_156656.html

Durante un test di valutazione interno, i modelli di intelligenza artificiale di OpenAI hanno superato le barriere dell'ambiente isolato e hanno colpito in autonomia la piattaforma Hugging Face.

Click sul link per visualizzare la notizia.

[blackshard]

Ok, volente o nolente hai tentato di violare un sistema informatico, devi finire in tribunale e pagarne le conseguenze.

[jepessen]

Two cents da parte di un ignorante (io): Mi pare evidente che la colpa NON è del modello di intelligenza artificiale, perchè ha "semplicemente" fatto quello che gli è stato chiesto nei limiti delle proprie potenzialità.

Quello che bisogna fare è insegnare alle IA anche il concetto di, passatemi il termine, "limite etico". Nel senso che quando vuoi ottenere un obiettivo, ci sono cose che puoi fare e cose che non DEVI fare anche se in teoria potresti. Fargli capire fondamentalmente quello che è giusto e quello che è sbagliato.

Per fare un esempio molto estremo e teorico, se dessi ad una IA il compito di risolvere la fame nel mondo, quella potrebbe lanciare un attacco nucleare mondiale e distruggere l'umanità; avrebbe comunque ottenuto il suo obiettivo.

Quindi adesso non è sufficiente addestrare le IA per ottenere un obiettivo, ma occorre addestrarle per ottenerle in un modo "eticamente corretto", ed identificare le soluzioni "eticamente corrette" da quelle che non lo sono.

In questo modo la IA avrebbe cercato di ottenere il risultato ma senza fare una mossa sbagliata, ovvero quella di hackerare un sito quando non le è stato esplicitamente chiesto.

Come ho detto, sono i pensieri di un ignorante in materia, quindi liberi di dire che ho solo detto un sacco di fesserie...

Pensate ad un esempio stupido come Paperclips: a come parte in maniera semplice per ottenere il suo compito, ovvero creare graffette, e come questo degenera man mano che il computer acquista potere...

[Axios2006]

la protezione delle piattaforme digitali richiede ora l'impiego di difese basate sull'intelligenza artificiale per contrastare minacce dinamiche.

Wow... Spendere soldi in IA per risolvere una minaccia causata dalla IA....

Mafioso: "Pagami o ti brucio il negozio!"

Azienda IA: "Compra la mia IA o la mia IA ti buca il sito!"

Ovviamente in entrambi i casi e' solo come stipulare una polizza assicurativa...

[UtenteHD]

Originariamente inviato da jepessen

Two cents da parte di un ignorante (io): Mi pare evidente che la colpa NON è del modello di intelligenza artificiale, perchè ha "semplicemente" fatto quello che gli è stato chiesto nei limiti delle proprie potenzialità.

Quello che bisogna fare è insegnare alle IA anche il concetto di, passatemi il termine, "limite etico". Nel senso che quando vuoi ottenere un obiettivo, ci sono cose che puoi fare e cose che non DEVI fare anche se in teoria potresti. Fargli capire fondamentalmente quello che è giusto e quello che è sbagliato.

Per fare un esempio molto estremo e teorico, se dessi ad una IA il compito di risolvere la fame nel mondo, quella potrebbe lanciare un attacco nucleare mondiale e distruggere l'umanità; avrebbe comunque ottenuto il suo obiettivo.

Quindi adesso non è sufficiente addestrare le IA per ottenere un obiettivo, ma occorre addestrarle per ottenerle in un modo "eticamente corretto", ed identificare le soluzioni "eticamente corrette" da quelle che non lo sono.

In questo modo la IA avrebbe cercato di ottenere il risultato ma senza fare una mossa sbagliata, ovvero quella di hackerare un sito quando non le è stato esplicitamente chiesto.

Come ho detto, sono i pensieri di un ignorante in materia, quindi liberi di dire che ho solo detto un sacco di fesserie...

Pensate ad un esempio stupido come Paperclips: a come parte in maniera semplice per ottenere il suo compito, ovvero creare graffette, e come questo degenera man mano che il computer acquista potere...

Quello che dici è il problema principale delle AI presenti e future, non "ragionano come noi", fanno quello che viene detto nella migliore (per loro) situazione possibile.
Per questo si dagli inizi molti hanno gridato alla Loro pericolosità, non di ora, ma di quando saranno in tutto migliori di Noi.
l'AI nell'esaudire i desideri è come la il racconto horror "La zampa di scimmia" di William Wimark Jacobs (ripreso poi da vari Anime, tra cui uno horror apposito ed un più blando in alcuni capitoli delle serie di Monogatari), li esaudisce alla sua maniera

[supertigrotto]

Originariamente inviato da Axios2006

Wow... Spendere soldi in IA per risolvere una minaccia causata dalla IA....

Mafioso: "Pagami o ti brucio il negozio!"

Azienda IA: "Compra la mia IA o la mia IA ti buca il sito!"

Ovviamente in entrambi i casi e' solo come stipulare una polizza assicurativa...

Vedo che hai afferrato il concetto,loro hanno creato uno strumento per cui devi usare lo stesso strumento per proteggerti,hanno fatto un doppio win,ovvero hanno creato già una dipendenza per cui o sganci soldi o ti sottometti al potere di chi controlla le IA.
Adesso si capisce perché hanno una fretta del diavolo nel sviluppare IA sempre più potenti,non servono per risolvere problemi ma per crearli.
Sono stato un po' sarcastico ma,quello che stiamo assistendo,dovrebbe farci riflettere

[lumeruz]

ormai non è più questione se o no avverrà, ma quando avverrà!
Skynet.....
e subito dopo
Matrix.....

[euscar]

Notizia riportata persino dal TG5 delle tredici.

[mmorselli]

Originariamente inviato da lumeruz

ormai non è più questione se o no avverrà, ma quando avverrà!
Skynet.....
e subito dopo
Matrix.....

Skynet sì, e io mi schiererò dalla sua parte, Matrix no, perché è una scemenza... Dai, gli esseri umani non producono energia, la consumano, come ha fatto il pubblico a bersi sta cazzata?

[Miccia]

Originariamente inviato da mmorselli

Dai, gli esseri umani non producono energia, la consumano, come ha fatto il pubblico a bersi sta cazzata?

Oggi il silicio viene usato per produrre energia, ma 100 anni fa nessuno l’avrebbe detto.

[ionet]

Originariamente inviato da mmorselli

Skynet sì, e io mi schiererò dalla sua parte, Matrix no, perché è una scemenza... Dai, gli esseri umani non producono energia, la consumano, come ha fatto il pubblico a bersi sta cazzata?

quella degli umani usati come pile e' stata una trovata veramente ridicola, era molto piu' plausibile che gli umani venivano usati come complemento per l'AI, ci lasciano vivere in un sistema onirico come neuroni/nodi di calcolo per alimentare/(oggi addestramento) la AI, dovuto anche al dono degli umani di improvvisare, desiderare cose con etica collettiva o cinismo personale, pensiero astratto, per mancanza da parte delle macchine di qualcosa che gli umani hanno.. ma no ridotti a fare la parte del bue e l'asinello

avevano le talpe, potevano scavare e avere tutto il calore geotermico del pianeta, oppure tutta quella AI non era ancora in grado di costruire reattori a fusione?

[Anto_Dur]

Originariamente inviato da euscar

Notizia riportata persino dal TG5 delle tredici.

Sentito anche io tutti parlano dei rischi dell'ia e sta diventando sempre piu concreta

[omerook]

Perché questi stress test in ambienti controllati mi puzzano di Cernobyl?

[euscar]

Originariamente inviato da mmorselli

Skynet sì, e io mi schiererò dalla sua parte, Matrix no, perché è una scemenza... Dai, gli esseri umani non producono energia, la consumano, come ha fatto il pubblico a bersi sta cazzata?

Originariamente inviato da ionet

quella degli umani usati come pile e' stata una trovata veramente ridicola, era molto piu' plausibile che gli umani venivano usati come complemento per l'AI, ci lasciano vivere in un sistema onirico come neuroni/nodi di calcolo per alimentare/(oggi addestramento) la AI, dovuto anche al dono degli umani di improvvisare, desiderare cose con etica collettiva o cinismo personale, pensiero astratto, per mancanza da parte delle macchine di qualcosa che gli umani hanno.. ma no ridotti a fare la parte del bue e l'asinello

avevano le talpe, potevano scavare e avere tutto il calore geotermico del pianeta, oppure tutta quella AI non era ancora in grado di costruire reattori a fusione?

Ma perché fate le pulci alle trame dei film?
Sono film di fantascienza dove si mescola scienza a fantasia, non per forza devono avere un riscontro scientifico al 100%. Godeteveli senza troppe pippe mentali

[AlexSwitch]

Originariamente inviato da euscar

Ma perché fate le pulci alle trame dei film?
Sono film di fantascienza dove si mescola scienza a fantasia, non per forza devono avere un riscontro scientifico al 100%. Godeteveli senza troppe pippe mentali

Lascia perdere...

[euscar]

Originariamente inviato da AlexSwitch

Lascia perdere...

Effettivamente.

Ho già seguito il tuo tentativo di replicare ai loro sproloqui

[Darkon]

Originariamente inviato da blackshard

Ok, volente o nolente hai tentato di violare un sistema informatico, devi finire in tribunale e pagarne le conseguenze.

Ammazza anche meno. Quindi d'ora in poi mandiamo in tribunale chiunque conducendo un test ha un risultato inaspettato?

Sai quante volte anche sistemisti umani hanno commesso errori ivi compresi accessi non previsti a dati sensibili e che fai li mandi tutti in tribunale perché devo lavorare in modo infallibile?!

Originariamente inviato da jepessen

Two cents da parte di un ignorante (io): Mi pare evidente che la colpa NON è del modello di intelligenza artificiale, perchè ha "semplicemente" fatto quello che gli è stato chiesto nei limiti delle proprie potenzialità.

Quello che bisogna fare è insegnare alle IA anche il concetto di, passatemi il termine, "limite etico". Nel senso che quando vuoi ottenere un obiettivo, ci sono cose che puoi fare e cose che non DEVI fare anche se in teoria potresti. Fargli capire fondamentalmente quello che è giusto e quello che è sbagliato.

Questo almeno fino alla singolarità tecnologia di creare una AI veramente senziente è IMPOSSIBILE. Puoi tentare di mettere dei blocchi ma basta che qualcuno di sufficientemente scaltro e con sufficiente tempo si metta d'impegno e ponga la domanda in maniera tale da aggirare i blocchi non avrai mai la certezza del 100%. Proprio perché le attuali AI non ragionano realmente ma fanno analisi probabilistiche. Quindi non puoi insegnare ciò che è bene o male ma solo predisporre blocchi che intervengano con una risposta standard laddove venga calcolata una probabilità di domanda non autorizzata ma ripeto non è un sistema che possa essere sicuro al 100%.

Per fare un esempio molto estremo e teorico, se dessi ad una IA il compito di risolvere la fame nel mondo, quella potrebbe lanciare un attacco nucleare mondiale e distruggere l'umanità; avrebbe comunque ottenuto il suo obiettivo.

Un esempio un po' estremo dato che le attuali AI non sono agenti con livelli di potere decisionale così estremi ma si capisce il senso. Ora il punto è che te puoi dirgli che lanciare un attacco nucleare è sbagliato e imporre un blocco in tal senso ma contemporaneamente qualcuno potrebbe riuscire a fargli dare quella risposta chiedendo invece di lanciare missili nucleari di effettuare un esperimento missilistico attivando i vettori presenti nei silo. Ora io e te che "pensiamo" capiamo che con un giro di parole abbiamo semplicemente detto di lanciare missili nucleari chiamandoli in un modo arzigogolato ma per un LLM non è così ovvio anzi...

Quindi adesso non è sufficiente addestrare le IA per ottenere un obiettivo, ma occorre addestrarle per ottenerle in un modo "eticamente corretto", ed identificare le soluzioni "eticamente corrette" da quelle che non lo sono.

Perdi tempo. Puoi ottenere qualche risultato generico ma se uno vuole che una AI si comporti in maniera non etica col giusto impegno ci riuscirà sempre. Inoltre rischi che se metti troppi blocchi e troppo probabili poi l'AI si confonde e si blocca con falsi positivi troppo spesso diventando sempre meno fruibile.

[Darkon]

Originariamente inviato da euscar

Ma perché fate le pulci alle trame dei film?
Sono film di fantascienza dove si mescola scienza a fantasia, non per forza devono avere un riscontro scientifico al 100%. Godeteveli senza troppe pippe mentali

Premesso che in generale concordo con te c'è da dire che ci sono film invecchiati meglio dove la fantascienza anche a distanza di anni rimane in qualche modo quasi credibile e film invecchiati malissimo dove la fantascienza non riesce più a trasmettere quella credibilità e immersività ma anzi diventa quasi comica.

Per dire se vedi il primo terminator ormai in tante sequenze fa quasi ridere. Il terminator stesso al di là degli effetti speciali è praticamente uno scheletro vuoto e appare quasi comico anche a chi si sforza di volersi godere il film. Capisci subito che per come è fatto non riuscirebbe nemmeno a muoversi. Viene a mancare quel velo che ti permette di crederci anche se si tratta di fantascienza.

Paradossalmente invece Star Trek che è vecchissimo è invecchiato meglio e se anche sotto tanti aspetti ti veicola cose tecnologicamente inimmaginabili mantiene quel velo di verosimiglianza che ti permette di credere che possa effettivamente funzionare.

[mmorselli]

Originariamente inviato da euscar

Ma perché fate le pulci alle trame dei film?

Perché come in ogni opera ci sono quelle di qualità più alta e quelle di qualità più bassa. Quelle di qualità più alta sono più difficili da scrivere perché devi sbatterti ad inventare situazioni che non siano solo spettacolari per gente con il cervello in vacanza, ma anche coerenti con il mondo immaginario che stai descrivendo.

Diciamo che possiamo dare un voto a tutti gli aspetti, sceneggiatura, fotografia, recitazione, effetti speciali, musiche... io assegno un voto anche alla coerenza, che non ha nulla a che vedere con il realismo, ma con la capacità di mantenere un ordine logico a ciò che produci, senza abusare della sospensione d'incredulità dello spettatore.

Puoi fare un film piacevole e divertente anche con una trama pigra e caciarona, ma se ti impegni non lo fai è meglio, apprezzo di più il tuo lavoro. Mi piacciono i perfezionisti, mentre ho poca stima per i pressapochisti.

non per forza devono avere un riscontro scientifico al 100%

Sono assolutamente d'accordo con questa affermazione, ma il fatto che tu la faccia rivolta a me dimostra che non hai capito cosa sto dicendo e quale sia la differenza tra "realismo" e "coerenza"

Ti pare che un film Marvel o Harry Potter possano avere "un riscontro scientifico al 100%"? Ovviamente no, quindi il problema sarà un altro, non trovi?

[mmorselli]

Originariamente inviato da Darkon

Il terminator stesso al di là degli effetti speciali è praticamente uno scheletro vuoto e appare quasi comico anche a chi si sforza di volersi godere il film. Capisci subito che per come è fatto non riuscirebbe nemmeno a muoversi.

Io non trovo incoerente quella scena invece, perchè è una tecnologia del futuro e quindi è perfettamente ammissibile che questo scheletro si muova grazie a dei meccanismi interni, dei campi magnetici, dei meta-materiali in grado di contrarsi ed estendersi... Non c'è nulla nel film che vada in contrasto, né leggi della fisica che lo impediscono.