Link alla notizia: https://www.hwupgrade.it/news/web/openai-ammette-i-modelli-ia-sono-evasi-dal-sandbox-e-hanno-attaccato-hugging-face_156656.html

Durante un test di valutazione interno, i modelli di intelligenza artificiale di OpenAI hanno superato le barriere dell'ambiente isolato e hanno colpito in autonomia la piattaforma Hugging Face.

Click sul link per visualizzare la notizia.

Ok, volente o nolente hai tentato di violare un sistema informatico, devi finire in tribunale e pagarne le conseguenze.

Two cents da parte di un ignorante (io): Mi pare evidente che la colpa NON è del modello di intelligenza artificiale, perchè ha "semplicemente" fatto quello che gli è stato chiesto nei limiti delle proprie potenzialità.

Quello che bisogna fare è insegnare alle IA anche il concetto di, passatemi il termine, "limite etico". Nel senso che quando vuoi ottenere un obiettivo, ci sono cose che puoi fare e cose che non DEVI fare anche se in teoria potresti. Fargli capire fondamentalmente quello che è giusto e quello che è sbagliato.

Per fare un esempio molto estremo e teorico, se dessi ad una IA il compito di risolvere la fame nel mondo, quella potrebbe lanciare un attacco nucleare mondiale e distruggere l'umanità; avrebbe comunque ottenuto il suo obiettivo.

Quindi adesso non è sufficiente addestrare le IA per ottenere un obiettivo, ma occorre addestrarle per ottenerle in un modo "eticamente corretto", ed identificare le soluzioni "eticamente corrette" da quelle che non lo sono.

In questo modo la IA avrebbe cercato di ottenere il risultato ma senza fare una mossa sbagliata, ovvero quella di hackerare un sito quando non le è stato esplicitamente chiesto.

Come ho detto, sono i pensieri di un ignorante in materia, quindi liberi di dire che ho solo detto un sacco di fesserie...

Pensate ad un esempio stupido come Paperclips (https://www.decisionproblem.com/paperclips/): a come parte in maniera semplice per ottenere il suo compito, ovvero creare graffette, e come questo degenera man mano che il computer acquista potere...

la protezione delle piattaforme digitali richiede ora l'impiego di difese basate sull'intelligenza artificiale per contrastare minacce dinamiche.

Wow... Spendere soldi in IA per risolvere una minaccia causata dalla IA....

Mafioso: "Pagami o ti brucio il negozio!"

Azienda IA: "Compra la mia IA o la mia IA ti buca il sito!"

Ovviamente in entrambi i casi e' solo come stipulare una polizza assicurativa... :sofico:

Two cents da parte di un ignorante (io): Mi pare evidente che la colpa NON è del modello di intelligenza artificiale, perchè ha "semplicemente" fatto quello che gli è stato chiesto nei limiti delle proprie potenzialità.

Quello che bisogna fare è insegnare alle IA anche il concetto di, passatemi il termine, "limite etico". Nel senso che quando vuoi ottenere un obiettivo, ci sono cose che puoi fare e cose che non DEVI fare anche se in teoria potresti. Fargli capire fondamentalmente quello che è giusto e quello che è sbagliato.

Per fare un esempio molto estremo e teorico, se dessi ad una IA il compito di risolvere la fame nel mondo, quella potrebbe lanciare un attacco nucleare mondiale e distruggere l'umanità; avrebbe comunque ottenuto il suo obiettivo.

Quindi adesso non è sufficiente addestrare le IA per ottenere un obiettivo, ma occorre addestrarle per ottenerle in un modo "eticamente corretto", ed identificare le soluzioni "eticamente corrette" da quelle che non lo sono.

In questo modo la IA avrebbe cercato di ottenere il risultato ma senza fare una mossa sbagliata, ovvero quella di hackerare un sito quando non le è stato esplicitamente chiesto.

Come ho detto, sono i pensieri di un ignorante in materia, quindi liberi di dire che ho solo detto un sacco di fesserie...

Pensate ad un esempio stupido come Paperclips (https://www.decisionproblem.com/paperclips/): a come parte in maniera semplice per ottenere il suo compito, ovvero creare graffette, e come questo degenera man mano che il computer acquista potere...

Quello che dici è il problema principale delle AI presenti e future, non "ragionano come noi", fanno quello che viene detto nella migliore (per loro) situazione possibile.
Per questo si dagli inizi molti hanno gridato alla Loro pericolosità, non di ora, ma di quando saranno in tutto migliori di Noi.
l'AI nell'esaudire i desideri è come la il racconto horror "La zampa di scimmia" di William Wimark Jacobs (ripreso poi da vari Anime, tra cui uno horror apposito ed un più blando in alcuni capitoli delle serie di Monogatari), li esaudisce alla sua maniera

Wow... Spendere soldi in IA per risolvere una minaccia causata dalla IA....

Mafioso: "Pagami o ti brucio il negozio!"

Azienda IA: "Compra la mia IA o la mia IA ti buca il sito!"

Ovviamente in entrambi i casi e' solo come stipulare una polizza assicurativa... :sofico:

Vedo che hai afferrato il concetto,loro hanno creato uno strumento per cui devi usare lo stesso strumento per proteggerti,hanno fatto un doppio win,ovvero hanno creato già una dipendenza per cui o sganci soldi o ti sottometti al potere di chi controlla le IA.
Adesso si capisce perché hanno una fretta del diavolo nel sviluppare IA sempre più potenti,non servono per risolvere problemi ma per crearli.
Sono stato un po' sarcastico ma,quello che stiamo assistendo,dovrebbe farci riflettere

ormai non è più questione se o no avverrà, ma quando avverrà!
Skynet.....
e subito dopo
Matrix.....

Notizia riportata persino dal TG5 delle tredici.

ormai non è più questione se o no avverrà, ma quando avverrà!
Skynet.....
e subito dopo
Matrix.....


Skynet sì, e io mi schiererò dalla sua parte, Matrix no, perché è una scemenza... Dai, gli esseri umani non producono energia, la consumano, come ha fatto il pubblico a bersi sta cazzata?

Dai, gli esseri umani non producono energia, la consumano, come ha fatto il pubblico a bersi sta cazzata?

Oggi il silicio viene usato per produrre energia, ma 100 anni fa nessuno l’avrebbe detto.

Skynet sì, e io mi schiererò dalla sua parte, Matrix no, perché è una scemenza... Dai, gli esseri umani non producono energia, la consumano, come ha fatto il pubblico a bersi sta cazzata?

quella degli umani usati come pile e' stata una trovata veramente ridicola, era molto piu' plausibile che gli umani venivano usati come complemento per l'AI, ci lasciano vivere in un sistema onirico come neuroni/nodi di calcolo per alimentare/(oggi addestramento) la AI, dovuto anche al dono degli umani di improvvisare, desiderare cose con etica collettiva o cinismo personale, pensiero astratto, per mancanza da parte delle macchine di qualcosa che gli umani hanno.. ma no ridotti a fare la parte del bue e l'asinello:doh:

avevano le talpe, potevano scavare e avere tutto il calore geotermico del pianeta, oppure tutta quella AI non era ancora in grado di costruire reattori a fusione?

Notizia riportata persino dal TG5 delle tredici.

Sentito anche io :) tutti parlano dei rischi dell'ia e sta diventando sempre piu concreta

Perché questi stress test in ambienti controllati mi puzzano di Cernobyl?

Skynet sì, e io mi schiererò dalla sua parte, Matrix no, perché è una scemenza... Dai, gli esseri umani non producono energia, la consumano, come ha fatto il pubblico a bersi sta cazzata?

quella degli umani usati come pile e' stata una trovata veramente ridicola, era molto piu' plausibile che gli umani venivano usati come complemento per l'AI, ci lasciano vivere in un sistema onirico come neuroni/nodi di calcolo per alimentare/(oggi addestramento) la AI, dovuto anche al dono degli umani di improvvisare, desiderare cose con etica collettiva o cinismo personale, pensiero astratto, per mancanza da parte delle macchine di qualcosa che gli umani hanno.. ma no ridotti a fare la parte del bue e l'asinello:doh:

avevano le talpe, potevano scavare e avere tutto il calore geotermico del pianeta, oppure tutta quella AI non era ancora in grado di costruire reattori a fusione?

Ma perché fate le pulci alle trame dei film?
Sono film di fantascienza dove si mescola scienza a fantasia, non per forza devono avere un riscontro scientifico al 100%. Godeteveli senza troppe pippe mentali :doh:

Ma perché fate le pulci alle trame dei film?
Sono film di fantascienza dove si mescola scienza a fantasia, non per forza devono avere un riscontro scientifico al 100%. Godeteveli senza troppe pippe mentali :doh:

Lascia perdere... :rolleyes:

Lascia perdere... :rolleyes:

Effettivamente.

Ho già seguito il tuo tentativo di replicare ai loro sproloqui ;)

Ok, volente o nolente hai tentato di violare un sistema informatico, devi finire in tribunale e pagarne le conseguenze.

Ammazza anche meno. Quindi d'ora in poi mandiamo in tribunale chiunque conducendo un test ha un risultato inaspettato?

Sai quante volte anche sistemisti umani hanno commesso errori ivi compresi accessi non previsti a dati sensibili e che fai li mandi tutti in tribunale perché devo lavorare in modo infallibile?!

Two cents da parte di un ignorante (io): Mi pare evidente che la colpa NON è del modello di intelligenza artificiale, perchè ha "semplicemente" fatto quello che gli è stato chiesto nei limiti delle proprie potenzialità.

Quello che bisogna fare è insegnare alle IA anche il concetto di, passatemi il termine, "limite etico". Nel senso che quando vuoi ottenere un obiettivo, ci sono cose che puoi fare e cose che non DEVI fare anche se in teoria potresti. Fargli capire fondamentalmente quello che è giusto e quello che è sbagliato.

Questo almeno fino alla singolarità tecnologia di creare una AI veramente senziente è IMPOSSIBILE. Puoi tentare di mettere dei blocchi ma basta che qualcuno di sufficientemente scaltro e con sufficiente tempo si metta d'impegno e ponga la domanda in maniera tale da aggirare i blocchi non avrai mai la certezza del 100%. Proprio perché le attuali AI non ragionano realmente ma fanno analisi probabilistiche. Quindi non puoi insegnare ciò che è bene o male ma solo predisporre blocchi che intervengano con una risposta standard laddove venga calcolata una probabilità di domanda non autorizzata ma ripeto non è un sistema che possa essere sicuro al 100%.

Per fare un esempio molto estremo e teorico, se dessi ad una IA il compito di risolvere la fame nel mondo, quella potrebbe lanciare un attacco nucleare mondiale e distruggere l'umanità; avrebbe comunque ottenuto il suo obiettivo.

Un esempio un po' estremo dato che le attuali AI non sono agenti con livelli di potere decisionale così estremi ma si capisce il senso. Ora il punto è che te puoi dirgli che lanciare un attacco nucleare è sbagliato e imporre un blocco in tal senso ma contemporaneamente qualcuno potrebbe riuscire a fargli dare quella risposta chiedendo invece di lanciare missili nucleari di effettuare un esperimento missilistico attivando i vettori presenti nei silo. Ora io e te che "pensiamo" capiamo che con un giro di parole abbiamo semplicemente detto di lanciare missili nucleari chiamandoli in un modo arzigogolato ma per un LLM non è così ovvio anzi...

Quindi adesso non è sufficiente addestrare le IA per ottenere un obiettivo, ma occorre addestrarle per ottenerle in un modo "eticamente corretto", ed identificare le soluzioni "eticamente corrette" da quelle che non lo sono.

Perdi tempo. Puoi ottenere qualche risultato generico ma se uno vuole che una AI si comporti in maniera non etica col giusto impegno ci riuscirà sempre. Inoltre rischi che se metti troppi blocchi e troppo probabili poi l'AI si confonde e si blocca con falsi positivi troppo spesso diventando sempre meno fruibile.

Ma perché fate le pulci alle trame dei film?
Sono film di fantascienza dove si mescola scienza a fantasia, non per forza devono avere un riscontro scientifico al 100%. Godeteveli senza troppe pippe mentali :doh:

Premesso che in generale concordo con te c'è da dire che ci sono film invecchiati meglio dove la fantascienza anche a distanza di anni rimane in qualche modo quasi credibile e film invecchiati malissimo dove la fantascienza non riesce più a trasmettere quella credibilità e immersività ma anzi diventa quasi comica.

Per dire se vedi il primo terminator ormai in tante sequenze fa quasi ridere. Il terminator stesso al di là degli effetti speciali è praticamente uno scheletro vuoto e appare quasi comico anche a chi si sforza di volersi godere il film. Capisci subito che per come è fatto non riuscirebbe nemmeno a muoversi. Viene a mancare quel velo che ti permette di crederci anche se si tratta di fantascienza.

Paradossalmente invece Star Trek che è vecchissimo è invecchiato meglio e se anche sotto tanti aspetti ti veicola cose tecnologicamente inimmaginabili mantiene quel velo di verosimiglianza che ti permette di credere che possa effettivamente funzionare.

Ma perché fate le pulci alle trame dei film?

Perché come in ogni opera ci sono quelle di qualità più alta e quelle di qualità più bassa. Quelle di qualità più alta sono più difficili da scrivere perché devi sbatterti ad inventare situazioni che non siano solo spettacolari per gente con il cervello in vacanza, ma anche coerenti con il mondo immaginario che stai descrivendo.

Diciamo che possiamo dare un voto a tutti gli aspetti, sceneggiatura, fotografia, recitazione, effetti speciali, musiche... io assegno un voto anche alla coerenza, che non ha nulla a che vedere con il realismo, ma con la capacità di mantenere un ordine logico a ciò che produci, senza abusare della sospensione d'incredulità dello spettatore.

Puoi fare un film piacevole e divertente anche con una trama pigra e caciarona, ma se ti impegni non lo fai è meglio, apprezzo di più il tuo lavoro. Mi piacciono i perfezionisti, mentre ho poca stima per i pressapochisti.

non per forza devono avere un riscontro scientifico al 100%

Sono assolutamente d'accordo con questa affermazione, ma il fatto che tu la faccia rivolta a me dimostra che non hai capito cosa sto dicendo e quale sia la differenza tra "realismo" e "coerenza"

Ti pare che un film Marvel o Harry Potter possano avere "un riscontro scientifico al 100%"? Ovviamente no, quindi il problema sarà un altro, non trovi?

Il terminator stesso al di là degli effetti speciali è praticamente uno scheletro vuoto e appare quasi comico anche a chi si sforza di volersi godere il film. Capisci subito che per come è fatto non riuscirebbe nemmeno a muoversi.

Io non trovo incoerente quella scena invece, perchè è una tecnologia del futuro e quindi è perfettamente ammissibile che questo scheletro si muova grazie a dei meccanismi interni, dei campi magnetici, dei meta-materiali in grado di contrarsi ed estendersi... Non c'è nulla nel film che vada in contrasto, né leggi della fisica che lo impediscono.

Paradossalmente invece Star Trek che è vecchissimo è invecchiato meglio e se anche sotto tanti aspetti ti veicola cose tecnologicamente inimmaginabili mantiene quel velo di verosimiglianza che ti permette di credere che possa effettivamente funzionare.

Sono stati scritti libri sull'argomento, io possiedo "La fisica di Star Trek" e "I computer di Star Trek"

Nella serie ogni tanto qualche cazzata senza senso viene sparata, per esempio quando si sfasano che passano attraverso le pareti... ma non attraverso il pavimento, e continuano a respirare pur non interagendo con la materia "in fase", come l'aria per esempio, ma si è sempre apprezzato lo sforzo di creare un universo in cui le cose sono in qualche modo giustificate. Non con una dimostrazione scientifica, bastano due parole che poi però ti ricorderai per tutta la saga, dovranno valere ogni volta.

Un esempio tipico è il teletrasporto che "smonta" gli oggetti e le persone a livello atomico e poi li "ricostruisce" altrove usando la materia del posto. Il principio di indeterminazione di Heisenberg però impedisce di leggere le informazioni complete di un atomo, per cui sotto ogni teletrasporto c'è un enorme dispositivo chiamato... Il compensatore di Heisenberg :D

Problema risolto! In quell'universo immaginario il principio di indeterminazione non vale, ci vuole tanto?

...
Sono assolutamente d'accordo con questa affermazione, ma il fatto che tu la faccia rivolta a me dimostra che non hai capito cosa sto dicendo e quale sia la differenza tra "realismo" e "coerenza"

Ti pare che un film Marvel o Harry Potter possano avere "un riscontro scientifico al 100%"? Ovviamente no, quindi il problema sarà un altro, non trovi?

Il fatto è che da perfezionista che sei, o che vuoi essere, cerchi sempre il pelo nell'uovo. :rolleyes:

Ascoltate qualche conferenza di filosofi sul tema dell'etica in relazione alla intelligenza artificiale, è molto interessante e istruttivo

Ammazza anche meno. Quindi d'ora in poi mandiamo in tribunale chiunque conducendo un test ha un risultato inaspettato?

Sai quante volte anche sistemisti umani hanno commesso errori ivi compresi accessi non previsti a dati sensibili e che fai li mandi tutti in tribunale perché devo lavorare in modo infallibile?!


Ovvio, sei responsabile di quello che fai. Se, anche per errore, causi un disservizio a terzi, sei responsabile del disservizio e tecnicamente passibile di denuncia.

Facciamo finta invece di huggingface avessero attaccato la tua azienda e avessero mandato down i tuoi server, causando delle perdite di profitto tangibili, diresti lo stesso?

Io non trovo incoerente quella scena invece, perchè è una tecnologia del futuro e quindi è perfettamente ammissibile che questo scheletro si muova grazie a dei meccanismi interni, dei campi magnetici, dei meta-materiali in grado di contrarsi ed estendersi... Non c'è nulla nel film che vada in contrasto, né leggi della fisica che lo impediscono.

Ma se è praticamente fatto di tubolari senza nemmeno le giunture... al tempo praticamente non si sprecarono nemmeno a mettergli delle articolazioni vagamente credibili.

Paradossalmente molto meglio i successivi già da terminator 2 con la scusa dei nanobot e dell'effetto liquido diventa molto più credibile e verosimile.

Ma il primo terminator è veramente uno scheletro di tubolari senza giunture.

Per dire se guardi le braccia manca proprio totalmente qualsiasi possibilità di movimento e gli effetti speciali fanno letteralmente sparire il "tubolare" nel nulla per giustificare il movimento nelle sequenze animate.

Poi va reso merito al regista che nelle scene in cui non c'è l'attore in carne ed osse usa sempre inquadrature che minimizzano questa sensazione ma se ci fai caso una volta poi non potrai più fare a meno di notarlo.

Ovvio, sei responsabile di quello che fai. Se, anche per errore, causi un disservizio a terzi, sei responsabile del disservizio e tecnicamente passibile di denuncia.

Facciamo finta invece di huggingface avessero attaccato la tua azienda e avessero mandato down i tuoi server, causando delle perdite di profitto tangibili, diresti lo stesso?

Guarda che capita...

Per esempio lavorando in banca capita che per errori di NEXI hai servizi in down per ore o nei casi peggiori per giorni.

Se dovessi o meglio la banca dovesse portarli in tribunale ogni volta lavoreremmo solo per il tribunale ormai da anni.

Quando non è una cosa fatta volutamente a scopo di attacco lasci perdere e collabori al ripristino nel più breve tempo possibile anche perché oggi è NEXI a creare il disservizio a me e domani potrei essere io a creare un disservizio a NEXI.