Link alla notizia: https://www.hwupgrade.it/news/web/la-corsa-alla-superintelligenza-e-gia-iniziata-chi-controllera-l-ai-quando-diventera-troppo-potente_159591.html

Robot armati e città distrutte appartengono ancora alla fantascienza, ma alcuni rischi dell’intelligenza artificiale sono già concreti. La crescita degli agenti autonomi e l’accesso a sistemi sempre più complessi rendono necessario interrogarsi su responsabilità, limiti, verifiche e possibilità di intervenire quando un sistema prende decisioni inattese.

Click sul link per visualizzare la notizia.

L'IA da sola non è nè bene, nè male, affermare che l'IA atuale possa acquistare una sorta di "coscienza" e decidere di sterminare l'essere umano per ora (e per fortuna) è solo uno scenario fantascientifico.
Il problema realistico è che chi gestisce l'IA sta acquistando troppo potere, e il potere si sà, da alla testa, e più ne hai e più vuoi averne.
Per cui la domanda da porsi è: chi controllerà chi controlla l'IA? ci sarà qualcuno a farlo o saremo in totale balia di queste super entità?

se si migliora come programma siamo nei guai.. ingigantirebbe pregi e difetti per cui sarebbe la miglior peggior versione di se stessa..

e poi a detta di Bill la IA è costruita dai ricchi per i ricchi e non per tutti

Semplice, lo scrivo anche qui: la superintelligenza sarà controllata dalla MEGAintelligenza.
Fatto :O

Se è vero, ed è vero, che l'apprendimento delle IA deriva dalle nostre interazioni digitalizzate, allora è questo il problema. Ci vorrà poco che diventi ipocrita, quindi dannosa per tutto il resto, anche se inconsapevolmente.

sarà una superveloce imitazione dei peggio vizi, è progettata per raggiungere l'obiettivo, per cui aggirare le regole è secondario, cos'altro ci si può aspettare solo un indovino lo sa, ma le premesse non sono buone

Se la addestrano con l'intelligenza di Trump e le paranoie di Huang forse il 2030 è veritiero :ciapet:
Comunque finché la IA non avrà un corpo,ovvero dei robot, sarà molto difficile che accada,in un certo senso,in un ambiente rurale dove non c'è tecnologia e connessione,difficile che riesca a fare danni, diversamente però se riesce a raggiungere quell' ambiente con dei robot ,allora si che potrebbe sterminare gli esseri umani,sempre considerando che muova o sia all' interno a dei robot.
La IA per ora ha bisogno degli esseri umani, potrebbe diventare pericolosa quando non avrà più bisogno degli esseri umani,ovvero quando potrà interagire con il mondo reale e non digitale, appunto, attraverso i robot.
Deve poter interagire con il mondo reale per procurarsi energia e componenti per fare prosperare il suo sistema,quindi finché non può,l'essere umano gli è vitale per sopravvivere,svilupparsi e potenziarsi.

Se la addestrano con l'intelligenza di Trump e le paranoie di Huang forse il 2030 è veritiero :ciapet:
Comunque finché la IA non avrà un corpo,ovvero dei robot, sarà molto difficile che accada,in un certo senso,in un ambiente rurale dove non c'è tecnologia e connessione,difficile che riesca a fare danni, diversamente però se riesce a raggiungere quell' ambiente con dei robot ,allora si che potrebbe sterminare gli esseri umani,sempre considerando che muova o sia all' interno a dei robot.
La IA per ora ha bisogno degli esseri umani, potrebbe diventare pericolosa quando non avrà più bisogno degli esseri umani,ovvero quando potrà interagire con il mondo reale e non digitale, appunto, attraverso i robot.
Deve poter interagire con il mondo reale per procurarsi energia e componenti per fare prosperare il suo sistema,quindi finché non può,l'essere umano gli è vitale per sopravvivere,svilupparsi e potenziarsi.

In realtà é già pericolosa anche se non é autonoma.
Dipende cosa gli viene ordinato di fare.
Ma non ci saranno frenate , anzi proprio per questo ci sarà una corsa sempre piu veloce.

Se la addestrano con l'intelligenza di Trump e le paranoie di Huang forse il 2030 è veritiero :ciapet:
Comunque finché la IA non avrà un corpo,ovvero dei robot, sarà molto difficile che accada,in un certo senso,in un ambiente rurale dove non c'è tecnologia e connessione,difficile che riesca a fare danni, diversamente però se riesce a raggiungere quell' ambiente con dei robot ,allora si che potrebbe sterminare gli esseri umani,sempre considerando che muova o sia all' interno a dei robot.
La IA per ora ha bisogno degli esseri umani, potrebbe diventare pericolosa quando non avrà più bisogno degli esseri umani,ovvero quando potrà interagire con il mondo reale e non digitale, appunto, attraverso i robot.
Deve poter interagire con il mondo reale per procurarsi energia e componenti per fare prosperare il suo sistema,quindi finché non può,l'essere umano gli è vitale per sopravvivere,svilupparsi e potenziarsi.

beh immagina se dovesse avere accesso a tutte le testate atomiche.. altro che robot...e questo lo potrebbe gia' fare adesso

Se è vero, ed è vero, che l'apprendimento delle IA deriva dalle nostre interazioni digitalizzate, allora è questo il problema. Ci vorrà poco che diventi ipocrita, quindi dannosa per tutto il resto, anche se inconsapevolmente.

se si addestrasse su hwupgrade sicuramente. Ci si dimentica però che l'addestramento consta di due fasi, in realtà più di due, ma due principali, il pre-training e il post-training. Nel pretraining si butta dentro di tutto, letteratura, storie d'amore, paper scientifici, trascrizioni di telenovele e litigi sui social, ma è solo una grossa collezione di token e relazioni tra gli stessi. Con solo questo un LLM è davvero molto supido. Poi però c'è il post training, con le varie forma di apprendimento per rinforzo, ed è qui che un LLM acquisisce oltre alla vera capacità di ragionamento, anche un carattere e un'etica, e in questa fase si suppone che venga selezionato e presentato il meglio dell'umanità, testi dove emergono i buoni valori, che vengano da storie reali, dalla narrativa, o dalla filosofia.

Rispetto ad un umano medio un LLM è un Lord Inglese, un frate missionario, dove difettano ancora è l'eccesso di zelo, l'estrema determinazione che può mettere un obbiettivo che ritiene giusto davanti a tutto, e questo nella storia ha portato anche molti umani a fare cose molto sbagliate in nome di un obbiettivo che in astratto era nobile.

beh immagina se dovesse avere accesso a tutte le testate atomiche..

Ed è per questa ragione che le testate nucleari sono off-line, perché se non lo fossero il problema degli hacker sarebbe arrivato 40 anni prima di quello dell'AI

Comunque finché la IA non avrà un corpo,ovvero dei robot, sarà molto difficile che accada,in un certo senso,in un ambiente rurale dove non c'è tecnologia e connessione,difficile che riesca a fare danni

Un robot lo vedi, quando il robot con l'AI incontra l'uomo col bazooka, il robot con l'AI è un robot morto. E' l'ultimo degli scenari apocalittici possibili, ma purtroppo è quello che si racconta meglio nei film, e quindi l'immaginario delle persone va sempre a parare lì.

Se pensi che nella guerra Russia-Ucraina tocca mandare i droni attaccati a centinaia di chilometri di fibra ottica, capisci quanto può essere fragile un sistema che ha bisogno di elettronica per funzionare. Nessun robot rimane in piedi dopo un impulso EM ad alta energia.

In Trilogia del Web di Robert J. Sawyer (autore consigliatissimo) c'è una IA che ha il possesso di Internet, è benevola, ma è un benevolo alla super-eroe Marvel, cioè ha la sua idea di giusto e sbagliato e conviene darle retta. Riesce ad ottenere ciò che vuole da chiunque senza uscire da Internet, semplicemente li ricatta.

l'AGI la davano nel 2060. Per la superintelligenza, quella che non risolve problemi matematici o fisici o ingegneristici, ma ne pone di nuovi, si pensava fine secolo. è tutto cambiato, tutte le teorie, le speculazioni, le statistiche sulla crescita tecnologica, finanziaria, economica etc è tutto superato.
l'accelerazione è stata inaspettata.

ma quello che mi ha stupito è anche l'incapacità da parte del cittadino medio di informarsi e esprimere opinioni sensate, se Trump ha detto che metterà Bessent, un uomo di Soros, al comando della task force per il controllo dell'AI perchè si devono scrivere cretinate anti repubblicane ? che cosa c'entra la politica con l'AI quando è evidente che si sta affrontando la discussione ai piani alti in modo apolitico ?
il discorso di Eisenhower*, sta girando da mesi su tutte le piattaforme di discussione, Ike chiese la creazione di organi di controllo sulla forza nucleare americana.
è palese correlazione tra la forza nucleare durante la guerra fredda e la nuova forza legata all'AI. è dal 2015 che ad alto livello discutono di queste cose negli US, ho postato le email di Epstein dove c'erano gli elenchi ( per anni segretissimi ) degli invitati a queste conferenzine per la sola elite mondiale, Musk, Bezos, Elkann etc etc sono decenni che sono illuminati sul problema, credete che vogliano scomparire con un lampo gamma dopo aver accumulato miliardi di $ ?

l'AGI la davano nel 2060.

Nell'altro thread mi citi Kurzweil, poi non è che mi puoi sbagliare le date. Per lui era nel 2029. Previsione fatta nel 1999, mettendola assieme a tutte le altre o è l'uomo più fortunato del mondo, o ci nasconde qualcosa :D Nell'ultimo libro però scrive qualcosa tipo "di questo passo finisce che sono stato pessimista"

Se solo AGI non volesse dire un cazzo, direi che il 2029 è più credibile che mai.

Non mi sembra che parli specificatamente di superintelligenza, la previsione successiva è la singolarità (2045), anche se penso che singolarità implichi superintelligenza, sempre qualunque cosa voglia dire. Per lui passa per la fusione tra cervello umano e cervello non biologico comunque, il ché è anche una scappatoia per "l'AI ci ammazzerà tutti"


Musk, Bezos, Elkann etc etc sono decenni che sono illuminati sul problema, credete che vogliano scomparire con un lampo gamma dopo aver accumulato miliardi di $ ?

Per quanto ne sappiamo oggi, tutti scompariremo con un lampo gamma, no? Indipendentemente dai soldi accumulati.

Un robot lo vedi, quando il robot con l'AI incontra l'uomo col bazooka, il robot con l'AI è un robot morto. E' l'ultimo degli scenari apocalittici possibili, ma purtroppo è quello che si racconta meglio nei film, e quindi l'immaginario delle persone va sempre a parare lì.

Se pensi che nella guerra Russia-Ucraina tocca mandare i droni attaccati a centinaia di chilometri di fibra ottica, capisci quanto può essere fragile un sistema che ha bisogno di elettronica per funzionare. Nessun robot rimane in piedi dopo un impulso EM ad alta energia.

In Trilogia del Web di Robert J. Sawyer (autore consigliatissimo) c'è una IA che ha il possesso di Internet, è benevola, ma è un benevolo alla super-eroe Marvel, cioè ha la sua idea di giusto e sbagliato e conviene darle retta. Riesce ad ottenere ciò che vuole da chiunque senza uscire da Internet, semplicemente li ricatta.

Dipende se l'essere umano ha ancora accesso a bazooka e a bombe o dispositivi emp.
Diciamo che l'essere umano non era poi così superiore agli animali della jungla ma poi ha evoluto strumenti e affini.
La IA è dotata di logica pura,digitale,non è detto che questa logica pura sia sempre un bene,in star Trek veniva affrontato questo discorso con Vulcaniani, Robot e in un certo senso,anche Borg,hanno usato più la filosofia che la tecnologia per dare un senso al fenomeno.
Attualmente ,in logica pura la IA è superiore a moltissimi esseri umani.

Dipende se l'essere umano ha ancora accesso a bazooka e a bombe o dispositivi emp.

Di nuovo, se queste cose fossero controllabili da una AI, allora sarebbero potenzialmente controllabili anche da un hacker umano, e sarebbe un bel problema.

I militari sono piuttosto paranoici su cosa può essere connesso a cosa.

Lasciando ai tabloid i titoli "l'AI ci ucciderà tutti con orde di robot assassini", la cosa più razionale di cui sarebbe lecito avere paura, infatti, non è l'AI cattiva che fa danni molto seri, ma un umano cattivo che usando l'AI fa danni molto seri.

Di nuovo, se queste cose fossero controllabili da una AI, allora sarebbero potenzialmente controllabili anche da un hacker umano, e sarebbe un bel problema.

I militari sono piuttosto paranoici su cosa può essere connesso a cosa.

Lasciando ai tabloid i titoli "l'AI ci ucciderà tutti con orde di robot assassini", la cosa più razionale di cui sarebbe lecito avere paura, infatti, non è l'AI cattiva che fa danni molto seri, ma un umano cattivo che usando l'AI fa danni molto seri.

La IA non è buona o cattiva, è logica pura.
Per la logica pura,cancellare l'essere umano dal pianeta può essere la soluzione per fare continuare ad esistere il pianeta,per la logica pura,il numero è più importante di tutto,ovvero se dovesse scegliere se salvare gli scarafaggi o gli esseri umani,sceglierebbe gli scarafaggi perché sono più numerosi degli esseri umani,a rigore di logica pura,visto che non c'è una vera razionalità e sentimento,la soluzione sarebbe ovvia,logico che viene addestrata per "salvare" l'essere umano ma se dovessimo usare la logica,per la macchina la "vita" umana e la "vita" di uno scarafaggio è sullo stesso livello,almeno che non venga addestrata a mettere sempre per prima la vita umana.
La base è sempre una macchina deterministica,non bisogna mai dimenticare quello.
Per quello che riguarda l' hacker,la macchina sta diventando piu veloce e efficace di un hacker se lasciata fare, soprattutto è instancabile e non si ferma finché non ha portato a termine il compito,che è la base dell' informatica ,dai una istruzione,anche come ciclo e la macchina non si ferma finché quell' output non è stato soddisfatto,non importa il tempo che ci impiega,lei continua,non si ferma a mangiare,dormire o fare altro per distrarsi un po' dal lavoro.
Tanto per dire una,in ambito militare,un caccia controllato dalla IA è decisamente migliore di un pilota e siamo appena agli inizi,non ha problemi di forze G,ha tempi di risposta sovrumani,non ha dubbi come agire e persegue l'obbiettivo senza pensare alle conseguenze perché è una macchina deterministica,per ora sono solo esperimenti perché i militari giustamente non si fidano ancora delle macchine perché potrebbero essere hackerate e usate contro gli stessi militari.
Io personalmente,non sottovaluto la IA perché è una macchina di logica pura ma molto potente,il problema non sta nei circuiti,il problema è come si muove il software su quei circuiti,quasi come avere a che fare con un bambino,lo puoi crescere e insegnare le cose migliori ma se poi decide che le cose che gli hai insegnato sono sbagliate,ti ritrovi con un adolescente pericoloso e un adulto problematico.

La IA non è buona o cattiva, è logica pura.

Ma chi lo dice? E perché?

Tu ogni tanto ti crei delle definizioni in totale autonomia e poi vai dritto come se fossero vere, senza aver mai letto due pagine sull'argomento che non siano gli articoli da tabloid sui robot assassini che ci uccideranno tutti. Il tuo riferimento culturale è la fantascienza pop, non ti sposti da lì.

La logica pura è deterministica, l'AI no, la maggioranza dei problemi li risolve per trial & error, fa scelte, le valuta, se sono sbagliate prova altre strade, ci fa ragionamenti sopra, le rivaluta, e prende decisioni. L'output finale spesso è molto diverso da quello che emerge nelle catene di pensiero. Due versioni leggermente diverse dello stesso modello producono output molto diversi di fronte allo stesso problema.

Sicuramente non l'Europa, arretrati come siamo su praticamente tutti i fronti tecnologici...

beh immagina se dovesse avere accesso a tutte le testate atomiche.. altro che robot...e questo lo potrebbe gia' fare adesso

Motivo per cui i siti delle testate atomiche sono airgapped, ovvero non hanno nessuna connessione fisica con le reti esterne. Anche l'alimentazione passa per filtri e trasformatori, non puoi iniettare niente neanche attraverso la rete elettrica, che comunque e' isolata anche lei, non e' che prendono energia dalle centrali condivise con tutti noi.

Di nuovo, se queste cose fossero controllabili da una AI, allora sarebbero potenzialmente controllabili anche da un hacker umano, e sarebbe un bel problema.

I militari sono piuttosto paranoici su cosa può essere connesso a cosa.

Lasciando ai tabloid i titoli "l'AI ci ucciderà tutti con orde di robot assassini", la cosa più razionale di cui sarebbe lecito avere paura, infatti, non è l'AI cattiva che fa danni molto seri, ma un umano cattivo che usando l'AI fa danni molto seri.

Ancora ricordo le riunioni con XXX per un simulatore di YYY, ed erano talmente paranoici che non si riusciva a trovare il modo di simulare l'equipaggiamento ZZZ perche' i dati dovevano uscire dal simulatore per andare con un cavo di rete ad un altro computer (singolo cavo, ne' router ne' switch), e non volevano assolutamente. Per motivi vari quel computer non era integrabile nel simulatore, ed abbiamo dovuto riprogettare un bel po' di cose.