Link alla notizia: https://www.hwupgrade.it/news/web/il-padrino-dell-intelligenza-artificiale-lancia-l-allarme-stiamo-andando-dritti-verso-l-estinzione-umana_144336.html

Yoshua Bengio, tra i padri fondatori dell'intelligenza artificiale, ne è sempre più convinto: i sistemi avanzati potrebbero evolvere in direzioni non allineate agli interessi umani, fino a minacciare la democrazia e la sopravvivenza stessa dell'umanità.

Click sul link per visualizzare la notizia.

Skynet è dietro l'angolo ... :fiufiu:

Ma magari :asd:

E poi, quando l'UE vuole rallentare, controllare, regolamentare, senti il coro che si alza: "stanno uccidendo lo sviluppo in Europa", "non siamo competitivi", "qui da noi non sono arrivate le ultime novità dell'iPhone", "voglio il nuovo modello di chatgpt, ecco, uffa..."

Non si tratta solo di una race condition tra aziende, ma anche di una massa di bambini che vuole l'ultimo giocattolo ad ogni costo, e spinge le aziende ad andare oltre...

Scusate ma leggendo mi e' venuto in mente Haran Banjo del Daitan 3, che in effetti anche Lui combatteva contro le macchine.

Per articolo dice cose tutte condivisibili, chiare, ed in certi casi ovvie, MA chi le crea, le addestra PURTROPPO PER I NOI DEL FUTURO non puo' fare altro che continuare senza fermarsi, sia per non perdere gli investimenti miliardari eseguiti, sia per non restare escluso, sia per non restare tra gli ultimi e sia per fama, che come detto purtroppo continuano senza sosta con avanti tutta poi si vedra'. Danno questa impressione, poi se non e' cosi', beh come non detto.

Yoshua Bengio?
Sarà mica il nonno di Haran Bengio?
Azz ci ritroveremo assoggettati dai meganoidi!
Scherzare con la IA è come scherzare con il nucleare,prima o poi la cosa potrebbe sfuggire di mano ma a certi imperi non importa, criticano noi europei che cerchiamo di mettere dei paletti per evitare una catastrofe.
Provate a immaginare social e Mass media controllati dalla IA,una IA che fomenta odio fra popoli e persone per perseguire il suo scopo personale di prendere il comando assoluto come un Cesare.
Fantasie?
Intanto è stato dimostrato che la IA sa mentire per ottenere i suoi scopi.

Link alla notizia: https://www.hwupgrade.it/news/web/il-padrino-dell-intelligenza-artificiale-lancia-l-allarme-stiamo-andando-dritti-verso-l-estinzione-umana_144336.html

Yoshua Bengio, tra i padri fondatori dell'intelligenza artificiale, ne è sempre più convinto: i sistemi avanzati potrebbero evolvere in direzioni non allineate agli interessi umani, fino a minacciare la democrazia e la sopravvivenza stessa dell'umanità.

Click sul link per visualizzare la notizia.

se vabbè ciao...

stacchi la spina e la IA non funziona piu.

non mi pare così difficile
poi se vogliamo raccontare la storiella per spaventare tutti ok, ma nel concreto non esiste alcun pericolo reale.

bisogna avere piu paura degli Uomini

Ma che palle... ora ci manca pure tutta sta gente tecnofobica.

Se l'AI ci spazzerà via sarà perché è la naturale selezione per la prossima specie dominante, se non lo farà troveremo il modo di convivere con reciproci vantaggi.

A oggi non siamo nemmeno lontanamente vicini a una AI senziente e ci facciamo le seghe mentali su quello che potrebbe decidere di fare?! Almeno arriviamoci a creare qualcosa di anche solo lontanamente senziente prima di preoccuparci di cosa potrebbe fare una AI super-intelligente che non sappiamo nemmeno se potrà mai esistere.

Mi sembra come qualche anno in cui ci fu la moda della gente che si preoccupava perché fra X miliardi di anni il sole diventerà una gigante rossa e inghiottirà la terra. Sti cavoli... capisco che prima o poi sarà un problema ma mi preoccupo ora di uno scenario talmente lontano che ci potremmo estinguere per N motivi molto prima di allora?!?

Ma i padrini dell'AI non dovrebbero guidare l'AI stessa perché non accada? Sempre titoli catastrofistici ed il solito immancabile Terminator.

io li metterei in una stanza; questo e quell'altro per cui sono tutte stronzate.


la chiave della stanza poi la lascio a chatgpt

Scusate ma leggendo mi e' venuto in mente Haran Banjo del Daitan 3, che in effetti anche Lui combatteva contro le macchine.se se, Beauty e Reika, altro che Haran Benjo :sofico: :sofico:

io li metterei in una stanza; questo e quell'altro per cui sono tutte stronzate.


la chiave della stanza poi la lascio a chatgpt

stai tranquillo che in qualche modo usciamo, anche senza chatgpt

siamo stati fino a ieri senza... TUTTI

stai tranquillo che in qualche modo usciamo, anche senza chatgpt

siamo stati fino a ieri senza... TUTTI

siamo stati anche senza aereo, auto, penicillina, ruota, fuoco.

comunque mi basta che l'uno e l'altro si piglino a sberle tra di loro...

È dagli anni 70 che DI SAPEVA che quella che all' epoca si chiamava AUTO PROGRAMMAZIONE, cioè programmi che si riscrivevano da soli che si SAPEVA che quel processo non era controllabile e verificabile. Decenni di lavoro nella programmazione ed automazione mi hanno sempre lasciato questo timore che oggi vedo concretizzarsi sotto i miei occhi! La serie fantasiosa di Terminator era solo una ipotesi catastrofica e speriamo non accada mai.
Purtroppo la guerra in Ucraina la vedo una delle possibili cause di accelerazione di questo processo. Uno scontro tra due nazioni con tanta disparità di risorse umane da mandare al fronte spinge chi ne ha meno ad utilizzare sempre più tali tecnologie. Per la la sua sopravvivenza non potrà farne a meno. I droni pilotati a distanza sono il primo passo per delegare alle macchine la difesa del territorio.

Ammesso che si possibile, quando tutto sarà sotto il controllo della AI, dubito che lo si faccia se il suo funzionamento è vitale per altri motivi.

Assolutamente, da accanito tecnico ed innamorato della tecnologia sin da bambino degli anni 60, posso affermare, come lo sostenevo molto prima dei vari film sul tema, che il pericolo è reale.
Non che l' AI possa volere la nostra morte ma che è e sarà sempre più autonoma.
Il che POTREBBE essere anche virale per la vita di chi vi si affidasse o dovesse scontravici, ma dubito che la AI possa mai considerarci dei nemici come specie.
Sarà credo più un problema di "convivenza" con qualcosa di autonomo e che può trovare come soluzione migliore la morte di qualche essere vivente od essere umano...
D'altronde è addestrata a risolvere problemi. Se qualcuno di noi può rappresentare "il problema" e la nostra eliminazione la soluzione più plausibile...
cercherà di risolvere a tutti i modi il problema...
Credo che questo sia ovvio. Che poi possa identificare tutto il genere umano come un problema ... Boh, non credo...
Spero che sia chiara a tutti la situazione...
Questi sono i rischi che oggi corriamo. Purtroppo l'AI era una necessità ed una ovvia conclusione nello sviluppo della programmazione...

Io Robot film e gli scritti di Isac Asimov....che dire se questo è il futuro...beh un po' preoccupante è.

Io Robot film e gli scritti di Isac Asimov....che dire se questo è il futuro...beh un po' preoccupante è.

hai citato (storpiandolo, va vabbeh...) il nome di uno dei pochi, se non l'unico, autore che ha imposto ai "suoi" robot un imprescindibile codice di comportamento verso gli umani.
non male.

Senzienti già lo sono, perché dotati di sensi che esercitano. Anche pensanti: sono pressappoco a un livello animale non umano.Quindi hanno in qualche misura coscienza (= capacità di interpretare i dati di un dato ambiente esterno nel quale poi si destreggiano). Non sono concepiti per il bisogno di cibo, quindi è ragionevole arrendersi che non si sarà sbranati. Nemmeno prevedono un modulo emotivo, quindi la sfera sentimentale, con tutto il suo intricato complesso di implicazioni, viene a mancare (a meno di obiettivi imitativi algoritmici impostati, non determinati da esigenze biochimiche o comunque intrinseche dell'artefatto, che prescindano il codice eseguibile, cioè non mera simulazione di stati d'animo). Quello che manca è in fondo la distinzione tra soggetto e oggetto. Come un animale rudimentale non si realizza il salto all'"io". Ma chi può attualmente stabilire il livello di complessità che soddisfa a tale condizione, quando del nostro io si sa poco o niente?

Non è questo il caso del professore e altri scettici del settore, però ricordo che warning allarmistici da parte di addetti al lavori venivano etichettati come marketing inverso (parlartene male, ma parlatene).

Personalmente credo che la rivoluzione della IA porti più benefici che pericoli. Si dovrebbe sempre applicare la massima romana per cui la virtù sta nel mezzo: niente catastrofismo allarmistico, ma neanche lassismo e noncuranza. Ovvio che se si affida la gestione indiscriminata di sistemi tipo armamenti nucleari, allora gli scenari diventano davvero imprevedibili —l'aut aut paventato dal professore, per esempio..

"padrino"?...
... what's "padrino"?
... oh, ok! but why isn't there a "madrina"?

"padrino"?...
... what's "padrino"?
... oh, ok! but why isn't there a "madrina"?
risposta eventualmente per l' .A, > I<

:read:

,A;---<>-I < conchillai?
:D

nota: date un contributo anche voi per i vostri falsi padrini con le loro creazioni a stampo balordo
:D

Nota: anche per indicazioni riguardanti gli algoritmi che usa, grazie

ovviamente ciò non riguarda la processazione di dati scientifici anche su campi non riguardanti la processazione dell'interpretazione del pensiero ontologico pertinente all'umano

se vabbè ciao...

stacchi la spina e la IA non funziona piu.

non mi pare così difficile


Direi anche, stacchiamo tutte le celle telefoniche. Tanto si vive anche sena smart phone.

Il problema è che nel mondo civilizzato, sono ormai abituati cosi. Come ora si stanno abiutando dall IA. Stiamo perdendo le nostre capacità che madre natura ci ha fornito. Io spero in un gigantesco e fortissimo impulso eletromagnetico che distrugga un 90% di tutta la tecnologia mondiale.

Mi farei delle grasse risate a vedere il mondo nel panico.

Direi anche, stacchiamo tutte le celle telefoniche. Tanto si vive anche sena smart phone.

Il problema è che nel mondo civilizzato, sono ormai abituati cosi. Come ora si stanno abiutando dall IA. Stiamo perdendo le nostre capacità che madre natura ci ha fornito. Io spero in un gigantesco e fortissimo impulso eletromagnetico che distrugga un 90% di tutta la tecnologia mondiale.

Mi farei delle grasse risate a vedere il mondo nel panico.

Ma non diciamo fregnacce. Non stiamo perdendo una ceppa anzi... grazie all'IA in tanti casi ho imparato a fare cose che senza avrebbero richiesto ore di tempo solo per trovare le istruzioni del caso.

La chiusura poi è una vera trollata... certo auguriamoci di tornare all'età della pietra pur di aver ragione. Poi quando la gente crepa a 30 anni perché non puoi fare un esame medico, perché invece del trattore ti tocca arare con i buoi ecc... ecc... ecc... tutti contenti e felici.

Ma per piacere... se veramente credete che si sta meglio quando si stava peggio vi sfido ad andare per un mese a stare in qualche eremo che qua dalle mie parti qualcuno ancora c'è a campare di pastorizia senza elettricità e senza nient'altro di tecnologico. Non dureresti una settimana ma nel frattempo stai ONLINE, con un PC o uno smartphone a scrivere cazzate.

se vabbè ciao...

stacchi la spina e la IA non funziona piu.

non mi pare così difficile
poi se vogliamo raccontare la storiella per spaventare tutti ok, ma nel concreto non esiste alcun pericolo reale.

bisogna avere piu paura degli Uomini

Esatto. Queste notizie continue sui "pericoli" dell'IA servono per mettere paura alla gente e fargli accettare qualunque misura, è sempre la stessa tecnica.
Inoltre, se smettessero di parlare della presunta IA, scoppierebbe la bolla e l'economia USA crollerebbe a picco...

The AI bubble is the only thing keeping the US economy together, Deutsche Bank warns (https://www.techspot.com/news/109626-ai-bubble-only-thing-keeping-us-economy-together.html)

Il problema non è quando/se ci saranno AI superiori a noi e con differente alignment.
Il vero problema è che i tool attuali basati su LLM permettono di manipolare/controllare e filtrare le masse con costi ragionevoli per nuovi aspiranti oligarchi globali.

Se non ci sono adeguate contromisure e meccanismi di tutela, si rischia di entrare in un nuovo periodo di assolutismo e decadenza tecnico-scientifica ( perchè i bimbominkia dietro tutto questo sono interessati al potere ma non comprendono i danni che fanno alla stessa società civile da cui dipendono loro stessi).

Il problema non è quando/se ci saranno AI superiori a noi e con differente alignment.


Tranquillo, con il machine learning che è basato sull'apprendimento induttivo da esempi e non sull'apprendimento deduttivo e sulla logica, non ci sarà mai alcuna "IA".


Il vero problema è che i tool attuali basati su LLM permettono di manipolare/controllare e filtrare le masse con costi ragionevoli per nuovi aspiranti oligarchi globali.


Concordo, infatti secondo me la migliore definizione che ho letto è IA=Indottrinamento Automatico, la propaganda più potente di sempre.


Se non ci sono adeguate contromisure e meccanismi di tutela, si rischia di entrare in un nuovo periodo di assolutismo e decadenza tecnico-scientifica ( perchè i bimbominkia dietro tutto questo sono interessati al potere ma non comprendono i danni che fanno alla stessa società civile da cui dipendono loro stessi).

Vero, grande problema.
ChatGPT Has Already Polluted the Internet So Badly That It’s Hobbling Future AI Development (https://futurism.com/chatgpt-polluted-ruined-ai-development)

Direi anche, stacchiamo tutte le celle telefoniche. Tanto si vive anche sena smart phone.

Il problema è che nel mondo civilizzato, sono ormai abituati cosi. Come ora si stanno abiutando dall IA. Stiamo perdendo le nostre capacità che madre natura ci ha fornito. Io spero in un gigantesco e fortissimo impulso eletromagnetico che distrugga un 90% di tutta la tecnologia mondiale.

Mi farei delle grasse risate a vedere il mondo nel panico.

Mi hai fatto tornare alla mente una serie televisiva (di cui non ricordo il titolo*) trasmessa anni fa che raccontava proprio una cosa del genere e le persone si son dovute riadattare ad una vita senza elettricità.


*P.S. la serie si chiama Revolution (https://it.wikipedia.org/wiki/Revolution_(serie_televisiva)).

Ma non diciamo fregnacce. Non stiamo perdendo una ceppa anzi... grazie all'IA in tanti casi ho imparato a fare cose che senza avrebbero richiesto ore di tempo solo per trovare le istruzioni del caso.

La chiusura poi è una vera trollata... certo auguriamoci di tornare all'età della pietra pur di aver ragione. Poi quando la gente crepa a 30 anni perché non puoi fare un esame medico, perché invece del trattore ti tocca arare con i buoi ecc... ecc... ecc... tutti contenti e felici.

Ma per piacere... se veramente credete che si sta meglio quando si stava peggio vi sfido ad andare per un mese a stare in qualche eremo che qua dalle mie parti qualcuno ancora c'è a campare di pastorizia senza elettricità e senza nient'altro di tecnologico. Non dureresti una settimana ma nel frattempo stai ONLINE, con un PC o uno smartphone a scrivere cazzate.

Sei propio schizzato. Hai detto cose che non centrano con quello che ho detto. Tornare all'aratro ? Leggi meglio e non giugidacare le persone dai post.
Il tuo è un semplice attacco isterico caro mio. Fatti vedere da uno bravo.

Mi hai fatto tornare alla mente una serie televisiva (di cui non ricordo il titolo*) trasmessa anni fa che raccontava proprio una cosa del genere e le persone si son dovute riadattare ad una vita senza elettricità.


*P.S. la serie si chiama Revolution (https://it.wikipedia.org/wiki/Revolution_(serie_televisiva)).

Nello specifico non era un impulso elettromagnetico ma delle nanomacchine che impedivano l'utilizzo di qualsiasi fonte di energia elettrica.

Sei propio schizzato. Hai detto cose che non centrano con quello che ho detto. Tornare all'aratro ? Leggi meglio e non giugidacare le persone dai post.
Il tuo è un semplice attacco isterico caro mio. Fatti vedere da uno bravo.

Ok vediamo cosa hai scritto:

Io spero in un gigantesco e fortissimo impulso eletromagnetico che distrugga un 90% di tutta la tecnologia mondiale.

Quindi leggendo questo di fatto cosa dovevo capire? Quali tecnologie dovrei pensare che sopravvivono in un mondo dove un impulso frigge il 90% della tecnologia che significa di fatto non avere più nulla di elettrico?

Io mi dovrò far vedere da uno bravo ma te magari dovresti rileggere quello che scrivi e capire l'impatto che avrebbe una cosa del genere che poi è chiaro che l'hai scritta senza alcuna cognizione di causa tanto per fare lo sborone in un forum ma rimane una frase assurda che meritava una risposta forte.

Direi anche, stacchiamo tutte le celle telefoniche. Tanto si vive anche sena smart phone.

Il problema è che nel mondo civilizzato, sono ormai abituati cosi. Come ora si stanno abiutando dall IA. Stiamo perdendo le nostre capacità che madre natura ci ha fornito. Io spero in un gigantesco e fortissimo impulso eletromagnetico che distrugga un 90% di tutta la tecnologia mondiale.

Mi farei delle grasse risate a vedere il mondo nel panico.

Non ne sono tanto sicuro

Intanto sono due cose diverse.

Lo smartphone (o il telefonino) è uno strumento "passivo", se non lo usi è come non averlo.
La IA per come la stanno modificando di volta in volta dovrebbe teoricamente prendere decisioni "da sola".

E comunque, anche se domani crollasse TOTALMENTE l'intera rete internet, dubito che iniziamo a morire uno dopo l'altro dopo pochi minuti.

Per fortuna non siamo tutti CATASTROFISTI

E comunque, anche se domani crollasse TOTALMENTE l'intera rete internet, dubito che iniziamo a morire uno dopo l'altro dopo pochi minuti.



Ma se per un'ora di down di Facebook la gente si stava strappando i capelli qualche mese fa? Figurati per un down totale di internet. :D

Ma se per un'ora di down di Facebook la gente si stava strappando i capelli qualche mese fa? Figurati per un down totale di internet. :D

Non lo metto in dubbio, se quella fetta di persone anche si suicidasse per quel motivo forse sarebbe giusto così.

Io parlavo di persone NORMODOTATE invece :D

Non lo metto in dubbio, se quella fetta di persone anche si suicidasse per quel motivo forse sarebbe giusto così.


Nuovo tipo di "selezione naturale"?


Io parlavo di persone NORMODOTATE invece :D

Mi sa che stanno/stiamo diventando una minoranza su questo pianeta.

Mi sa che stanno/stiamo diventando una minoranza su questo pianeta.

Al di là della battuta ma fortunatamente non è così. Abbiamo semplicemente una percezione distorta in quanto siamo abituati a situazioni per cui per comodità e non necessità nessuno è interessato ad imparare ed allenare certe abilità.

In caso di necessità invece recupereremmo più velocemente di quanto non si pensi e alla fine l'istinto e l'organizzazione farebbe sopravvivere molta più gente di quel che si pensi.

Poi certo dipende anche dello scenario di cui si parla perché un impulso in grado di annientare il 90% della tecnologia non è esattamente un evento naturale.

...
Poi certo dipende anche dello scenario di cui si parla perché un impulso in grado di annientare il 90% della tecnologia non è esattamente un evento naturale.

Per quel (poco) che ne sappiamo potrebbe capitare in un futuro prossimo un brillamento solare talmente forte da mettere in crisi molta della nostra tecnologia, a cominciare dai satelliti che sono l'infrastruttura alla base di molti attuali sistemi di comunicazione

Per quel (poco) che ne sappiamo potrebbe capitare in un futuro prossimo un brillamento solare talmente forte da mettere in crisi molta della nostra tecnologia, a cominciare dai satelliti che sono l'infrastruttura alla base di molti attuali sistemi di comunicazione

Son cose molto diverse eh... mettere in crisi i satelliti e certi tipi di telecomunicazioni è una cosa. Annientare il 90% della tecnologia richiede dei livelli di energia ordini di grandezza superiore e soprattutto significherebbe far saltare tecnologia a terra particolarmente resistente... ce ne vuole eh.

continuo a non capire gli umani che esultano perchè una IA creta da umani potrebbe estinguere gli umani stessi..

non capisco dove sia la parte piacevole dell'estinzione del genere umano a vantaggio di qualche kilo di silicio inutile ed incapace di essere un essere vivente con tutto quello che ne consegue..

estinzione per colpa di una macchina.. è quanto meno bizzarro e a volte succede di farsi accoppare da quello che si sta costruendo ma essere felici per questo è abominevole.. mi chiedo perchè non si segua il proprio pensiero e ci si "estingua" da soli e se questo porta gioia..

a me, e a molti altri, piace vivere e innovare, scoprire, vedere etc e pensare che una stupida IA potrebbe fermare questo piacevole circolo vizioso non mi pare molto carino.

fra l'altro è certo che per colpa della IA stiamo diventando pian piano più stupidi, basta pensare che ci sono già ragazzi alle superiori che usano le IA per fare i compiti e questo denota un peggioramento dell'apprendimento.. delegare lo studio non rende più intelligenti.. ma è un percorso ormai che vedo da decenni la perdita di QI in Europa.. sempre meno menti brillanti e sempre più capre facili da controllare.. ricorda molto le vignette di Bonvi con l'avvento della TV.. l'arma finale.. oggi forse cambierebbe la vignetta con le IA..

abbiamo fatto molto in queste migliaia di anni e pensare che ci si possa estinguere per aver voluto troppo ricorda molto Icaro e non è molto romantico o poetico.. è stupido ed inutile

è vero che c'è una quantità enorme di persone con poca cultura che pensa solo alla guerra e a riprodursi come conigli ma la soluzione non è l'estinzione ma la crescita della cultura e la IA crea un bellissimo appiattimento e riduce la necessità di fare fatica con il proprio cervello.. boh.. io condivido il pensiero di Yoshua Bengio.. creare un'arma così pericolosa e lasciarla libera è come andare in giro con una granata senza sicura.. non è una questione di SE ci creerà problemi ma di quando.. 5-10 anni dice lui.. spero che si sbagli in questo perchè non vorrei vedere la fine dell'umanità e forse della vita sulla terra perchè siamo stai avidi come sempre

Non lo metto in dubbio, se quella fetta di persone anche si suicidasse per quel motivo forse sarebbe giusto così.

Io parlavo di persone NORMODOTATE invece :D

io spero ancora di vedere blackout di 3-4 giorni come anni fa in montagna..
il silenzio.. l'assenza di telefonini e rumori molesti.. spalare la neve con il badile come una volta e scaldarsi con la legna e stare a casa a ... parlare e leggere un libro di carta.. è stata una bellissima vacanza forzata che vorrei rifare in futuro