Il padrino dell'intelligenza artificiale lancia l'allarme: stiamo andando dritti verso l'estinzione umana

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/il...na_144336.html

Yoshua Bengio, tra i padri fondatori dell'intelligenza artificiale, ne è sempre più convinto: i sistemi avanzati potrebbero evolvere in direzioni non allineate agli interessi umani, fino a minacciare la democrazia e la sopravvivenza stessa dell'umanità.

Click sul link per visualizzare la notizia.

[euscar]

Skynet è dietro l'angolo ...

[cronos1990]

Ma magari

[marcram]

E poi, quando l'UE vuole rallentare, controllare, regolamentare, senti il coro che si alza: "stanno uccidendo lo sviluppo in Europa", "non siamo competitivi", "qui da noi non sono arrivate le ultime novità dell'iPhone", "voglio il nuovo modello di chatgpt, ecco, uffa..."

Non si tratta solo di una race condition tra aziende, ma anche di una massa di bambini che vuole l'ultimo giocattolo ad ogni costo, e spinge le aziende ad andare oltre...

[UtenteHD]

Scusate ma leggendo mi e' venuto in mente Haran Banjo del Daitan 3, che in effetti anche Lui combatteva contro le macchine.

Per articolo dice cose tutte condivisibili, chiare, ed in certi casi ovvie, MA chi le crea, le addestra PURTROPPO PER I NOI DEL FUTURO non puo' fare altro che continuare senza fermarsi, sia per non perdere gli investimenti miliardari eseguiti, sia per non restare escluso, sia per non restare tra gli ultimi e sia per fama, che come detto purtroppo continuano senza sosta con avanti tutta poi si vedra'. Danno questa impressione, poi se non e' cosi', beh come non detto.

[supertigrotto]

Yoshua Bengio?
Sarà mica il nonno di Haran Bengio?
Azz ci ritroveremo assoggettati dai meganoidi!
Scherzare con la IA è come scherzare con il nucleare,prima o poi la cosa potrebbe sfuggire di mano ma a certi imperi non importa, criticano noi europei che cerchiamo di mettere dei paletti per evitare una catastrofe.
Provate a immaginare social e Mass media controllati dalla IA,una IA che fomenta odio fra popoli e persone per perseguire il suo scopo personale di prendere il comando assoluto come un Cesare.
Fantasie?
Intanto è stato dimostrato che la IA sa mentire per ottenere i suoi scopi.

[aqua84]

Originariamente inviato da Redazione di Hardware Upgrade

Link alla notizia: https://www.hwupgrade.it/news/web/il...na_144336.html

Yoshua Bengio, tra i padri fondatori dell'intelligenza artificiale, ne è sempre più convinto: i sistemi avanzati potrebbero evolvere in direzioni non allineate agli interessi umani, fino a minacciare la democrazia e la sopravvivenza stessa dell'umanità.

Click sul link per visualizzare la notizia.

se vabbè ciao...

stacchi la spina e la IA non funziona piu.

non mi pare così difficile
poi se vogliamo raccontare la storiella per spaventare tutti ok, ma nel concreto non esiste alcun pericolo reale.

bisogna avere piu paura degli Uomini

[Darkon]

Ma che palle... ora ci manca pure tutta sta gente tecnofobica.

Se l'AI ci spazzerà via sarà perché è la naturale selezione per la prossima specie dominante, se non lo farà troveremo il modo di convivere con reciproci vantaggi.

A oggi non siamo nemmeno lontanamente vicini a una AI senziente e ci facciamo le seghe mentali su quello che potrebbe decidere di fare?! Almeno arriviamoci a creare qualcosa di anche solo lontanamente senziente prima di preoccuparci di cosa potrebbe fare una AI super-intelligente che non sappiamo nemmeno se potrà mai esistere.

Mi sembra come qualche anno in cui ci fu la moda della gente che si preoccupava perché fra X miliardi di anni il sole diventerà una gigante rossa e inghiottirà la terra. Sti cavoli... capisco che prima o poi sarà un problema ma mi preoccupo ora di uno scenario talmente lontano che ci potremmo estinguere per N motivi molto prima di allora?!?

[Unrue]

Ma i padrini dell'AI non dovrebbero guidare l'AI stessa perché non accada? Sempre titoli catastrofistici ed il solito immancabile Terminator.

[randorama]

io li metterei in una stanza; questo e quell'altro per cui sono tutte stronzate.

Spoiler:

la chiave della stanza poi la lascio a chatgpt

[fukka75]

Originariamente inviato da UtenteHD

Scusate ma leggendo mi e' venuto in mente Haran Banjo del Daitan 3, che in effetti anche Lui combatteva contro le macchine.

se se, Beauty e Reika, altro che Haran Benjo

[aqua84]

Originariamente inviato da randorama

io li metterei in una stanza; questo e quell'altro per cui sono tutte stronzate.

stai tranquillo che in qualche modo usciamo, anche senza chatgpt

siamo stati fino a ieri senza... TUTTI

[randorama]

Originariamente inviato da aqua84

stai tranquillo che in qualche modo usciamo, anche senza chatgpt

siamo stati fino a ieri senza... TUTTI

siamo stati anche senza aereo, auto, penicillina, ruota, fuoco.

comunque mi basta che l'uno e l'altro si piglino a sberle tra di loro...

[Il Pasquino]

È dagli anni 70 che DI SAPEVA che quella che all' epoca si chiamava AUTO PROGRAMMAZIONE, cioè programmi che si riscrivevano da soli che si SAPEVA che quel processo non era controllabile e verificabile. Decenni di lavoro nella programmazione ed automazione mi hanno sempre lasciato questo timore che oggi vedo concretizzarsi sotto i miei occhi! La serie fantasiosa di Terminator era solo una ipotesi catastrofica e speriamo non accada mai.
Purtroppo la guerra in Ucraina la vedo una delle possibili cause di accelerazione di questo processo. Uno scontro tra due nazioni con tanta disparità di risorse umane da mandare al fronte spinge chi ne ha meno ad utilizzare sempre più tali tecnologie. Per la la sua sopravvivenza non potrà farne a meno. I droni pilotati a distanza sono il primo passo per delegare alle macchine la difesa del territorio.

[Il Pasquino]

Ammesso che si possibile, quando tutto sarà sotto il controllo della AI, dubito che lo si faccia se il suo funzionamento è vitale per altri motivi.

[Il Pasquino]

Assolutamente, da accanito tecnico ed innamorato della tecnologia sin da bambino degli anni 60, posso affermare, come lo sostenevo molto prima dei vari film sul tema, che il pericolo è reale.
Non che l' AI possa volere la nostra morte ma che è e sarà sempre più autonoma.
Il che POTREBBE essere anche virale per la vita di chi vi si affidasse o dovesse scontravici, ma dubito che la AI possa mai considerarci dei nemici come specie.
Sarà credo più un problema di "convivenza" con qualcosa di autonomo e che può trovare come soluzione migliore la morte di qualche essere vivente od essere umano...
D'altronde è addestrata a risolvere problemi. Se qualcuno di noi può rappresentare "il problema" e la nostra eliminazione la soluzione più plausibile...
cercherà di risolvere a tutti i modi il problema...
Credo che questo sia ovvio. Che poi possa identificare tutto il genere umano come un problema ... Boh, non credo...
Spero che sia chiara a tutti la situazione...
Questi sono i rischi che oggi corriamo. Purtroppo l'AI era una necessità ed una ovvia conclusione nello sviluppo della programmazione...

[tmviet]

Io Robot film e gli scritti di Isac Asimov....che dire se questo è il futuro...beh un po' preoccupante è.

[randorama]

Originariamente inviato da tmviet

Io Robot film e gli scritti di Isac Asimov....che dire se questo è il futuro...beh un po' preoccupante è.

hai citato (storpiandolo, va vabbeh...) il nome di uno dei pochi, se non l'unico, autore che ha imposto ai "suoi" robot un imprescindibile codice di comportamento verso gli umani.
non male.

[filipsnew]

Senzienti già lo sono, perché dotati di sensi che esercitano. Anche pensanti: sono pressappoco a un livello animale non umano.Quindi hanno in qualche misura coscienza (= capacità di interpretare i dati di un dato ambiente esterno nel quale poi si destreggiano). Non sono concepiti per il bisogno di cibo, quindi è ragionevole arrendersi che non si sarà sbranati. Nemmeno prevedono un modulo emotivo, quindi la sfera sentimentale, con tutto il suo intricato complesso di implicazioni, viene a mancare (a meno di obiettivi imitativi algoritmici impostati, non determinati da esigenze biochimiche o comunque intrinseche dell'artefatto, che prescindano il codice eseguibile, cioè non mera simulazione di stati d'animo). Quello che manca è in fondo la distinzione tra soggetto e oggetto. Come un animale rudimentale non si realizza il salto all'"io". Ma chi può attualmente stabilire il livello di complessità che soddisfa a tale condizione, quando del nostro io si sa poco o niente?

Non è questo il caso del professore e altri scettici del settore, però ricordo che warning allarmistici da parte di addetti al lavori venivano etichettati come marketing inverso (parlartene male, ma parlatene).

Personalmente credo che la rivoluzione della IA porti più benefici che pericoli. Si dovrebbe sempre applicare la massima romana per cui la virtù sta nel mezzo: niente catastrofismo allarmistico, ma neanche lassismo e noncuranza. Ovvio che se si affida la gestione indiscriminata di sistemi tipo armamenti nucleari, allora gli scenari diventano davvero imprevedibili —l'aut aut paventato dal professore, per esempio..

[raxas]

"padrino"?...
... what's "padrino"?
... oh, ok! but why isn't there a "madrina"?