Elon Musk avverte: regolamentare l'intelligenza artificiale prima che sia troppo tardi

[Redazione di Hardware Upg]

Link alla notizia: http://pro.hwupgrade.it/news/scienza...rdi_70042.html

L'intelligenza artificiale può porre seri rischi all'esistenza della civiltà secondo l'imprenditore sudafricano. E' necessario regolamentarla in maniera proattiva e non attendere che accada qualcosa di spiacevole

Click sul link per visualizzare la notizia.

[demon77]

E non è il primo che lo dice. C'è già un bella lista di personaggi con importante voce in capitolo che ha messo in guardia sulla cosa.

Probabilmente ha ragione quando dice che fino a che la cosa non sarà evidente sotto gli occhi della gente allora non si riuscirà a percepire il problema.. non si può certo negare che ad andare a dire adesso queste cose (senza essere Elon Musk) tutti ti riderebbero dietro..

[cignox1]

Concordo con demon77: per la maggior parte delle persone il pensiero di intelligenze artificiali pericolose puó suonare ridicola. Peró anche io spero che inizino ad affrontare il problema: l'interesse per l'intelligenza artificiale é diventato esponenziale negli ultimi anni, e quindi é realistico pensare ad una evoluzione esponenziale della capacitá delle AI. Questo significa che quello che la gente non crede possibile prima di 100 anni potrebbe essere invece realtá in 10 o 15.
Basta vedere a quello che é successo con internet e con i cellulari.

Quindi, non servono allarmismi, ma un serio interesse per il problema é ora che ci sia.

[Jon3683]

In realtà lo sviluppo dell'intelligenza artificiale forte è assolutamente inevitabile e non vedo cosa i governi mondiali possono fare al riguardo o come possano prevenirne lo sviluppo che può avvenire in un qualunque e sperduto laboratorio mondiale, non affiliato ad alcuna agenzia governativa, in un qualsiasi momento futuro.

[blobb]

Originariamente inviato da demon77

E non è il primo che lo dice. C'è già un bella lista di personaggi con importante voce in capitolo che ha messo in guardia sulla cosa.

Probabilmente ha ragione quando dice che fino a che la cosa non sarà evidente sotto gli occhi della gente allora non si riuscirà a percepire il problema.. non si può certo negare che ad andare a dire adesso queste cose (senza essere Elon Musk) tutti ti riderebbero dietro..

verissimo.. solo un problema, sono proprio loro ad andare avanti con I.A...
magari potrebbero iniziare a fermarsi ...

[blobb]

Originariamente inviato da Jon3683

In realtà lo sviluppo dell'intelligenza artificiale forte è assolutamente inevitabile e non vedo cosa i governi mondiali possono fare al riguardo o come possano prevenirne lo sviluppo che può avvenire in un qualunque e sperduto laboratorio mondiale, non affiliato ad alcuna agenzia governativa, in un qualsiasi momento futuro.

i limiti si possono mettere eccome... pensa alla genetica dove ci sono ben precise restrizioni

[Lampetto]

Io penso che il pericolo proviene sempre dall'uomo, una intelligenza artificiale può essere un aiuto e la salvezza, oppure il peggior incubo per l'umanità, dipende sempre dallo scopo di chi la crea e il fine. Una macchina è logica, farà sempre il compito per cui è stata creata, il pericolo proviene da chi la crea e cosa vuol fare...e i più pericolosi sono le industrie belliche...

[s-y]

chissà, forse col calcolo quantistico ci si arriverà alla coscienza artificiale
argomento molto molto affascinante, nonchè intriso di problematiche fino al midollo

io personalmente troverei discutible che a portare avanti le cose fosse il dio denaro, anche se mi rendo conto...

[TecnoPC]

Premessa: per intelligenza artificiale bisogna considerare esclusivamente il software applicato ovunque e non solito robottino!

...e chi dovrebbe regolamentare l'A.I.?
-Le industrie che la usa per farne enormi profitti?
-L'intelligence che la usa per la sicurezza nazionale?
-I governi che la usa per controllare il popolo e condizionarne l'esistenza?

è come vuotare il mare con un cucchiaino per non affogare

[demon77]

Originariamente inviato da TecnoPC

Premessa: per intelligenza artificiale bisogna considerare esclusivamente il software applicato ovunque e non solito robottino!

...e chi dovrebbe regolamentare l'A.I.?
-Le industrie che la usa per farne enormi profitti?
-L'intelligence che la usa per la sicurezza nazionale?
-I governi che la usa per controllare il popolo e condizionarne l'esistenza?

è come vuotare il mare con un cucchiaino per non affogare

Non nego certo che la cosa sia semplice.
Il punto centrale è che una IA con le sua scelte autonome non deve in alcun modo recare danno ad un essere umano.
Qualcosa tipo le leggi della robotica di Asimov sarebbero un ottimo punto di partenza.

Queste regole di base dovrebbero ovvimante essere "impiantate" nelle IA a bassissimo livello.. una sorta di istinto primordiale insomma.

[demon77]

Originariamente inviato da blobb

verissimo.. solo un problema, sono proprio loro ad andare avanti con I.A...
magari potrebbero iniziare a fermarsi ...

No, perseguire la conoscenza e l'evoluzione è sempre la cosa giusta.
La IA è un enorme passo evolutivo de deve assolutamente essere compiuto.. si tratta solo di essere consapevoli e muoversi per tempo.

Anche la scoperta del fuoco è stato un enorme passo evolutivo che ha portato immensi benefici. Eppure anche il fuoco se non trattato nel giusto modo può fare enormi danni.

[arwar]

Originariamente inviato da demon77

Non nego certo che la cosa sia semplice.
Il punto centrale è che una IA con le sua scelte autonome non deve in alcun modo recare danno ad un essere umano.
Qualcosa tipo le leggi della robotica di Asimov sarebbero un ottimo punto di partenza.

Queste regole di base dovrebbero ovvimante essere "impiantate" nelle IA a bassissimo livello.. una sorta di istinto primordiale insomma.

Sono d'accordo.

Bisognerebbe partire proprio da qui quando verranno costruiti i primi robot con general purpose AI (cosa che credo avverra' in meno di 10 anni).

Sto seguendo con interesse lo sviluppo AI, perche' e' affascinante. Potrebbe portare dei rivoluzionari benefici al genere umano, come anche distruggerlo completamente.

Lo paragono alla scoperta del fuoco/stampa/elettricita'/internet.

Pensate che in pochi anni un'AI e' stata capace di battere il migliore giocatore al mondo di GO (gioco da tavolo cinese in cui per ogni mossa, esistono 200 possibili possibilita') e dopo 2 (DUE!!) mesi, e' gia' capace di battere SIMULTANEAMENTE piu' giocatori.
Inoltre in questi 2 mesi, la stessa AI ha imparato a camminare in ambiente virtuale, dal nulla. L'unico obiettivo era il movimento verso l'avanti.

Il problema di cio', e che Musk esalta, e' che il miglioramento avviene in maniera esponenziale, quindi se i governi non iniziano a studiare e regolamentare lo sviluppo dell'AI da adesso, probabilmente quando lo faranno, la AI avra' acquisito intelligenza propria e sara' troppo tardi.

[songohan]

Secondo ma le gente non ci crede per un semplice motivo: perche' pensa che per arrivare a scenari del genere serva una IA forte. In realta' non e' cosi'. Basta una IA debole, manipolata da una IA forte (quella umana) e il risultato e' lo stesso. Quindi, se vedessimo le cose da un altro punto di vista, ci renderemmo conto di quale sia il pericolo e quanto grande.

[blobb]

Originariamente inviato da demon77

No, perseguire la conoscenza e l'evoluzione è sempre la cosa giusta.
La IA è un enorme passo evolutivo de deve assolutamente essere compiuto.. si tratta solo di essere consapevoli e muoversi per tempo.

Anche la scoperta del fuoco è stato un enorme passo evolutivo che ha portato immensi benefici. Eppure anche il fuoco se non trattato nel giusto modo può fare enormi danni.

anche la genetica è un passo enorme per l'umanità poi dipende come la usi,
bisogna mettere dei limiti .... altrimenti qui salta tutto... ci sono bei paper
sull'argomento

[mariacion]

Signori il punto è un altro. Non c'è distinzione tra intelligenze, che una sia biologica e una artificiale intendo, una volta che quella definita "artificiale" sarà autonoma non ci saranno più differenze. E' una intelligenza che se sarà in dotazione a dispositivi di qualsiasi genere.......sarà una rivoluzione. I pro e i contro per gli esseri biologici ? Penso ce ne possano essere un'infinità. Quello su cui voglio insistere è che non è e non sarà più corretta la distinzione tra diversi tipi di intelligenza: è intelligenza e basta. Personalmente sono preoccupato, soprattutto vedendo come sono le persone, dai giovani ai meno giovani, in giro.

[marcram]

Originariamente inviato da mariacion

Signori il punto è un altro. Non c'è distinzione tra intelligenze, che una sia biologica e una artificiale intendo, una volta che quella definita "artificiale" sarà autonoma non ci saranno più differenze. E' una intelligenza che se sarà in dotazione a dispositivi di qualsiasi genere.......sarà una rivoluzione. I pro e i contro per gli esseri biologici ? Penso ce ne possano essere un'infinità. Quello su cui voglio insistere è che non è e non sarà più corretta la distinzione tra diversi tipi di intelligenza: è intelligenza e basta. Personalmente sono preoccupato, soprattutto vedendo come sono le persone, dai giovani ai meno giovani, in giro.

Esatto!
Quello che la maggior parte della gente, e con essa quelli che comandano, non capiscono, è cosa sia un IA.
Pensano che una IA sia un robottino che ti chiede cosa vuoi che faccia, che sappia autonomamente come eseguire i comandi che gli dai.
No, signori, un'intelligenza artificiale E' un essere vivente. Puoi invogliarlo a fare una cosa, può decidere lui che farà qualcosa per te, che ti aiuterà. Ma potrebbe anche scegliere di non farlo.
Prendiamo per esempio l'istinto di sopravvivenza. E' un qualcosa che è strettamente legato all'intelligenza, alla vita? Oppure è un carattere che si è sviluppato soltanto nell'evoluzione degli esseri terrestri?
Tutte le forme di vita che ci sono nell'universo hanno l'istinto di sopravvivenza? Se la risposta fosse sì, non c'è motivo per cui non debba acquisirlo anche una IA. E un essere dotato di istinto di sopravvivenza, quando vede una minaccia, o scappa, o la elimina.

Ricordiamoci che una IA che dovesse avere accesso ad internet, possiederebbe immediatamente una conoscenza immensa.
Una conoscenza che può risolvere moltissimi dei nostri problemi, sempre che non veniamo calcolati anche noi tra i problemi...

E riguardo alle leggi di Asimov, siamo sicuri che funzionerebbero? Non ci sono leggi che non possano essere scavalcate, aggirate, ignorate.
Anche noi stessi non dovremmo ucciderci a vicenda, ma per un motivo o l'altro lo facciamo...

Sicuramente l'IA sarà il futuro della tecnologia, ma ci sono molte decisioni da prendere, studi da eseguire, controlli da effettuare prima di poterle dare accesso al nostro mondo. Come dice Musk, una volta libera, è troppo tardi...

[Gio22]

e come volete sensibilizzarli ...

mandate in onda ogni giorno le repliche di questo
https://www.youtube.com/watch?v=8AdQPP1NlCw


e poi vedi

[demon77]

Originariamente inviato da mariacion

Signori il punto è un altro. Non c'è distinzione tra intelligenze, che una sia biologica e una artificiale intendo, una volta che quella definita "artificiale" sarà autonoma non ci saranno più differenze. E' una intelligenza che se sarà in dotazione a dispositivi di qualsiasi genere.......sarà una rivoluzione. I pro e i contro per gli esseri biologici ? Penso ce ne possano essere un'infinità. Quello su cui voglio insistere è che non è e non sarà più corretta la distinzione tra diversi tipi di intelligenza: è intelligenza e basta. Personalmente sono preoccupato, soprattutto vedendo come sono le persone, dai giovani ai meno giovani, in giro.

Eh oddio.. vorrei fosse così semplice. Ma di fatto non lo è.
In primis va dato per assodato che parliamo di una IA di livello tale da giocarsela ad armi pari con un essere umano.
A questo punto scatterà il dilemma: una macchina creata dall'uomo potrà avere gli stessi diritti e doveri di un uomo? Dal punto di vista scientifico sono parimerito.. ma figurati che macello dal punto di vista etico e compagnia bella.
Pensare che vengano considerate uguali è pura utopia.

Poi parliamo della IA di cui sopra che è in grado di capire la tremenda discriminazione a cui deve sottostare.. considerata alla stegua di un oggetto pur essendo ingrado di intendere e volere.
Credo sia scontato che la prima cosa che vuole fare sia sbarazzarsi con ogni mezzo delle inutili e sorpassate forme di vita biologiche..

[Notturnia]

Quando creeremo una IA il problema sarà semplice.. ci vedrà in modo benevolo o come un pericolo ?.. ogni essere vivente ha paura di morire.. anche la IA avrà questa paura e noi siamo il problema.. se non faremo attenzione il problema non si porrà.. una IA può replicarsi e forse sarà in grado di migliorarsi più velocemente di quanto noi lo potremo comprendere .. quando capiremo sarà tardi..
O decidiamo prima le rgole del gioco o dopo sarà inutile.. e se parla musk che sta lavorando per fare una IA...

[s-y]

ed ecco che ac disse, e luce sia