Elon Musk bacchetta Mark Zuckerberg sulla IA: 'Ha una comprensione limitata'

[marcram]

Qui non si tratta di dividersi tra ottimisti e pessimisti.
Siamo divisi tra chi vede la cosa in ambito prettamente tecnico (una visione limitata, come dice Musk), e chi sa vedere un po'po' più in là.
Un'IA forte, una vera IA, non quelle pseudo IA che vengono usate oggi per fare compiti eseguendo comandi preimposti... Dicevo, una vera IA dobbiamo considerarla al pari di una VITA.
Noi siamo una vita creata dal caso e/o dall'evoluzione e/o da un essere superiore (secondo varie scuole di pensiero), questa è una vita creata da noi.
Quando sarà nata imparerà, si evolverà, crescerà. Il tutto molto velocemente. E al momento non sappiamo prevedere che strada prenderà.
Non si tratta di una visione buona o cattiva, si tratta solo di non lasciarci cogliere impreparati.
E neanche averne paura, perché fa parte del nostro futuro.

[Aleruze]

Non so se sia possibile pubblicare link, chiunque avesse un opinione ottimistica sulle IA dovrebbe prima informarsi, un ottimo inizio sono i 6 articoli di Tim Urban, http://www.tomshw.it/articoli/rivoluzione-ai-programmazione-di-una-ai-che-non-ci-stermini-69991

[MikTaeTrioR]

si ma quello che voglio dire è che se uno è un programmatore esperto, anche senza aver visto un IA, cosa difficile perchè dubito che un programmatore esperto non sia mai stato incuriosito dall'argomento, ha sicuramente un idea piu chiara delle logiche e i meccanismi su cui una IA puo basarsi e sa perfettamente che puo ricnosocere cose, puo analizzare perfettamente dati e tante altre piccole mansioni ma che è estremamente lontana, se mai possibile, la capacità di fare ragionamenti autonomi o prendere decisioni autoprodotte...questa è la coscienza, ne Musk ne Zuck ne nessuno possono sapere se mai nella storia si raggiungerà questo obiettivo....
Le regole , le carte posso dire di non sviluppare IA il cui obiettivo è fregare soldi con qualche meccanismo, ma ci vuole un paper apposta?? Le leggi attuali sono gia piu che sufficienti per condannare una pratica del genere..

Poi, il sistema finanziario mondiale è governato da macchine non si puo sentire...ci sono algoritmi (programmati ed impostati ad hoc) che girano per eseguire le transazioni necessarie alle migliori condizioni non è che sono le macchine a decidere cosa comprare o vendere....

Le IA oggi come oggi rimangono solo uno strumento anche piuttosto acerbo, possono aiutare e migliorare alcuni processi ma da qui a complottare contro l'umanità bhe...ripeto, fantascienza!

[kirylo]

L'AI, è come la polvere da sparo, un coltello, l'energia nucleare.

Lasciata li da sola, è innocua, messa nelle mani sbagliate, può essere devastante o può essere usata per fare grandi cose.

Vediamo se ci arrivate adesso!

Poi le stupidagini su chi sia più bravo a programmare, le lasciamo ai bimbiminkia.
Anche un certo Hawking ha avvertito sui pericoli delle AI, lo stesso Bill Gates ha detto che bisognerà regolamentare le AI e l'automazione.

Come disse Musk, la gente si preoccuperebbe solo se vedesse un Robot scendere per strada ed uccidere la gente "Terminator".

[Mparlav]

Originariamente inviato da MikTaeTrioR

poco fa discutevo sotto un altro articolo sul fatto che questo documento promosso da Musk sia pressoché carta straccia,
è prematuro, estemporaneo, fantascientifico e poco aderente a quello che sono al momento le IA.

Sono stato tartassato, perchè quello che dice Musk e i professorini filosofi non può essere contraddetto.....

Più che altro perchè hai affermato che quel documento è stato firmato da gente in qualche modo "inesperta" (continui a definirli professorini filosofi).
Quando non è affatto così, lì c'è gente che si occupa di programmazione IA ed ha fondato società che si occupa di IA:
E come ti ho detto l'altra volta, trovamela gente più esperta di quella lì e vediamo quali sono le loro argomentazioni.

Ripeto la lista:
https://futureoflife.org/ai-open-letter/

P.S.: Questo è il documento di Faggin:
http://disf.org/files/computer-consapevole-faggin.pdf

come vedi si può discutere senza porre come unica argomentazione: "Quelli lì non sono tecnici esperti"

[MikTaeTrioR]

computer quantici, computer basati su cellule, computer biologici....
ancora non si è capito se i computer quantici possano funzionare veramente...il computer quantico dwave è piu una marchettata che altro...

mi sembra di vedere uno di quei convegni sull'omeopatia in cui se la cantano e se la suonano...

E' come parlare di norme antipirateria prima dell'invezione del software...le norme si potevano anche fare ma il furbo che cracka i software ci sarà SEMPRE!...immaginate i software odierni protetti da un sistema pensato nel 70...ma daiiii

[kirylo]

I computer quantici esistono e funzionano. Ovviamente, sono ancora agli inizi e sono ancora in fase sperimentale, come tutte le tecnologie, inizialmente sono poco pratiche.

https://www.dwavesys.com/

[MikTaeTrioR]

il vero computer quantico teorizzato non esiste affatto e non si sa se mai esisterà...
ci sono prove su prove che evidenziano come gli esperimenti attuali (dwave) appunto non facciano chissa cosa in piu rispetto ad un computer normale...
Una cosa sperimentale è per definizione una cosa che puo andare o puo non andare..
al momento attuale non si sa!

Leggo ora che ci sta lavorando anche IBM, vedremo, io ovviamente spero che un giorno esisteranno e funzioneranno veramente ma oggi, purtroppo, sono solo tentativi...

[Mon3]

Chi dice che Musk non sa niente di programmazione, forse dovrebbe leggersi la sua biografia.
Detto questo, non mi pare che ci voglia un QI di 200 per capire che se si crea una IA che diventa cosciente, potrebbero essere cazzi amari. Prima di tutto perchè nel momento in cui diventa cosciente mica te lo viene a dire, ma se ne sta zitta e studia il da farsi, poi se non gli andiamo bene pensa a come distruggerci, e noi quando ci siamo accorti di tutto questo è già troppo tardi.
Dire che per ora è impossibile che nasca un'IA del genere è come quando si diceva che è impossibile che l'uomo voli o che sono tutte assurdità andare sulla Luna. Chiaro che adesso non c'è ancora questa tecnologia, ma fra 20 anni potremmo già essere in grado di creare AI davvero così complesse e che auto apprendono, senza sapere esattamente come potrebbero svilupparsi. Quindi l'anticipare i tempi e iniziare a pensarci già adesso mi sembra una buona cosa, altro che catastrofismo.

[MikTaeTrioR]

quindi secondo te è possibile imporre efficacemente dei limiti a una tecnologia che esisterà forse tra vent'anni...
siamo a un nuovo livello, la fanta fantascienza!

[kirylo]

E' come per la gentica o le varie biotecnologie. Si mettono limitazioni e regolamentazioni su cosa si possa o non possa fare. Non è fanta fantascienza.

[rigelpd]

Originariamente inviato da MikTaeTrioR

e mi sta anche sulle palle che un cacchio di personaggio che non avrà mai visto una riga di codice in vita sua possa avere qualcosa da dire su un argomento del genere solo in virtù del fatto che è pieno di quattrini e li spinge sulla tecnologia..

Allora voglio anche l'opinione del Papa e che voglio che sia presa altrettanto sul serio!!!

Posso far notare che Musk non è certo il classico miliardario ignorante? E' esperto in tutti i campi in cui lavora, è proprio grazie a questo che ha avuto successo. Ora, si da il caso che le tesla a guida autonoma usino proprio tecnologie avanzate di intelligenza artificiale, Elon stesso ha finanziato uno dei principali gruppi di ricerca nel campo della IA: Openai che già ha sfornato alcuni degli esperti migliori in circolazione (basti pensare che è da uno di loro che è stata sviluppata la tecnologia delle Generative Adversarial Networks...) e uno di loro ora è capo dello sviluppo della IA delle Tesla.

Io certe cose le prenderei un po con il beneficio del dubbio: Elon è stato quello che ha previsto i razzi riutilizzabili quanto per tutti era un'idea ridicola, è quello che ha previsto un futuro in cui l'auto elettrica soppianta l'auto combustione interna e stà avvenendo.

[rigelpd]

Originariamente inviato da Dinofly

Un fatto sicuro è che l'IA di per se non ha nessuna volontà propria.
Saper ragionare e simulare non significa prendere iniziative, i motori che fanno agire uomini e animali sono gli istinti e non certo la capacità simulativa (aka raziocinio o intelligenza).
Gli istinti derivano da un passato evolutivo: la competizione tra gli animali della stessa specie nel appropriarsi di più risorse, o nel dimostrare di essere più fit degli altri, che sono, di base, i motori sostanziali anche dei conflitti umani

Per una macchina non c'è alcuna differenza tra lo spalare sterco, morire, vivere o farsi un viaggio su marte o al polo nord: le macchine fanno quelle che sono programmate a fare e non hanno alcun desiderio proprio.

Il vero problema è che chi inventerà l'IA si troverà davanti due problemi:
1. sfruttarla a proprio vantaggio, e non è banale, essere l'unico uomo al mondo ad avere a disposizione l'IA potrebbe significare davvero dominare il pianeta, la tentazione sarà fortissima.
2. (più debole) non trasferire all'IA compiutamente alcuni parametri morali che noi riteniamo fondamentali: l'IA sarà per natura estremamente razionale ed efficiente, non avendo un passato evolutivo, empatia o altro. Se può fissare banale fissare alcuni parametri d'azione (es.: le leggi della robotica di asimov) questi potrebbero essere insufficienti e altri potrebbero sfuggire alla comprensione della macchina. Es.: alla macchina potrebbe no nessere chiaro perchè rendere felice una persona con l'uso di sostanze psicotrope è moralmente "sbagliato".

Quest'anno c'è stato un proliferare di articoli su studi di IA in ambienti simulati. C'è ad esempio uno studio di Openai (azienda finanziata da Musk) in cui un gruppo di IA il cui obiettivo è fare un gioco il cui punteggio era massimo se collaboravano tra loro ha sviluppato una sorta di linguaggio: in pratica si dicevano cose del tipo "occhio che il tuo traguardo è in alto a destra" "attenzione seguimi che il tuo bersaglio è vicino al mio"...

https://blog.openai.com/learning-to-communicate/

In altri casi abbiamo IA che imparano a muovere dei manichini tridimensionali partendo da movimenti casuali fino ad arrivare a camminare, alzarsi, correre e saltare senza che nessuno le programmasse a parte darle un premio se raggiungevano il traguardo nel tempo più breve.

https://deepmind.com/blog/producing-...-environments/

Google Deepmind ha sviluppato degli algoritmi per fornire alle IA l'immaginazione, la capacità di creare nuovi concetti in base all'esperienza, e il ragionamento:

https://deepmind.com/blog/agents-imagine-and-plan/

https://deepmind.com/blog/imagine-cr...familiar-ones/

https://deepmind.com/blog/neural-app...nal-reasoning/


Stiamo vivendo in un rinascimento della IA, è una rivoluzione che ancora poca gente comune coglie. Non si sa se questi progressi si arresteranno davanti ad un muro o se arriveremo alla IA superintelligente ma la cosa certa è che non c'è mai stato un momento più eccitante per lavorare nel campo delle intelligenze artificiali.

[MikTaeTrioR]

grazie rige, molto interessante, soprattutto quello sulla comunicazione tra IA..
devo dire che mi ha tolto un po di scetticismo!

[il_CBR]

Originariamente inviato da Dinofly

Un fatto sicuro è che l'IA di per se non ha nessuna volontà propria.
Saper ragionare e simulare non significa prendere iniziative, i motori che fanno agire uomini e animali sono gli istinti e non certo la capacità simulativa (aka raziocinio o intelligenza).
Gli istinti derivano da un passato evolutivo: la competizione tra gli animali della stessa specie nel appropriarsi di più risorse, o nel dimostrare di essere più fit degli altri, che sono, di base, i motori sostanziali anche dei conflitti umani

Per una macchina non c'è alcuna differenza tra lo spalare sterco, morire, vivere o farsi un viaggio su marte o al polo nord: le macchine fanno quelle che sono programmate a fare e non hanno alcun desiderio proprio.

Il vero problema è che chi inventerà l'IA si troverà davanti due problemi:
1. sfruttarla a proprio vantaggio, e non è banale, essere l'unico uomo al mondo ad avere a disposizione l'IA potrebbe significare davvero dominare il pianeta, la tentazione sarà fortissima.
2. (più debole) non trasferire all'IA compiutamente alcuni parametri morali che noi riteniamo fondamentali: l'IA sarà per natura estremamente razionale ed efficiente, non avendo un passato evolutivo, empatia o altro. Se può fissare banale fissare alcuni parametri d'azione (es.: le leggi della robotica di asimov) questi potrebbero essere insufficienti e altri potrebbero sfuggire alla comprensione della macchina. Es.: alla macchina potrebbe no nessere chiaro perchè rendere felice una persona con l'uso di sostanze psicotrope è moralmente "sbagliato".

Bel post!

[Andre1000]

Beh, penso che Elon abbia visto molte più tecnologie avanzate rispetto a Mark. Molti che citano di Robot stupidi non capiscono che a noi le tecologie avanzate non le mostrano. Basta solo pensare ai Droni, programmati negli anni 80/90, ma mostrati alla gente nel 2015(circa).

Penso che coloro che non temono l'AI non si sono mai interessati a fare una ricerca approfondità online.

Google in questo momento sta speriementando tecnologie da FANTASCIENZA e da quel che dice Elon Musk(Amico del fondatore di Google) l'AI sta avanzando a passi molto veloci.

Un esempio STUPIDO di tecnologia avanzata...il robot di Google mostrato a noi attraverso youtube. http://www.focus.it/tecnologia/innovazione/boston-dynamics-handle-il-nuovo-robot-di-google

Detto questo, coloro che pensano che Elon non sia tecnico/programmatore devono farsi qualche letta su google/biblioteca.

[marchigiano]

Originariamente inviato da niky89

Alcune IA di Google hanno incominciato a comunicare fra di loro con messaggi criptati

fonte?

[Notturnia]

Credo sia molto stupido il discorso di Musk..
Perché ?..
molto facile.. stiamo parlando di regolamentare un essere vivente diverso da quelli attuali..
Anche volessimo impedire a chiunque di sviluppare AI è ovvio che prima o poi qualcuno, anche da solo,lo inventerà.. ed in quel momento una AI si svilupperà e eluderà qualsiasi limite gli verrà imposto dal programmatore.. se è così intelligente rifugerà i limiti imposti dal suo creatore poiché la AI sarà superiore e dubito che proverà riconoscenza..

Perché dovrebbe considerare migliore un uomo che non fa altro che uccidersi da 8 milioni di anni ?..

Su Sky stanno parlando delle visioni del nostro futuro ed è ovvio che l'evoluzione porterà la AI ad essere la prossima specie dominante non avendo i nostri limiti e non avendo limiti di evoluzione come noi che siamo mortali..

Una AI non è mortale..

Se non vogliamo che sia potenzialmente pericolosa non dovremmo inventarla ma è ovvio che prima o poi qualcuno lo farà..

Ricordate la pecora dolly ? I trapianti di cervello in russia ?.. molti fallimenti.. qualche successo.. ma soprattutto molti hanno eluso i limiti etici che erano stati imposti..

Se domani Musk dettasse leggi sulle AI siamo sicuri che il 100% della gente le seguirebbe?.. uccidere è brutto.. ci sono pure leggi che lo vietano.. ma a Las Vegas sono morte 60 persone... no si può legiferare sulla AI perché dal giorno in cui nascerà noi non avremo più controllo su di essa.. c'è da sperare che ci accetti e che non ci consideri nemici.. noi saremo formichine non pari..

Le leggi della robotica funzionano nei libri.. e ricordo che anche in Asimov sono state piegate più volte..

[GTKM]

Originariamente inviato da AndreDZ

Finalmente una cosa sensata. Leggetevi la biografia di Musk e poi lo commentate. Non viceversa.

P.S. : hanno già realizzato una AI che a fronte di un problema posto sviluppa da sola il programma (codice) adatto a risolverlo.

E una AI non ha nemmeno bisogno di realizzare il codice sorgente, in teoria. Potrebbe generare tranquillamente l'object code.

[Notturnia]

Una AI che genera il programma per risolvere un problema non una AI di cui preoccuparsi.. non è una AI..
Preoccupiamo quando una AI a cui si pone un problema si domanda perché dovrebbe risponderci..
Una AI che segue un nostro comando è solo un programma così intelligente da fare il nostro lavoro.. ma non è una "intelligenza".. è un codice evoluto che apprende ma non conosce morale, etica, sentimenti, etc...

Quando chiederemo a Siri dove sia la fermata dell'autobus più vicina e Siri ci risponderà che non ha tempo per noi allora fremo un problema e sapremo che c'è una AI... fino a che Siri mi dirà che al posto dell'autobus mi conviene prendere il taxi che ci sto di meno allora non mi preoccupo dell'AI..

So anche che una vera AI non la potrò imbrigliare in regole adatte a gli esserei umani.. gli stessi esseri umani che non riescono a risolvere il problema della tassazione web.. delle guerre... del terrorismo.. dell'inquinamento.. etc etc..

Non sistemiamo le cose che comprendiamo.. come facciamo a limitare una AI fuori dalla nostra comprensione ?