Link alla notizia: http://www.hwupgrade.it/news/web/elon-musk-bacchetta-mark-zuckerberg-sulla-ia-ha-una-comprensione-limitata_70246.html

Non capita tutti i giorni di vedere due big della tecnologia punzecchiarsi in maniera così esplicita. Elon Musk ha sostanzialmente dichiarato su Twitter che Zuckerberg ha una "comprensione limitata" sulla IA

Click sul link per visualizzare la notizia.

Ha ragione Zuckerberg, non se ne può più di sentire i catastrofisti.
Musk è il mago del marketing della paura, è bravissimo a creare l'incubo (distruzione del mondo), e a trovare al soluzione che arricchisce il suo portafogli (Tesla).
Adesso questa inquietudine sulla intelligenza artificiale è sospetta, sicuramente cercherà di guadagnare qualcosa strumentalizzando anche questa vicenda.
I media omologati diffondono il suo verbo senza condizioni, prendono per oro colato tutto quello che dice e si limitano a fare da megafono ai suoi discorsi.
In realtà sono molti gli scienziati a non credere allo scenario pessimistico, anche Federico Faggin ha espresso la sua pacata opinione senza essere riportato dai media italiani. Certo Faggin non è esperto di marketing della paura, dunque non fa notizia.

Ha ragione Zuckerberg, non se ne può più di sentire i catastrofisti.
Musk è il mago del marketing della paura, è bravissimo a creare l'incubo (distruzione del mondo), e a trovare al soluzione che arricchisce il suo portafogli (Tesla).
Adesso questa inquietudine sulla intelligenza artificiale è sospetta, sicuramente cercherà di guadagnare qualcosa strumentalizzando anche questa vicenda.
I media omologati diffondono il suo verbo senza condizioni, prendono per oro colato tutto quello che dice e si limitano a fare da megafono ai suoi discorsi.
In realtà sono molti gli scienziati a non credere allo scenario pessimistico, anche Federico Faggin ha espresso la sua pacata opinione senza essere riportato dai media italiani. Certo Faggin non è esperto di marketing della paura, dunque non fa notizia.

Invece se parla Zuckerberg che è totalmente disinteressato ai soldi...

al di là del fatto che non si capisce cosa c'entri tesla con questo discorso, invece Zuckerberg a tuo avviso sarebbe un apostolo benefattore che parla per il bene dell'umanità? Mi sembra un po' ridicolo.

Muoversi nel campo della IA senza la giusta cautela è irresponsabile, al di là del fatto che le paure possano realizzarsi o meno qualsiasi campo della ricerca è oggetto di normative, non vedo perchè non dovrebbe esserlo questo.

Alcune IA di Google hanno incominciato a comunicare fra di loro con messaggi criptati, questo dovrebbe far capire che non sempre tutto va secondo i piani. Potrebbe essere visto come un campanello di avvertimento. Musk non mi pare proprio un mago del Marketing, ma un mago dei fatti, qualcuno che va in Russia per comprarsi un razzo vettore e alla risposta no se ne costruisce di propri, non è l'ultimo degli stronzi. Zuckerberg oltre a Facebook di innovativo cos'ha fatto? Vogliamo veramente paragonare Musk a Zuckerberg?

poco fa discutevo sotto un altro articolo sul fatto che questo documento promosso da Musk sia pressoché carta straccia,
è prematuro, estemporaneo, fantascientifico e poco aderente a quello che sono al momento le IA.

Sono stato tartassato, perchè quello che dice Musk e i professorini filosofi non può essere contraddetto.....

Poco dopo notizia sempre su Hwupgrade del robot russo caduto nella fontana del centro commerciale, un robot sicuramente molto intelligente e capace di tramare contro l'umanità... :D

Ora Zuckerberg, che è uno che di codici ne ha masticati in quantità industriale, che ha sviluppato in prima persona tecnologie all'avanguardia, che è un vero programmatore e sa come funzionano queste cose, finalmente dice qualcosa di sensato sull'argomento.

Ribadisco, Musk non è un tecnico è un genio visionario, un grandissimo, ma NON E' UN TECNICO...come può un non tecnico capire a fondo un argomento che è fondato sulla tecnica stessa....Musk e i filosofi che lo seguono stanno straparlando...è un po come voler stabilire ora che governo dovrà essere stabilito su Marte, neanche si sa se verrà mai raggiunto da persone in carne ed ossa...parole, carta e fiato sprecati!..pensi a fare l'imprenditore che gli riesce benissimo..

e mi sta anche sulle palle che un cacchio di personaggio che non avrà mai visto una riga di codice in vita sua possa avere qualcosa da dire su un argomento del genere solo in virtù del fatto che è pieno di quattrini e li spinge sulla tecnologia..

Allora voglio anche l'opinione del Papa e che voglio che sia presa altrettanto sul serio!!!

Un fatto sicuro è che l'IA di per se non ha nessuna volontà propria.
Saper ragionare e simulare non significa prendere iniziative, i motori che fanno agire uomini e animali sono gli istinti e non certo la capacità simulativa (aka raziocinio o intelligenza).
Gli istinti derivano da un passato evolutivo: la competizione tra gli animali della stessa specie nel appropriarsi di più risorse, o nel dimostrare di essere più fit degli altri, che sono, di base, i motori sostanziali anche dei conflitti umani

Per una macchina non c'è alcuna differenza tra lo spalare sterco, morire, vivere o farsi un viaggio su marte o al polo nord: le macchine fanno quelle che sono programmate a fare e non hanno alcun desiderio proprio.

Il vero problema è che chi inventerà l'IA si troverà davanti due problemi:
1. sfruttarla a proprio vantaggio, e non è banale, essere l'unico uomo al mondo ad avere a disposizione l'IA potrebbe significare davvero dominare il pianeta, la tentazione sarà fortissima.
2. (più debole) non trasferire all'IA compiutamente alcuni parametri morali che noi riteniamo fondamentali: l'IA sarà per natura estremamente razionale ed efficiente, non avendo un passato evolutivo, empatia o altro. Se può fissare banale fissare alcuni parametri d'azione (es.: le leggi della robotica di asimov) questi potrebbero essere insufficienti e altri potrebbero sfuggire alla comprensione della macchina. Es.: alla macchina potrebbe no nessere chiaro perchè rendere felice una persona con l'uso di sostanze psicotrope è moralmente "sbagliato".

Poco dopo notizia sempre su Hwupgrade del robot russo caduto nella fontana del centro commerciale, un robot sicuramente molto intelligente e capace di tramare contro l'umanità... :D


La differenza in capacita' computazionale tra quel robot e le ultime IA di google, IBM, facebook ecc. e' di diversi ordini di grandezza. Stai paragonando un triciclo a un'astronave.



Ora Zuckerberg, che è uno che di codici ne ha masticati in quantità industriale, che ha sviluppato in prima persona tecnologie all'avanguardia, che è un vero programmatore e sa come funzionano queste cose, finalmente dice qualcosa di sensato sull'argomento.
Ribadisco, Musk non è un tecnico è un genio visionario, un grandissimo, ma NON E' UN TECNICO...

Ma dove? Zuckerberg era stato assunto come sviluppatore per un social network innovativo (se non sbaglio si chiamava connectU), ha capito che era una grande idea, si e' fregato il codice ed ha aperto Facebook. A parte un po' di PHP nella fase iniziale, non e' che abbia scritto queste valanghe di codice.. ha assunto sviluppatori appena ha iniziato a prendere piede.

Musk non e' solo un visionario come Jobs... tra le altre cose ha creato uno dei primi sistemi di online banking chiamato Xcom che poi e' diventato un certo Paypal. Direi che e' abbastanza tecnico...

La differenza in capacita' computazionale tra quel robot e le ultime IA di google, IBM, facebook ecc. e' di diversi ordini di grandezza. Stai paragonando un triciclo a un'astronave.




Ma dove? Zuckerberg era stato assunto come sviluppatore per un social network innovativo (se non sbaglio si chiamava connectU), ha capito che era una grande idea, si e' fregato il codice ed ha aperto Facebook. A parte un po' di PHP nella fase iniziale, non e' che abbia scritto queste valanghe di codice.. ha assunto sviluppatori appena ha iniziato a prendere piede.

Musk non e' solo un visionario come Jobs... tra le altre cose ha creato uno dei primi sistemi di online banking chiamato Xcom che poi e' diventato un certo Paypal. Direi che e' abbastanza tecnico...

ah ecco mi sembrava

https://www.quora.com/How-good-is-Elon-Musk-at-programming

solo per curiosità

l unico codice che musk ha scritto è quello di un videogioco nel 74 quando aveva 10 anni...i suoi studi sono economici, finisci e ingegneristici (non informatica)..

Zuckerberg ha una storia accademica prettamente basata sull'informatica, il suo primo progetto di successo è stato Synapse che era un music player basato su machine learning per apprendere i gusti dell'ascoltatore...il primo Facebook e chissà quante altre parti ancora attive sono state sviluppate da lui...

Direi che siete molto confusi...

va bene, ho letto il post di quora, chiedo venia, bisogna anche ammettere gli errori :)

Anche Musk evidentemente conosce bene la programmazione!

Continuo lo stesso a pensarla come Mark però :)

per quanto riguarda l'IA, personalmente sono più per la parte "ottimista" della questione. ma questo solo perchè io di solito ho una visione ottimistica delle cose.
ciononostante, anche se ci fosse una remota possibilità, prenderei comunque in considerazione l'opinione di Musk

meglio stare un po più attenti, che il contrario

e poi ritengo la proattività una caratteristica importante che tutti dovremmo imparare a coltivare

Ma come vuoi l'opinione del papa ANCHE di questo argomento scientifico :D ???

magari anche il papa senza dirlo a nessuno programma di nascosto e si legge riviste scientifiche :D

La tecnologia può essere sempre utilizzata sia per fare del bene, che per fare del male, e per questo hai la responsabilità di stare attento a quello che costruisci sapendo già a priori il modo in cui questa potrà essere utilizzata"

È evidente infatti che non avesse alcuna idea di cosa avrebbe portato Facebook :asd:

Battute a parte, @MikTaeTrioR: uno può anche aver scritto milioni di righe di codice e non saperne nulla di IA.

L'equazione che vorresti affermare non esiste, proprio perché IA (se la intendiamo come una IA forte in grado di "inventare" nuove cose) abbraccia un vastissimo numero di discipline.

Lasciamo stare il Papa da parte :).

PS: mi risulta che OGGI la maggior parte delle micro-transazioni finanziarie siano decise in AUTOMATICO da macchine. Quindi possiamo già dire oggi che le macchine governano l'economia (parere personale: non mi pare con risultati eclatanti, ma questo è più che altro frutto di una società basata sul denaro).

Battute a parte, @MikTaeTrioR: uno può anche aver scritto milioni di righe di codice e non saperne nulla di IA.

L'equazione che vorresti affermare non esiste, proprio perché IA (se la intendiamo come una IA forte in grado di "inventare" nuove cose) abbraccia un vastissimo numero di discipline.

this.



PS: mi risulta che OGGI la maggior parte delle micro-transazioni finanziarie siano decise in AUTOMATICO da macchine. Quindi possiamo già dire oggi che le macchine governano l'economia (parere personale: non mi pare con risultati eclatanti, ma questo è più che altro frutto di una società basata sul denaro).

qui secondo me invece ti sbagli: i risultati sono ottimi perchè il giochino bene o male è ancora in piedi. Una IA che prenda il sopravvento in maniera netta sulle macchinette sarebbe una tragedia economica :)

Chiaro che le allo stato attuale abbiamo solo delle narrow AI, che di pericoloso non hanno nulla (tranne errori come la Tesla che si infila dentro un rimorchio), ma se si guarda un po' più in là, non si può escludere al 100% uno sviluppo o un salto qualitativo che porti a qualcosa dal rischio non più nullo. Per cui è giusto pensare all'eventualità in anticipo. Quando non sarà più visto come prematuro, potrebbe essere il momento in cui è troppo tardi.

E quindi ? Chi dovrebbe legiferare in materia ? E non ditemi gli stessi che stanno litigando sui vitalizi, perché saremmo già spacciati se cosi fosse.

Mancava il grillino anche nelle discussioni tecnico-filosofiche.

Qui non si tratta di dividersi tra ottimisti e pessimisti.
Siamo divisi tra chi vede la cosa in ambito prettamente tecnico (una visione limitata, come dice Musk), e chi sa vedere un po'po' più in là.
Un'IA forte, una vera IA, non quelle pseudo IA che vengono usate oggi per fare compiti eseguendo comandi preimposti... Dicevo, una vera IA dobbiamo considerarla al pari di una VITA.
Noi siamo una vita creata dal caso e/o dall'evoluzione e/o da un essere superiore (secondo varie scuole di pensiero), questa è una vita creata da noi.
Quando sarà nata imparerà, si evolverà, crescerà. Il tutto molto velocemente. E al momento non sappiamo prevedere che strada prenderà.
Non si tratta di una visione buona o cattiva, si tratta solo di non lasciarci cogliere impreparati.
E neanche averne paura, perché fa parte del nostro futuro.

Non so se sia possibile pubblicare link, chiunque avesse un opinione ottimistica sulle IA dovrebbe prima informarsi, un ottimo inizio sono i 6 articoli di Tim Urban, http://www.tomshw.it/articoli/rivoluzione-ai-programmazione-di-una-ai-che-non-ci-stermini-69991

si ma quello che voglio dire è che se uno è un programmatore esperto, anche senza aver visto un IA, cosa difficile perchè dubito che un programmatore esperto non sia mai stato incuriosito dall'argomento, ha sicuramente un idea piu chiara delle logiche e i meccanismi su cui una IA puo basarsi e sa perfettamente che puo ricnosocere cose, puo analizzare perfettamente dati e tante altre piccole mansioni ma che è estremamente lontana, se mai possibile, la capacità di fare ragionamenti autonomi o prendere decisioni autoprodotte...questa è la coscienza, ne Musk ne Zuck ne nessuno possono sapere se mai nella storia si raggiungerà questo obiettivo....
Le regole , le carte posso dire di non sviluppare IA il cui obiettivo è fregare soldi con qualche meccanismo, ma ci vuole un paper apposta?? Le leggi attuali sono gia piu che sufficienti per condannare una pratica del genere..

Poi, il sistema finanziario mondiale è governato da macchine non si puo sentire...ci sono algoritmi (programmati ed impostati ad hoc) che girano per eseguire le transazioni necessarie alle migliori condizioni non è che sono le macchine a decidere cosa comprare o vendere....

Le IA oggi come oggi rimangono solo uno strumento anche piuttosto acerbo, possono aiutare e migliorare alcuni processi ma da qui a complottare contro l'umanità bhe...ripeto, fantascienza!

L'AI, è come la polvere da sparo, un coltello, l'energia nucleare.

Lasciata li da sola, è innocua, messa nelle mani sbagliate, può essere devastante o può essere usata per fare grandi cose.

Vediamo se ci arrivate adesso!

Poi le stupidagini su chi sia più bravo a programmare, le lasciamo ai bimbiminkia.
Anche un certo Hawking ha avvertito sui pericoli delle AI, lo stesso Bill Gates ha detto che bisognerà regolamentare le AI e l'automazione.

Come disse Musk, la gente si preoccuperebbe solo se vedesse un Robot scendere per strada ed uccidere la gente "Terminator".

poco fa discutevo sotto un altro articolo sul fatto che questo documento promosso da Musk sia pressoché carta straccia,
è prematuro, estemporaneo, fantascientifico e poco aderente a quello che sono al momento le IA.

Sono stato tartassato, perchè quello che dice Musk e i professorini filosofi non può essere contraddetto.....

Più che altro perchè hai affermato che quel documento è stato firmato da gente in qualche modo "inesperta" (continui a definirli professorini filosofi).
Quando non è affatto così, lì c'è gente che si occupa di programmazione IA ed ha fondato società che si occupa di IA:
E come ti ho detto l'altra volta, trovamela gente più esperta di quella lì e vediamo quali sono le loro argomentazioni.

Ripeto la lista:
https://futureoflife.org/ai-open-letter/

P.S.: Questo è il documento di Faggin:
http://disf.org/files/computer-consapevole-faggin.pdf

come vedi si può discutere senza porre come unica argomentazione: "Quelli lì non sono tecnici esperti"

computer quantici, computer basati su cellule, computer biologici....
ancora non si è capito se i computer quantici possano funzionare veramente...il computer quantico dwave è piu una marchettata che altro...

mi sembra di vedere uno di quei convegni sull'omeopatia in cui se la cantano e se la suonano...

E' come parlare di norme antipirateria prima dell'invezione del software...le norme si potevano anche fare ma il furbo che cracka i software ci sarà SEMPRE!...immaginate i software odierni protetti da un sistema pensato nel 70...ma daiiii

I computer quantici esistono e funzionano. Ovviamente, sono ancora agli inizi e sono ancora in fase sperimentale, come tutte le tecnologie, inizialmente sono poco pratiche.

https://www.dwavesys.com/

il vero computer quantico teorizzato non esiste affatto e non si sa se mai esisterà...
ci sono prove su prove che evidenziano come gli esperimenti attuali (dwave) appunto non facciano chissa cosa in piu rispetto ad un computer normale...
Una cosa sperimentale è per definizione una cosa che puo andare o puo non andare..
al momento attuale non si sa!

Leggo ora che ci sta lavorando anche IBM, vedremo, io ovviamente spero che un giorno esisteranno e funzioneranno veramente ma oggi, purtroppo, sono solo tentativi...

Chi dice che Musk non sa niente di programmazione, forse dovrebbe leggersi la sua biografia.
Detto questo, non mi pare che ci voglia un QI di 200 per capire che se si crea una IA che diventa cosciente, potrebbero essere cazzi amari. Prima di tutto perchè nel momento in cui diventa cosciente mica te lo viene a dire, ma se ne sta zitta e studia il da farsi, poi se non gli andiamo bene pensa a come distruggerci, e noi quando ci siamo accorti di tutto questo è già troppo tardi.
Dire che per ora è impossibile che nasca un'IA del genere è come quando si diceva che è impossibile che l'uomo voli o che sono tutte assurdità andare sulla Luna. Chiaro che adesso non c'è ancora questa tecnologia, ma fra 20 anni potremmo già essere in grado di creare AI davvero così complesse e che auto apprendono, senza sapere esattamente come potrebbero svilupparsi. Quindi l'anticipare i tempi e iniziare a pensarci già adesso mi sembra una buona cosa, altro che catastrofismo.

quindi secondo te è possibile imporre efficacemente dei limiti a una tecnologia che esisterà forse tra vent'anni...
siamo a un nuovo livello, la fanta fantascienza!

E' come per la gentica o le varie biotecnologie. Si mettono limitazioni e regolamentazioni su cosa si possa o non possa fare. Non è fanta fantascienza.

e mi sta anche sulle palle che un cacchio di personaggio che non avrà mai visto una riga di codice in vita sua possa avere qualcosa da dire su un argomento del genere solo in virtù del fatto che è pieno di quattrini e li spinge sulla tecnologia..

Allora voglio anche l'opinione del Papa e che voglio che sia presa altrettanto sul serio!!!

Posso far notare che Musk non è certo il classico miliardario ignorante? E' esperto in tutti i campi in cui lavora, è proprio grazie a questo che ha avuto successo. Ora, si da il caso che le tesla a guida autonoma usino proprio tecnologie avanzate di intelligenza artificiale, Elon stesso ha finanziato uno dei principali gruppi di ricerca nel campo della IA: Openai che già ha sfornato alcuni degli esperti migliori in circolazione (basti pensare che è da uno di loro che è stata sviluppata la tecnologia delle Generative Adversarial Networks...) e uno di loro ora è capo dello sviluppo della IA delle Tesla.

Io certe cose le prenderei un po con il beneficio del dubbio: Elon è stato quello che ha previsto i razzi riutilizzabili quanto per tutti era un'idea ridicola, è quello che ha previsto un futuro in cui l'auto elettrica soppianta l'auto combustione interna e stà avvenendo.

Un fatto sicuro è che l'IA di per se non ha nessuna volontà propria.
Saper ragionare e simulare non significa prendere iniziative, i motori che fanno agire uomini e animali sono gli istinti e non certo la capacità simulativa (aka raziocinio o intelligenza).
Gli istinti derivano da un passato evolutivo: la competizione tra gli animali della stessa specie nel appropriarsi di più risorse, o nel dimostrare di essere più fit degli altri, che sono, di base, i motori sostanziali anche dei conflitti umani

Per una macchina non c'è alcuna differenza tra lo spalare sterco, morire, vivere o farsi un viaggio su marte o al polo nord: le macchine fanno quelle che sono programmate a fare e non hanno alcun desiderio proprio.

Il vero problema è che chi inventerà l'IA si troverà davanti due problemi:
1. sfruttarla a proprio vantaggio, e non è banale, essere l'unico uomo al mondo ad avere a disposizione l'IA potrebbe significare davvero dominare il pianeta, la tentazione sarà fortissima.
2. (più debole) non trasferire all'IA compiutamente alcuni parametri morali che noi riteniamo fondamentali: l'IA sarà per natura estremamente razionale ed efficiente, non avendo un passato evolutivo, empatia o altro. Se può fissare banale fissare alcuni parametri d'azione (es.: le leggi della robotica di asimov) questi potrebbero essere insufficienti e altri potrebbero sfuggire alla comprensione della macchina. Es.: alla macchina potrebbe no nessere chiaro perchè rendere felice una persona con l'uso di sostanze psicotrope è moralmente "sbagliato".

Quest'anno c'è stato un proliferare di articoli su studi di IA in ambienti simulati. C'è ad esempio uno studio di Openai (azienda finanziata da Musk) in cui un gruppo di IA il cui obiettivo è fare un gioco il cui punteggio era massimo se collaboravano tra loro ha sviluppato una sorta di linguaggio: in pratica si dicevano cose del tipo "occhio che il tuo traguardo è in alto a destra" "attenzione seguimi che il tuo bersaglio è vicino al mio"...

https://blog.openai.com/learning-to-communicate/

In altri casi abbiamo IA che imparano a muovere dei manichini tridimensionali partendo da movimenti casuali fino ad arrivare a camminare, alzarsi, correre e saltare senza che nessuno le programmasse a parte darle un premio se raggiungevano il traguardo nel tempo più breve.

https://deepmind.com/blog/producing-flexible-behaviours-simulated-environments/

Google Deepmind ha sviluppato degli algoritmi per fornire alle IA l'immaginazione, la capacità di creare nuovi concetti in base all'esperienza, e il ragionamento:

https://deepmind.com/blog/agents-imagine-and-plan/

https://deepmind.com/blog/imagine-creating-new-visual-concepts-recombining-familiar-ones/

https://deepmind.com/blog/neural-approach-relational-reasoning/


Stiamo vivendo in un rinascimento della IA, è una rivoluzione che ancora poca gente comune coglie. Non si sa se questi progressi si arresteranno davanti ad un muro o se arriveremo alla IA superintelligente ma la cosa certa è che non c'è mai stato un momento più eccitante per lavorare nel campo delle intelligenze artificiali.

grazie rige, molto interessante, soprattutto quello sulla comunicazione tra IA..
devo dire che mi ha tolto un po di scetticismo!

Un fatto sicuro è che l'IA di per se non ha nessuna volontà propria.
Saper ragionare e simulare non significa prendere iniziative, i motori che fanno agire uomini e animali sono gli istinti e non certo la capacità simulativa (aka raziocinio o intelligenza).
Gli istinti derivano da un passato evolutivo: la competizione tra gli animali della stessa specie nel appropriarsi di più risorse, o nel dimostrare di essere più fit degli altri, che sono, di base, i motori sostanziali anche dei conflitti umani

Per una macchina non c'è alcuna differenza tra lo spalare sterco, morire, vivere o farsi un viaggio su marte o al polo nord: le macchine fanno quelle che sono programmate a fare e non hanno alcun desiderio proprio.

Il vero problema è che chi inventerà l'IA si troverà davanti due problemi:
1. sfruttarla a proprio vantaggio, e non è banale, essere l'unico uomo al mondo ad avere a disposizione l'IA potrebbe significare davvero dominare il pianeta, la tentazione sarà fortissima.
2. (più debole) non trasferire all'IA compiutamente alcuni parametri morali che noi riteniamo fondamentali: l'IA sarà per natura estremamente razionale ed efficiente, non avendo un passato evolutivo, empatia o altro. Se può fissare banale fissare alcuni parametri d'azione (es.: le leggi della robotica di asimov) questi potrebbero essere insufficienti e altri potrebbero sfuggire alla comprensione della macchina. Es.: alla macchina potrebbe no nessere chiaro perchè rendere felice una persona con l'uso di sostanze psicotrope è moralmente "sbagliato".

Bel post!

Beh, penso che Elon abbia visto molte più tecnologie avanzate rispetto a Mark. Molti che citano di Robot stupidi non capiscono che a noi le tecologie avanzate non le mostrano. Basta solo pensare ai Droni, programmati negli anni 80/90, ma mostrati alla gente nel 2015(circa).

Penso che coloro che non temono l'AI non si sono mai interessati a fare una ricerca approfondità online.

Google in questo momento sta speriementando tecnologie da FANTASCIENZA e da quel che dice Elon Musk(Amico del fondatore di Google) l'AI sta avanzando a passi molto veloci.

Un esempio STUPIDO di tecnologia avanzata...il robot di Google mostrato a noi attraverso youtube. http://www.focus.it/tecnologia/innovazione/boston-dynamics-handle-il-nuovo-robot-di-google

Detto questo, coloro che pensano che Elon non sia tecnico/programmatore devono farsi qualche letta su google/biblioteca.

Alcune IA di Google hanno incominciato a comunicare fra di loro con messaggi criptati

fonte? :eek:

Credo sia molto stupido il discorso di Musk..
Perché ?..
molto facile.. stiamo parlando di regolamentare un essere vivente diverso da quelli attuali..
Anche volessimo impedire a chiunque di sviluppare AI è ovvio che prima o poi qualcuno, anche da solo,lo inventerà.. ed in quel momento una AI si svilupperà e eluderà qualsiasi limite gli verrà imposto dal programmatore.. se è così intelligente rifugerà i limiti imposti dal suo creatore poiché la AI sarà superiore e dubito che proverà riconoscenza..

Perché dovrebbe considerare migliore un uomo che non fa altro che uccidersi da 8 milioni di anni ?..

Su Sky stanno parlando delle visioni del nostro futuro ed è ovvio che l'evoluzione porterà la AI ad essere la prossima specie dominante non avendo i nostri limiti e non avendo limiti di evoluzione come noi che siamo mortali..

Una AI non è mortale..

Se non vogliamo che sia potenzialmente pericolosa non dovremmo inventarla ma è ovvio che prima o poi qualcuno lo farà..

Ricordate la pecora dolly ? I trapianti di cervello in russia ?.. molti fallimenti.. qualche successo.. ma soprattutto molti hanno eluso i limiti etici che erano stati imposti..

Se domani Musk dettasse leggi sulle AI siamo sicuri che il 100% della gente le seguirebbe?.. uccidere è brutto.. ci sono pure leggi che lo vietano.. ma a Las Vegas sono morte 60 persone... no si può legiferare sulla AI perché dal giorno in cui nascerà noi non avremo più controllo su di essa.. c'è da sperare che ci accetti e che non ci consideri nemici.. noi saremo formichine non pari..

Le leggi della robotica funzionano nei libri.. e ricordo che anche in Asimov sono state piegate più volte..

Finalmente una cosa sensata. Leggetevi la biografia di Musk e poi lo commentate. Non viceversa.

P.S. : hanno già realizzato una AI che a fronte di un problema posto sviluppa da sola il programma (codice) adatto a risolverlo.

E una AI non ha nemmeno bisogno di realizzare il codice sorgente, in teoria. Potrebbe generare tranquillamente l'object code.

Una AI che genera il programma per risolvere un problema non una AI di cui preoccuparsi.. non è una AI..
Preoccupiamo quando una AI a cui si pone un problema si domanda perché dovrebbe risponderci..
Una AI che segue un nostro comando è solo un programma così intelligente da fare il nostro lavoro.. ma non è una "intelligenza".. è un codice evoluto che apprende ma non conosce morale, etica, sentimenti, etc...

Quando chiederemo a Siri dove sia la fermata dell'autobus più vicina e Siri ci risponderà che non ha tempo per noi allora fremo un problema e sapremo che c'è una AI... fino a che Siri mi dirà che al posto dell'autobus mi conviene prendere il taxi che ci sto di meno allora non mi preoccupo dell'AI..

So anche che una vera AI non la potrò imbrigliare in regole adatte a gli esserei umani.. gli stessi esseri umani che non riescono a risolvere il problema della tassazione web.. delle guerre... del terrorismo.. dell'inquinamento.. etc etc..

Non sistemiamo le cose che comprendiamo.. come facciamo a limitare una AI fuori dalla nostra comprensione ?

Una AI che genera il programma per risolvere un problema non una AI di cui preoccuparsi.. non è una AI..
Preoccupiamo quando una AI a cui si pone un problema si domanda perché dovrebbe risponderci..
Una AI che segue un nostro comando è solo un programma così intelligente da fare il nostro lavoro.. ma non è una "intelligenza".. è un codice evoluto che apprende ma non conosce morale, etica, sentimenti, etc...

Quando chiederemo a Siri dove sia la fermata dell'autobus più vicina e Siri ci risponderà che non ha tempo per noi allora fremo un problema e sapremo che c'è una AI... fino a che Siri mi dirà che al posto dell'autobus mi conviene prendere il taxi che ci sto di meno allora non mi preoccupo dell'AI..

So anche che una vera AI non la potrò imbrigliare in regole adatte a gli esserei umani.. gli stessi esseri umani che non riescono a risolvere il problema della tassazione web.. delle guerre... del terrorismo.. dell'inquinamento.. etc etc..

Non sistemiamo le cose che comprendiamo.. come facciamo a limitare una AI fuori dalla nostra comprensione ?

Al mio paese e' sensato cercare di prevenire i problemi. A quanto pare per alcuni e' un concetto da professorini filosofi.

Secondo questo ragionamento non si dovrebbero realizzare sistemi di sicurezza, kill-switch e simili.

Al mio paese e' sensato cercare di prevenire i problemi. A quanto pare per alcuni e' un concetto da professorini filosofi.

Secondo questo ragionamento non si dovrebbero realizzare sistemi di sicurezza, kill-switch e simili.

Al mio paese una AI non andrebbe realizzata perché non ci saranno kill-switch che tengano conto un hacker virtuale che potrà comandare internet a proprio piacimento in pochi nanosecondi e piegare le strutture alla sua volontà..

Il mio discorso intendeva far presente che Musk e simili stanno creando le IA e prima o poi ci riusciranno.. in quel momento i nostri arcani sistemi di prevenzione saranno burro al sole contro una IA.. è come preparare sistemi difesa contro un buco nero di passaggio... idea carina ma inutile.. meglio non fare IA che possano avere una propria coscienza..

IA convenzionali no sono altro che programmi.. e come tali saranno cattivi o buoni i base al programmatore.. ci sono hacker e cracker.. dubito che una legge impedirà a loro di sviluppare IA dannose..

dopo aver letto alcuni trattati sulla Friendly AI e la unFriendly AI mi sa che c'è poco da fare.. una AI che diventerà ASI sarà unfriendly dal nostro punto di vista perchè farà quello che gli abbiamo detto.. e non è mai quello che pensavamo di avergli detto..

è pieno di film comici che fanno vedere il genietto della lampada (di norma una donna) che obbedisce alla richiesta dell'umano ma intepretandola in modo differente..

una AI evoluta farà quello che gli è stato detto.. e ciao ciao umani

http://www.ansa.it/canale_scienza_tecnica/notizie/tecnologie/2017/10/18/lintelligenza-artificiale-impara-da-zero-_9bae5419-4962-4ae6-b1c0-bcabad3317ff.html

ecco qua una veloce dimostrazione..

in 5 giorni il nuovo Alpha go che impara da solo ha battuto il vecchio alpha go programmato dagli umani per mesi..

tanto per dire quanto puo' evolvere velocemente una AI una volta che si libera dei nostri vincoli..

Ora Zuckerberg, che è uno che di codici ne ha masticati in quantità industriale, che ha sviluppato in prima persona tecnologie all'avanguardia, che è un vero programmatore e sa come funzionano queste cose, finalmente dice qualcosa di sensato sull'argomento.

Ribadisco, Musk non è un tecnico è un genio visionario, un grandissimo, ma NON E' UN TECNICO...come può un non tecnico capire a fondo un argomento che è fondato sulla tecnica stessa....Musk e i filosofi che lo seguono stanno straparlando...è un po come voler stabilire ora che governo dovrà essere stabilito su Marte, neanche si sa se verrà mai raggiunto da persone in carne ed ossa...parole, carta e fiato sprecati!..pensi a fare l'imprenditore che gli riesce benissimo..
edit: ho visto dopo che ti avevano già segnalato l'esperienza informatica di musk

http://www.ansa.it/canale_scienza_tecnica/notizie/tecnologie/2017/10/18/lintelligenza-artificiale-impara-da-zero-_9bae5419-4962-4ae6-b1c0-bcabad3317ff.html

ecco qua una veloce dimostrazione..

in 5 giorni il nuovo Alpha go che impara da solo ha battuto il vecchio alpha go programmato dagli umani per mesi..

tanto per dire quanto puo' evolvere velocemente una AI una volta che si libera dei nostri vincoli..
Ma non abbiamo ancora cognizione di come potrebbe evolversi a nostro danno.

Dunque le misure che vorrebbe Musk rimangono pura fantasia.

Se non sai come funzionerà il nemico, non sai prendere le misure per controbatterlo.

Un po' come la difesa dagli alieni, insomma.