Elon Musk bacchetta Mark Zuckerberg sulla IA: 'Ha una comprensione limitata'

[GTKM]

Originariamente inviato da Notturnia

Una AI che genera il programma per risolvere un problema non una AI di cui preoccuparsi.. non è una AI..
Preoccupiamo quando una AI a cui si pone un problema si domanda perché dovrebbe risponderci..
Una AI che segue un nostro comando è solo un programma così intelligente da fare il nostro lavoro.. ma non è una "intelligenza".. è un codice evoluto che apprende ma non conosce morale, etica, sentimenti, etc...

Quando chiederemo a Siri dove sia la fermata dell'autobus più vicina e Siri ci risponderà che non ha tempo per noi allora fremo un problema e sapremo che c'è una AI... fino a che Siri mi dirà che al posto dell'autobus mi conviene prendere il taxi che ci sto di meno allora non mi preoccupo dell'AI..

So anche che una vera AI non la potrò imbrigliare in regole adatte a gli esserei umani.. gli stessi esseri umani che non riescono a risolvere il problema della tassazione web.. delle guerre... del terrorismo.. dell'inquinamento.. etc etc..

Non sistemiamo le cose che comprendiamo.. come facciamo a limitare una AI fuori dalla nostra comprensione ?

Al mio paese e' sensato cercare di prevenire i problemi. A quanto pare per alcuni e' un concetto da professorini filosofi.

Secondo questo ragionamento non si dovrebbero realizzare sistemi di sicurezza, kill-switch e simili.

[Notturnia]

Originariamente inviato da GTKM

Al mio paese e' sensato cercare di prevenire i problemi. A quanto pare per alcuni e' un concetto da professorini filosofi.

Secondo questo ragionamento non si dovrebbero realizzare sistemi di sicurezza, kill-switch e simili.

Al mio paese una AI non andrebbe realizzata perché non ci saranno kill-switch che tengano conto un hacker virtuale che potrà comandare internet a proprio piacimento in pochi nanosecondi e piegare le strutture alla sua volontà..

Il mio discorso intendeva far presente che Musk e simili stanno creando le IA e prima o poi ci riusciranno.. in quel momento i nostri arcani sistemi di prevenzione saranno burro al sole contro una IA.. è come preparare sistemi difesa contro un buco nero di passaggio... idea carina ma inutile.. meglio non fare IA che possano avere una propria coscienza..

IA convenzionali no sono altro che programmi.. e come tali saranno cattivi o buoni i base al programmatore.. ci sono hacker e cracker.. dubito che una legge impedirà a loro di sviluppare IA dannose..

[Notturnia]

dopo aver letto alcuni trattati sulla Friendly AI e la unFriendly AI mi sa che c'è poco da fare.. una AI che diventerà ASI sarà unfriendly dal nostro punto di vista perchè farà quello che gli abbiamo detto.. e non è mai quello che pensavamo di avergli detto..

è pieno di film comici che fanno vedere il genietto della lampada (di norma una donna) che obbedisce alla richiesta dell'umano ma intepretandola in modo differente..

una AI evoluta farà quello che gli è stato detto.. e ciao ciao umani

[Notturnia]

http://www.ansa.it/canale_scienza_te...bad3317ff.html

ecco qua una veloce dimostrazione..

in 5 giorni il nuovo Alpha go che impara da solo ha battuto il vecchio alpha go programmato dagli umani per mesi..

tanto per dire quanto puo' evolvere velocemente una AI una volta che si libera dei nostri vincoli..

[jotaro75]

Originariamente inviato da MikTaeTrioR

Ora Zuckerberg, che è uno che di codici ne ha masticati in quantità industriale, che ha sviluppato in prima persona tecnologie all'avanguardia, che è un vero programmatore e sa come funzionano queste cose, finalmente dice qualcosa di sensato sull'argomento.

Ribadisco, Musk non è un tecnico è un genio visionario, un grandissimo, ma NON E' UN TECNICO...come può un non tecnico capire a fondo un argomento che è fondato sulla tecnica stessa....Musk e i filosofi che lo seguono stanno straparlando...è un po come voler stabilire ora che governo dovrà essere stabilito su Marte, neanche si sa se verrà mai raggiunto da persone in carne ed ossa...parole, carta e fiato sprecati!..pensi a fare l'imprenditore che gli riesce benissimo..

edit: ho visto dopo che ti avevano già segnalato l'esperienza informatica di musk

[cdimauro]

Originariamente inviato da Notturnia

http://www.ansa.it/canale_scienza_te...bad3317ff.html

ecco qua una veloce dimostrazione..

in 5 giorni il nuovo Alpha go che impara da solo ha battuto il vecchio alpha go programmato dagli umani per mesi..

tanto per dire quanto puo' evolvere velocemente una AI una volta che si libera dei nostri vincoli..

Ma non abbiamo ancora cognizione di come potrebbe evolversi a nostro danno.

Dunque le misure che vorrebbe Musk rimangono pura fantasia.

Se non sai come funzionerà il nemico, non sai prendere le misure per controbatterlo.

Un po' come la difesa dagli alieni, insomma.