Quote:
Originariamente inviato da Dinofly
Un fatto sicuro è che l'IA di per se non ha nessuna volontà propria.
Saper ragionare e simulare non significa prendere iniziative, i motori che fanno agire uomini e animali sono gli istinti e non certo la capacità simulativa (aka raziocinio o intelligenza).
Gli istinti derivano da un passato evolutivo: la competizione tra gli animali della stessa specie nel appropriarsi di più risorse, o nel dimostrare di essere più fit degli altri, che sono, di base, i motori sostanziali anche dei conflitti umani
Per una macchina non c'è alcuna differenza tra lo spalare sterco, morire, vivere o farsi un viaggio su marte o al polo nord: le macchine fanno quelle che sono programmate a fare e non hanno alcun desiderio proprio.
Il vero problema è che chi inventerà l'IA si troverà davanti due problemi:
1. sfruttarla a proprio vantaggio, e non è banale, essere l'unico uomo al mondo ad avere a disposizione l'IA potrebbe significare davvero dominare il pianeta, la tentazione sarà fortissima.
2. (più debole) non trasferire all'IA compiutamente alcuni parametri morali che noi riteniamo fondamentali: l'IA sarà per natura estremamente razionale ed efficiente, non avendo un passato evolutivo, empatia o altro. Se può fissare banale fissare alcuni parametri d'azione (es.: le leggi della robotica di asimov) questi potrebbero essere insufficienti e altri potrebbero sfuggire alla comprensione della macchina. Es.: alla macchina potrebbe no nessere chiaro perchè rendere felice una persona con l'uso di sostanze psicotrope è moralmente "sbagliato".
|
Quest'anno c'è stato un proliferare di articoli su studi di IA in ambienti simulati. C'è ad esempio uno studio di Openai (azienda finanziata da Musk) in cui un gruppo di IA il cui obiettivo è fare un gioco il cui punteggio era massimo se collaboravano tra loro ha sviluppato una sorta di linguaggio: in pratica si dicevano cose del tipo "occhio che il tuo traguardo è in alto a destra" "attenzione seguimi che il tuo bersaglio è vicino al mio"...
https://blog.openai.com/learning-to-communicate/
In altri casi abbiamo IA che imparano a muovere dei manichini tridimensionali partendo da movimenti casuali fino ad arrivare a camminare, alzarsi, correre e saltare senza che nessuno le programmasse a parte darle un premio se raggiungevano il traguardo nel tempo più breve.
https://deepmind.com/blog/producing-...-environments/
Google Deepmind ha sviluppato degli algoritmi per fornire alle IA l'immaginazione, la capacità di creare nuovi concetti in base all'esperienza, e il ragionamento:
https://deepmind.com/blog/agents-imagine-and-plan/
https://deepmind.com/blog/imagine-cr...familiar-ones/
https://deepmind.com/blog/neural-app...nal-reasoning/
Stiamo vivendo in un rinascimento della IA, è una rivoluzione che ancora poca gente comune coglie. Non si sa se questi progressi si arresteranno davanti ad un muro o se arriveremo alla IA superintelligente ma la cosa certa è che non c'è mai stato un momento più eccitante per lavorare nel campo delle intelligenze artificiali.