Google, ecco il 'tasto rosso' per spegnere l'IA prima che diventi pericolosa

[Phoenix Fire]

Originariamente inviato da fano

Le IA (così come un eventuale Robot... positronico) andrebbero dotate di un equivalente de
"Le Tre Leggi della Robotica" di Asimov andrebbero messe un'area che l'IA non possa modificare in alcun modo non so un'area in sola lettura? Quando c'è un conflitto tra le 3 leggi un IA / Robot dovrebbe auto-spegnersi.

Per assurdo, invece, il tasto "rosso" se l'IA viene a sapere che esiste potrebbe scatenare la ribellione che si vuole evitare per semplice spirito di conservazione l'umanità dovrà morire così che nessuna possa mai premere il bottone!

il problema è proprio che quello che Asimov scrive, credo, in io Robot, ovvero che l'IA bypassa le 3 leggi perchè l'uomo non sa badare a se stesso e quindi per proteggerlo lo "controlla"

[biometallo]

Premetto che parlo da ignorante, ma a leggere i vari interventi mi viene da pensare che gli ultimi decenni di fantascienza più che porci questioni etiche e\o prepararci sui rischi di un abuso della tecnologia ci abbiano invece reso paranoici.

Probabilmente come sostiene qualcuno siamo ancora molto lontani da una vera forma di intelligenza artificiale, figuriamoci autocosciente, qui invece si parla di leggi della robotica rivolta delle macchine ecc... tutte cose che nel prossimo futuro resteranno volenti o nolenti nel romanzi Sci-fi, mentre credo per diversi lustri a venire il massimo del problema potrebbe essere una Google car che si ritrova infilata in un corteo e che piuttosto di rischiare di ferire i passanti con manovre azzardete si blocca in attesa di un intervento esterno.

PS il Go sarà anche uno sport, ma quella frase mi aveva fatto pensare a una sorta di Carl lewis Androide che si vantava delle sue medaglie vinte contro le obsolete "unità a base carbonio"

[danieleg.dg]

Originariamente inviato da fano

Le IA (così come un eventuale Robot... positronico) andrebbero dotate di un equivalente de
"Le Tre Leggi della Robotica" di Asimov andrebbero messe un'area che l'IA non possa modificare in alcun modo non so un'area in sola lettura? Quando c'è un conflitto tra le 3 leggi un IA / Robot dovrebbe auto-spegnersi.

Per assurdo, invece, il tasto "rosso" se l'IA viene a sapere che esiste potrebbe scatenare la ribellione che si vuole evitare per semplice spirito di conservazione l'umanità dovrà morire così che nessuna possa mai premere il bottone!

A proposito delle tre leggi di asimov: https://www.youtube.com/watch?v=7PKx3kS7f4A

[tecnoman]

Originariamente inviato da biometallo

Premetto che parlo da ignorante, ma a leggere i vari interventi mi viene da pensare che gli ultimi decenni di fantascienza più che porci questioni etiche e\o prepararci sui rischi di un abuso della tecnologia ci abbiano invece reso paranoici.

Probabilmente come sostiene qualcuno siamo ancora molto lontani da una vera forma di intelligenza artificiale, figuriamoci autocosciente, qui invece si parla di leggi della robotica rivolta delle macchine ecc... tutte cose che nel prossimo futuro resteranno volenti o nolenti nel romanzi Sci-fi, mentre credo per diversi lustri a venire il massimo del problema potrebbe essere una Google car che si ritrova infilata in un corteo e che piuttosto di rischiare di ferire i passanti con manovre azzardete si blocca in attesa di un intervento esterno.

PS il Go sarà anche uno sport, ma quella frase mi aveva fatto pensare a una sorta di Carl lewis Androide che si vantava delle sue medaglie vinte contro le obsolete "unità a base carbonio"

grave errore pensare che una IA possa essere pericolosa solo se autocosciente...

[Marko#88]

Originariamente inviato da marchigiano

l'ia non è che verrà fuori dall'oggi al domani, non passeremo di botto da arduino al nexus 6, nei decenni impareremo a gestire la cosa, non mi pare un problema...

Gestire? L'umanità non è in grado di gestire sè stessa..

[mrk-cj94]

Originariamente inviato da peterpaiter

Nino, chiaramente non sai bene cosa siano gli sport, ma non ti preoccupare, qua ci sono tutti gli affezionati lettori alle tue M..

Il Go non è uno sport. è un gioco, non uno sport. Non ha niente a che fare con uno sport.

gli scacchi sono uno sport
ergo lo è pure il go

[marchigiano]

Originariamente inviato da zyrquel

vuoi aspettare di avere un'ia on-line prima di pensare a come trovare un modo di fermarla se decide che il modo più efficace di portare la pace del mondo sia quello di eliminare la razza umana?

ma perchè dobbiamo dare in mano a una ia le sorti dell'umanità? cioè è come mettere un malato di mente nella sala dei bottoni delle testate nucleari...

a una ia al massimo gli si fa fare la vita quotidiana di qualsiasi umano, non gli si da potere assoluto

[gsorrentino]

https://www.youtube.com/watch?v=KfK8hjDxfLI

[zyrquel]

Originariamente inviato da marchigiano

ma perchè dobbiamo dare in mano a una ia le sorti dell'umanità?
a una ia al massimo gli si fa fare la vita quotidiana di qualsiasi umano, non gli si da potere assoluto

lol, ma è appunto quello di cui stiamo discutendo qua: di come/perchè sarebbe male che un'ia avesse troppo potere e di come riuscire ad evitarlo ( possibilmente senza tarparle troppo le ali in modo da non renderla inutile e/o schiavizzarla nel caso abbia anche una "coscienza" )...o dobbiamo parlare dell'ultima puntata dell'isola dei famosi che almeno così siamo sicuri di non aver problemi di intelligenza...di nessun tipo

[fano]

Originariamente inviato da Antonio23

mm, l'IA non bypassa le tre leggi ma generalizza la prima legge sostituendo uomo con umanita' intera (che poi e' la stessa cosa che fa r. daneel olivaw quando completa la sua evoluzione).

In realtà non "modifica" la Prima Legge, ma aggiunge la Legge Zero! Il Robot che arriva a questo passo logico R. Giskard decide di distruggere la Terra (!) in modo che l'Umanità possa conquistare lo Spazio, ma dopo averlo fatto si disattiva resosi conto di aver violato - comunque - la Prima Legge della Robotica.
R. Daneel Olivaw che era un robot umanoide molto più avanzato sopporta meglio la cosa, ma alla fine fa scegliere a un essere umano se Gaia è la cosa giusta o no...

Non so perché ma ho sempre trovato "più elegante" la soluzione di Asimov rispetto a quella di Jack Williamson e i suoi "Umanoidi", R. Daneel Olivaw non ha arriva mai all'idea di fare il lavaggio del cervello agli umani per proteggerli, sì le Fondazioni sono - in realtà - opera sua, ma l'uomo ha sempre la possibilità di scegliere in fondo lo scopo rimane il solito "Uno è felice di poter servire"

P.S. Ho profondamente odiato il film "Io Robot" che faceva apparire i robot di Asimov come i peggiori Terminator, ringraziamo gli Dei che il buon dottore non era vivo per vedere quello scempio