AI, leggi della robotica, singolaritá tecnologica

[quelarion]

Prendendo spunto da un thread di elevul sui cervelli artificiali, mi sono venuti in mente dei punti su cui vorrei discutere un po' e conoscere la vostra opinione.

Partiamo dalla premessa che sia possibile riprodurre una mente autocosciente in maniera artificiale, software o hardware. Non vorrei discutere di anima e cose del genere

Mi vengono in mente due questioni fondamentali:

1) IMHO creare una mente pensante ed autocosciente non pone un problema etico di per sé, ma piuttosto bisogna tutelare in qualche modo quella che di fatto é paragonabile ad una persona.
Lavorare in laboratorio con un essere autocosciente non é come lavorare sui topi.

2) Skynet!*
Le leggi della robotica, sempre IMHO, sono essenzialmente "razziste", considerando la vita umana piú importante di quella artificiale.
La possibilitá pratica di implementarle e mantenerle in una mente artificiale cosciente e quindi in grado di apprendere non é scontata, o quantomeno nulla assicura che vengano rispettate e non bypassate.
Come gli umani crackano le console, una IA potrebbe crackare se stessa.

Non si puó giocare ad essere dio, e quindi a creare una specie da asservire ai nostri scopi, senza avere i poteri di un dio e potersi difendere da una eventuale ribellione.

Nell'eventualitá in cui, inoltre, fosse possibile una singolaritá tecnologica, il problema diventerebbe enorme e decisamente ingestibile. Ma ora devo prendermi un po' di tempo per riflettere sulla questione

Per ora quindi sarei per dire: non appena si ha una intelligenza artificiale cosciente bisogna riconoscere uno status di "persona artificiale" (come piace essere chiamato a bishop!) con le dovute conseguenze...



PS: non mi sembra di aver trovato un thread simile sul forum, se dovesse esserci un'altra discussione magari chiudiamo qui e posto di lá

*non é colpa mia, sto solo guardando The Sarah Connor Chronicles!

[giannola]

Originariamente inviato da quelarion

Le leggi della robotica, sempre IMHO, sono essenzialmente "razziste", considerando la vita umana piú importante di quella artificiale.

la vita umana è più importante di quella artificiale, che è sempre un manufatto.

[drakend]

Originariamente inviato da giannola

la vita umana è più importante di quella artificiale, che è sempre un manufatto.

E la vita artificiale creata da altra vita artificiale? Quella non è un manufatto umano, perché se no i figli di schiavi potrebbero essere solo schiavi...

[giannola]

Originariamente inviato da drakend

E la vita artificiale creata da altra vita artificiale? Quella non è un manufatto umano, perché se no i figli di schiavi potrebbero essere solo schiavi...

sempre manufatti sono...la vita umana è irripetibile, quella artificiale invece si. è una differenza non da poco.

[D.O.S.]

è un problema biologico : crei una specie (artificiale) senziente in competizione con quella umana
ed è anche un problema sociale/politico : se non dai uguali diritti alle IA allora hai creato degli schiavi e una società umana basata sul lavoro gratuito degli schiavi ...con tutti i problemi che ne conseguono .


bisogna solo trovare un modo per risolvere questi 2 problemi : creando una specie artificiale in simbiosi con quella umana e dandole gli stessi diritti civili degli umani.
ma se il primo punto è una questione puramente tecnica il secondo è irrealizzabile a causa delle forze conservatrici e reazionarie contenute nella società umana .... se persino ora vengono fatte resistenze a concedere diritti civili basilari ai gay , mi immagino già come reagiranno le varie Binetti e i Buttiglioni del futuro quando i parlamenti di tutto il mondo dovranno legiferare sui diritti civili delle IA.

IMHO , è una questione estremamente complessa che creerà rivoluzioni sociali molto travagliate e forse anche guerre .

[drakend]

Originariamente inviato da giannola

sempre manufatti sono...la vita umana è irripetibile, quella artificiale invece si. è una differenza non da poco.

Se la vita artificiale evolve in base alle esperienze maturate diventa anch'essa irripetibile ed unica...

Originariamente inviato da D.O.S.

è un problema biologico : crei una specie (artificiale) senziente in competizione con quella umana
ed è anche un problema sociale/politico : se non dai uguali diritti alle IA allora hai creato degli schiavi e una società umana basata sul lavoro gratuito degli schiavi ...con tutti i problemi che ne conseguono .

Difatti è proprio demenziale per una specie creare e perfezionare una specie che possa distruggerla. Secondo me bisognerà legiferare, in un tempo non molto lontano, affinché le IA siano efficienti solo in SPECIFICI settori, senza andare oltre il seminato, per evitare il rischio della creazione di una personalità artificiale.

[giannola]

Originariamente inviato da drakend

Se la vita artificiale evolve in base alle esperienze maturate diventa anch'essa irripetibile ed unica...

con i se con i ma non si va da nessuna parte...soprattutto nella robotica.

[D.O.S.]

Originariamente inviato da drakend

Difatti è proprio demenziale per una specie creare e perfezionare una specie che possa distruggerla. Secondo me bisognerà legiferare, in un tempo non molto lontano, affinché le IA siano efficienti solo in SPECIFICI settori, senza andare oltre il seminato, per evitare il rischio della creazione di una personalità artificiale.

ma non hai risolto il secondo punto : hai appena creato degli schiavi che pensano al posto tuo .

[frankytop]

Tra la costruzione di un cervello e la costruzione di una mente c'è un abisso in mezzo.
Si parte dal presupposto sbagliato che un cervello abbastanza potente nel gestire dati ed elaborarli implementi come conseguenza naturale un qualche forma di autocoscienza.
Ci sarebbe da chiedersi ad esempio se gli insetti come le api,le cui capacità celebrali gli consentono di affrontare problemi complessi che nemmeno i nostri attuali computer sono in grado di svolgere,hanno consapevolezza di esistere.

[drakend]

Originariamente inviato da D.O.S.

ma non hai risolto il secondo punto : hai appena creato degli schiavi che pensano al posto tuo .

Un conto è una persona cosciente di sè, un conto è una IA che può fare solo una cosa e basta, senza chiedersi chi è, perché esiste, da dove è venuta, dove andrà a finire, cos'è la vita, cos'è la morte, cos'è l'amore e via dicendo...

[D.O.S.]

Originariamente inviato da drakend

Un conto è una persona cosciente di sè, un conto è una IA che può fare solo una cosa e basta, senza chiedersi chi è, perché esiste, da dove è venuta, dove andrà a finire, cos'è la vita, cos'è la morte, cos'è l'amore e via dicendo...

te lo spiego in un modo più semplice : ti piacerebbe essere licenziato dopo molti anni di studi e sacrifici finendo rimpiazzato da una economicissima e servizievole IA ?

[frankytop]

Originariamente inviato da D.O.S.

te lo spiego in un modo più semplice : ti piacerebbe essere licenziato dopo molti anni di studi e sacrifici finendo rimpiazzato da una economicissima e servizievole IA ?

A me si perchè così lavorano le macchine ed io dedico il mio tempo totalmente libero per fare sci nautico,arrampicarmi sull'everst(eh,magari..) e fare il turista a tempo pieno in giro per il mondo.

[drakend]

Originariamente inviato da D.O.S.

te lo spiego in un modo più semplice : ti piacerebbe essere licenziato dopo molti anni di studi e sacrifici finendo rimpiazzato da una economicissima e servizievole IA ?

Guarda che ho capito quello che intendevi, non c'è bisogno che semplifichi...
Ad ogni modo il problema che poni tu è diverso dal riconoscimento dei diritti civili ad una personalità digitale. Per questo tipo di problema vale il solito discorso che il progresso non si può certo fermare col luddismo.

[D.O.S.]

Originariamente inviato da frankytop

A me si perchè così lavorano le macchine ed io dedico il mio tempo totalmente libero per fare sci nautico,arrampicarmi sull'everst(eh,magari..) e fare il turista a tempo pieno in giro per il mondo.

è bellissimo .... ma se non hai un lavoro con quali soldi pensi di poterti concedere tutti i tuoi capriccetti ??

vi rendete conto che la nostra economia consumistica si basa sull'assunto che enormi masse di lavoratori percepiscono uno stipendio e lo usano per fare girare il mercato acquistando beni e servizi ???

[frankytop]

Originariamente inviato da D.O.S.

è bellissimo .... ma se non hai un lavoro con quali soldi pensi di poterti concedere tutti i tuoi capriccetti ??

vi rendete conto che la nostra economia consumistica si basa sull'assunto che enormi masse di lavoratori percepiscono uno stipendio e lo usano per fare girare il mercato acquistando beni e servizi ???

Se lavorano le macchine a che servono i soldi?Semplicemente mi sveglio alla mattina vado allo sportello bancomat più vicino e ritiro un po' di carta colorata in base a quanto ha stabilito lo stato con dei criteri da stabilire.

[D.O.S.]

Originariamente inviato da drakend

Guarda che ho capito quello che intendevi, non c'è bisogno che semplifichi...
Ad ogni modo il problema che poni tu è diverso dal riconoscimento dei diritti civili ad una personalità digitale. Per questo tipo di problema vale il solito discorso che il progresso non si può certo fermare col luddismo.

invece è la stessa cosa : concedendo uguali diritti civili alle IA riesci a preservare la struttura sociale del nostro mondo : ampli la base di lavoratori che però, dovendo anche essere pagati , devono di conseguenza spendere il loro stipendio in qualche modo ... ma se le IA non sono capaci di emozioni e non hanno piena capacità sofante , come lo usano ??? ... si comprano enormi scorte di pile per non esaurire l'energia ?

[D.O.S.]

Originariamente inviato da frankytop

Se lavorano le macchine a che servono i soldi?Semplicemente mi sveglio alla mattina vado allo sportello bancomat più vicino e ritiro un po' di carta colorata in base a quanto ha stabilito lo stato con dei criteri da stabilire.

complimenti , hai appena distrutto l'economia mondiale
in questo preciso momento il tuo IP è stato tracciato dai servizi segreti americani che ti preleveranno al più presto per regalarti una vacanza premio .

[black_wizard]

Originariamente inviato da D.O.S.

invece è la stessa cosa : concedendo uguali diritti civili alle IA riesci a preservare la struttura sociale del nostro mondo : ampli la base di lavoratori che però, dovendo anche essere pagati , devono di conseguenza spendere il loro stipendio in qualche modo ... ma se le IA non sono capaci di emozioni e non hanno piena capacità sofante , come lo usano ??? ... si comprano enormi scorte di pile per non esaurire l'energia ?

A cosa servirebbero i soldi a un robot? a mantenersi una famiglia? a comprare cibo?
Tu metteresti sullo stesso piano un uomo con una macchina il chè come concetto è un pò ridicolo.

[D.O.S.]

Originariamente inviato da black_wizard

A cosa servirebbero i soldi a un robot? a mantenersi una famiglia? a comprare cibo? .

per comprarsi parti di ricambio ?
per progettare robot più evoluti di lui ?
per creare aziende sue e assumere impiegati ?

Originariamente inviato da black_wizard

Tu metteresti sullo stesso piano un uomo con una macchina il chè come concetto è un pò ridicolo.

capisco che le questioni etiche/religiose possano influenzarvi , ma dovere anche rendervi conto, che nella nostra economia , gli schiavi possono essere un grosso problema.

temo che dovrete arrivare ad un compromesso fra etica e mercato del lavoro

[drakend]

Originariamente inviato da D.O.S.

invece è la stessa cosa : concedendo uguali diritti civili alle IA riesci a preservare la struttura sociale del nostro mondo : ampli la base di lavoratori che però, dovendo anche essere pagati , devono di conseguenza spendere il loro stipendio in qualche modo ... ma se le IA non sono capaci di emozioni e non hanno piena capacità sofante , come lo usano ??? ... si comprano enormi scorte di pile per non esaurire l'energia ?

Se dai ad una IA i diritti civili dai loro anche il diritto di farsi una famiglia e di partecipare nelle istitutizioni politiche. Quanto pensi che ci metta una IA a riprodursi innumerevoli volte, facendo impallidire anche la capacità prolifica di topi e cavallette, creando numerose generazioni artificiali nell'arco di tempo di una generazione umana? Conquisterebbero il potere in breve tempo, decretando la fine della razza umana, almeno come specie dominante. Per questo ho detto che le IA dovrebbero essere limitate a compiere solo compiti MOLTO specifici e basta. Non è una questione di osteggiare il progresso, ma proprio di sopravvivenza della nostra specie.

Originariamente inviato da D.O.S.

complimenti , hai appena distrutto l'economia mondiale
in questo preciso momento il tuo IP è stato tracciato dai servizi segreti americani che ti preleveranno al più presto per regalarti una vacanza premio .

L'economia attuale vera, non quella basata sui giochi finanziari, si basa sul lavoro umano. Se tale lavoro viene svolto dalle macchine per intero cesserebbe di esistere il lavoro umano, per cui anche l'economia mondiale attuale perderebbe di senso.