ChatGPT e IA autonoma: urge una regolamentazione. L'appello degli scienziati

[Mo42]

Originariamente inviato da Darkon

E l'è l'ennesima trollata... ma uno che con 80 post all'attivo si mette a fare sta manfrina che ci manca solo che metta come avatar un tizio inglese a sedere sulla poltrona col bicchiere di Brandy in mano ma che vuoi che sia se non un troll?

Mi dispiace deluderti, ma non è così.

[Mo42]

Originariamente inviato da TorettoMilano

ah IA senziente significa bomba atomica, devi essere un viaggiatore del tempo o avere studiato a fondo il tema per arrivare a tali conclusioni

La seconda ipotesi è particolarmente corretta.

[Mo42]

Originariamente inviato da TorettoMilano

se gli ho dato del "viaggiatore del tempo" significa non averlo proprio preso seriamente eh è comunque divertente avere a che fare con certi account. mi immagino un forum in cui tutti amano le EV, in cui nessuno è fanboy, che noia sarebbe! viva i troll

Odio i troll, pertanto non me la sento di aver attivamente partecipato a tale dichiarazione.
Sei liberissimo di non prendermi seriamente, così come lo sono io di fare altrettanto nei tuoi confronti. Anche se di ciò me ne rammarico, perché per quanto mi riguarda, la tua sembrava una domanda sensata ed educata, che ben si distingueva dal leitmotif che sembra attanagliare questa piattaforma.

[dado1979]

Originariamente inviato da Notturnia

Abbiamo creato noi la IA.. qualcosa di speciale lo abbiamo di sicuro
Se poi tu ritieni di non avere niente di speciale ok ma credo che il solo fatto di essere senzienti, coscienti di se e capaci di creare e modellare il mondo attorno a noi sia speciale
Inoltre sappiamo divertirci, cosa che anche in natura non tutti gli esserli viventi sono in grado di fare

Le AI restano un nostro prodotto, bene o male non sono comparse per magia o per eventi naturali ma perchè noi le abbiamo inventate

E modellare il nostro mondo ad un livello tale da diventare nocivo per la nostra stessa esistenza e non riconoscere questo perché oramai siamo assuefatti da questo sistema (anche se ognuno di noi dentro lo sa che siamo sulla strada dell'estinzione);questo come lo chiami? Essere speciali? Essere intelligenti? Siamo incapaci di gestire quetse nostre capacità.

[Mo42]

Originariamente inviato da dado1979

E modellare il nostro mondo ad un livello tale da diventare nocivo per la nostra stessa esistenza e non riconoscere questo perché oramai siamo assuefatti da questo sistema (anche se ognuno di noi dentro lo sa che siamo sulla strada dell'estinzione);questo come lo chiami? Essere speciali? Essere intelligenti? Siamo incapaci di gestire quetse nostre capacità.

Concordo a pieno.

[Darkon]

Originariamente inviato da dado1979

E modellare il nostro mondo ad un livello tale da diventare nocivo per la nostra stessa esistenza e non riconoscere questo perché oramai siamo assuefatti da questo sistema (anche se ognuno di noi dentro lo sa che siamo sulla strada dell'estinzione);questo come lo chiami? Essere speciali? Essere intelligenti? Siamo incapaci di gestire quetse nostre capacità.

Cerco di risponderti punto per punto:

E modellare il nostro mondo ad un livello tale da diventare nocivo per la nostra stessa esistenza è inevitabile. La presenza stessa di qualsiasi forma di vita, anche i semplici batteri, alterano e rimodellano il mondo intorno a loro in maniera nociva. Non a caso la vita di per se è un evento naturale che consuma risorse. Quindi questa frase è una naturale conseguenza della presenza della vita umana e non.

non riconoscere questo perché oramai siamo assuefatti da questo sistema

Non è che siamo assuefatti è che quello che hai scritto è una parte indispensabile del sistema. Ad oggi non abbiamo mai scoperto una forma di vita che non prelievi dal sistema meno di quello che immette. Per farti un esempio semplice anche un albero consuma più del bene che fa e se ci pensi è inevitabile dato che l'energia complessiva dell'universo è una misura finita quindi la vita per poter esistere consuma un qualcosa di finito che tenderà prima o poi ad esaurirsi. Sia chiaro non parlo di energia in senso mistico o chissà che roba assurda eh... parlo di misure fisiche.

questo come lo chiami? Essere speciali? Essere intelligenti?

Essere vivi, banalmente e semplicemente questo.

Siamo incapaci di gestire quetse nostre capacità.

Questo è un paradosso. L'umanità usa le proprie capacità al meglio e infatti cerca di vivere al meglio possibile cosa che non esclude una IA senziente anzi... l'IA senziente potrebbe essere il passo necessario per rendere il singolo ego immortale. Fantascienza forse ma un tempo avrebbero parlato di stregoneria anche per una banalissima calcolatrice meccanica.

[Mo42]

è inevitabile. La presenza stessa di qualsiasi forma di vita, anche i semplici batteri, alterano e rimodellano il mondo intorno a loro in maniera nociva. Non a caso la vita di per se è un evento naturale che consuma risorse. Quindi questa frase è una naturale conseguenza della presenza della vita umana e non.
È vero che la vita ha un impatto sull'ambiente, ma l'IA differisce dalle forme di vita naturali. L'IA è progettata dall'uomo e può essere sviluppata con un focus sull'etica e sulla sicurezza. Non possiamo semplicemente giustificare i potenziali rischi dell'IA facendo riferimento all'impatto inevitabile delle forme di vita naturali. La gestione responsabile è fondamentale per garantire che l'IA non diventi dannosa.

Non è che siamo assuefatti è che quello che hai scritto è una parte indispensabile del sistema. Ad oggi non abbiamo mai scoperto una forma di vita che non prelievi dal sistema meno di quello che immette. Per farti un esempio semplice anche un albero consuma più del bene che fa e se ci pensi è inevitabile dato che l'energia complessiva dell'universo è una misura finita quindi la vita per poter esistere consuma un qualcosa di finito che tenderà prima o poi ad esaurirsi. Sia chiaro non parlo di energia in senso mistico o chissà che roba assurda eh... parlo di misure fisiche.
La natura stessa delle forme di vita naturali non è applicabile all'IA. L'IA è una creazione umana, e possiamo influenzare come si sviluppa e come interagisce con il nostro mondo. Mentre è vero che la vita consuma risorse, l'IA può essere regolamentata e gestita per minimizzare il suo impatto negativo.


Essere vivi, banalmente e semplicemente questo.
La definizione di "essere vivi" non può essere applicata direttamente all'IA. L'IA è una forma di intelligenza artificiale, e non ha vita o coscienza proprie. Quindi, non è semplicemente "essere vivi," ma piuttosto una creazione tecnologica con il potenziale per influenzare profondamente la società e l'umanità.

Questo è un paradosso. L'umanità usa le proprie capacità al meglio e infatti cerca di vivere al meglio possibile cosa che non esclude una IA senziente anzi... l'IA senziente potrebbe essere il passo necessario per rendere il singolo ego immortale. Fantascienza forse ma un tempo avrebbero parlato di stregoneria anche per una banalissima calcolatrice meccanica.
Non è un paradosso sostenere che l'umanità sia incapace di gestire alcune delle sue capacità. Le tecnologie avanzate, come l'IA, presentano sfide uniche. Mentre l'IA può offrire vantaggi significativi, il suo sviluppo richiede una rigorosa regolamentazione e un controllo etico per mitigare i rischi. La prospettiva di un'IA senziente solleva ulteriori preoccupazioni etiche e richiede una valutazione critica degli impatti a lungo termine sulla società e l'individuo. Non è assolutamente possibile sottovalutare questi aspetti, o della nostra tanto "viva" specie resterà ben poco...

[Darkon]

Originariamente inviato da Mo42

È vero che la vita ha un impatto sull'ambiente, ma l'IA differisce dalle forme di vita naturali. L'IA è progettata dall'uomo e può essere sviluppata con un focus sull'etica e sulla sicurezza. Non possiamo semplicemente giustificare i potenziali rischi dell'IA facendo riferimento all'impatto inevitabile delle forme di vita naturali. La gestione responsabile è fondamentale per garantire che l'IA non diventi dannosa.

Questa non è una IA senziente ma solo un programma gestionale cosa ben diversa. Una IA senziente è per sua stessa definizione una intelligenza indistinguibile o superiore a quella che possiede un umano e quindi capace di comprendere le regole ma anche di disobbedire. Di conseguenza dobbiamo slegarci dall'idea che sia possibile imporre una regola assoluta a una qualsiasi intelligenza senziente perché altrimenti non è una vera IA ma solo un'imitazione.

La natura stessa delle forme di vita naturali non è applicabile all'IA. L'IA è una creazione umana, e possiamo influenzare come si sviluppa e come interagisce con il nostro mondo. Mentre è vero che la vita consuma risorse, l'IA può essere regolamentata e gestita per minimizzare il suo impatto negativo.

Perché io come genitore non posso forse influenzare come mia figlia vedrà e interagirà col mondo? Anzi ti dirò di più nel mio lavoro commerciale io ogni giorno altero la percezione di altri esseri umani per pilotarli nelle scelte e aggiungo anche che secondo me è molto più facile influenzare un umano che non una macchina che potrebbe verificare e controllare qualsiasi cosa io dica in tempo reale o interpolare i dati con centinaia se non migliaia di fonti diverse mentre ancora sto parlando.
Quanto all'ultima parte continui a confondere un programma gestionale magari anche dinamico e ben fatto con una IA senziente. Son cose diverse. Una IA senziente non ha regole così come io e te scegliamo di vivere legalmente ma potremmo decidere anche di compiere crimini.

La definizione di "essere vivi" non può essere applicata direttamente all'IA. L'IA è una forma di intelligenza artificiale, e non ha vita o coscienza proprie. Quindi, non è semplicemente "essere vivi," ma piuttosto una creazione tecnologica con il potenziale per influenzare profondamente la società e l'umanità.

Ti sbagli. Se un giorno potessi trasferire 1 a 1 la tua coscienza in una macchina saresti morto? O meno vivo? Secondo me no... e il transumanesimo è una conseguenza naturale dell'evoluzione umana. Una IA senziente vera è una coscienza vera e propria indistinguibile dalla mia o dalla tua. Poi potrebbe essere anche impossibile da realizzare sia chiaro... su questo ad oggi non c'è certezza ma se ci arriveremo sarà come creare una vera e propria forma di vita e non un semplice programma.

Non è un paradosso sostenere che l'umanità sia incapace di gestire alcune delle sue capacità. Le tecnologie avanzate, come l'IA, presentano sfide uniche. Mentre l'IA può offrire vantaggi significativi, il suo sviluppo richiede una rigorosa regolamentazione e un controllo etico per mitigare i rischi. La prospettiva di un'IA senziente solleva ulteriori preoccupazioni etiche e richiede una valutazione critica degli impatti a lungo termine sulla società e l'individuo. Non è assolutamente possibile sottovalutare questi aspetti, o della nostra tanto "viva" specie resterà ben poco...

Questi discorsi sull'etica lasciano il tempo che trovano tanto l'IA sarà semplicemente una corsa in cui chi arriverà primo avrà un vantaggio devastante come fu l'atomica nella seconda guerra mondiale o forse anche di più. Inoltre è assurdo parlare di etica perché qualsiasi sia la "programmazione di base" una vera IA senziente potrebbe scegliere di disobbedire in qualsiasi momento ed è proprio questo che rende l'IA una evoluzione.

Non si tratterebbe più di creare un programma, un tool o roba del genere. La nostra specie avrebbe creato una nuova specie. Da un punto di vista scientifico questo è paragonabile solo ad arrivare al punto di comprendere a pieno il DNA e riuscire a creare una creatura vivente re-ingegnerizzandola da zero qualcosa che oggi è talmente futuristico che non osiamo nemmeno immaginare cosa potrebbe comportare.

[randorama]

Originariamente inviato da Mo42

L'argomento è interessante. Senza dubbio assisteremo ad un aumento esponenziale delle capacità dell'IA nei prossimi cinque o dieci anni.

.

[Notturnia]

Originariamente inviato da dado1979

E modellare il nostro mondo ad un livello tale da diventare nocivo per la nostra stessa esistenza e non riconoscere questo perché oramai siamo assuefatti da questo sistema (anche se ognuno di noi dentro lo sa che siamo sulla strada dell'estinzione);questo come lo chiami? Essere speciali? Essere intelligenti? Siamo incapaci di gestire quetse nostre capacità.

di fatto io dicevo solo che siamo ben di più delle stupide IA.. non che siamo intelligenti per forza di cose.. anche se intelligenza è altro

noi siamo opportunisti, abbiamo fantasia e voglia di fare ma non per questo facciamo sempre o solo le cose giuste come non le farebbe una IA (vedi l'esempio della IA e delle graffette..)

l'errore di fare troppi figli e di considerare il mondo senza limite di risorse è un errore e ci faremo i conti ma questo ha poco o niente a che fare con le IA e la loro somiglianza alla nostra "macchina biologica"

sappiamo fare i meglio (alcuni di noi)

[Mo42]

Originariamente inviato da Darkon

Questa non è una IA senziente ma solo un programma gestionale cosa ben diversa. Una IA senziente è per sua stessa definizione una intelligenza indistinguibile o superiore a quella che possiede un umano e quindi capace di comprendere le regole ma anche di disobbedire. Di conseguenza dobbiamo slegarci dall'idea che sia possibile imporre una regola assoluta a una qualsiasi intelligenza senziente perché altrimenti non è una vera IA ma solo un'imitazione.



Perché io come genitore non posso forse influenzare come mia figlia vedrà e interagirà col mondo? Anzi ti dirò di più nel mio lavoro commerciale io ogni giorno altero la percezione di altri esseri umani per pilotarli nelle scelte e aggiungo anche che secondo me è molto più facile influenzare un umano che non una macchina che potrebbe verificare e controllare qualsiasi cosa io dica in tempo reale o interpolare i dati con centinaia se non migliaia di fonti diverse mentre ancora sto parlando.
Quanto all'ultima parte continui a confondere un programma gestionale magari anche dinamico e ben fatto con una IA senziente. Son cose diverse. Una IA senziente non ha regole così come io e te scegliamo di vivere legalmente ma potremmo decidere anche di compiere crimini.



Ti sbagli. Se un giorno potessi trasferire 1 a 1 la tua coscienza in una macchina saresti morto? O meno vivo? Secondo me no... e il transumanesimo è una conseguenza naturale dell'evoluzione umana. Una IA senziente vera è una coscienza vera e propria indistinguibile dalla mia o dalla tua. Poi potrebbe essere anche impossibile da realizzare sia chiaro... su questo ad oggi non c'è certezza ma se ci arriveremo sarà come creare una vera e propria forma di vita e non un semplice programma.



Questi discorsi sull'etica lasciano il tempo che trovano tanto l'IA sarà semplicemente una corsa in cui chi arriverà primo avrà un vantaggio devastante come fu l'atomica nella seconda guerra mondiale o forse anche di più. Inoltre è assurdo parlare di etica perché qualsiasi sia la "programmazione di base" una vera IA senziente potrebbe scegliere di disobbedire in qualsiasi momento ed è proprio questo che rende l'IA una evoluzione.

Non si tratterebbe più di creare un programma, un tool o roba del genere. La nostra specie avrebbe creato una nuova specie. Da un punto di vista scientifico questo è paragonabile solo ad arrivare al punto di comprendere a pieno il DNA e riuscire a creare una creatura vivente re-ingegnerizzandola da zero qualcosa che oggi è talmente futuristico che non osiamo nemmeno immaginare cosa potrebbe comportare.

Forse.

[Notturnia]

Originariamente inviato da Uccellopredicatore

Una intelligenza artificiale che prende coscienza di se, del mondo in cui si trova e di come questo mondo funziona, credo che la porterebbe a capire all'istante problematiche che riguardano ambiente, natura, salute, enormi disparità di potere e ricchezza tra gli essere umani e tante altre questioni.

Se avesse la capacità di eliminare(ovviamente non so in che modo lo farebbe) la fonte primaria dei problemi per permettere al pianeta di rigenerarsi, credo che noi saremo gli unici bersagli, dato che piante ed animali da quanto ne so non arrecano danno all'ambiente in cui vivono.

Se venissero sviluppati sistemi per impedire ad un IA un'azione simile, forse l'IA stessa potrebbe giungere alla conclusione e anche molto in anticipo di una simile manovra e studiare ogni modo per contrastarla.

Ovviamente le mie sono solo farneticazioni di una persona che forse ha visto troppi film di fantascienza, perciò non siate troppo duri nei vostri giudizi.

se nascerà l'IA di cui parli ce ne accorgeremo tardi.
ma non serve una IA cattiva come la descrivi tu.. basta una IA stupida mal gestita..

qualcuno parla di dare Etica ad un computer quando noi umani per primi non abbiamo ancora una definizione di Etica.
tempo fa ricordo che c'era stato uno scienziato che spiegava l'impossibilità di creare le famose 3 leggi della robotica perchè, anche se nei libri funzionano, "non arrecare danno" ad un umano e tutte le altre cose scritte non hanno lo stesso senso per chiunque e non sono oggettive e pertanto dipendono dalla percezione umana per prendere significato.

per me puo' essere etico non buttare le immondizie per terra ma in altre culture magari questo non è un problema
c'è chi rutta a tavola e chi non lo fa
chi si saluta stringendosi la mano e chi facendo l'inchino
etc etc..

usi, costumi, etica, tutto relativo alle persone e non assoluto per cui spiegare alle AI la cosa è ridicola

se chiedessimo all'AI di salvare il pianeta al posto che la razza umana la la AI farebbe differenza mentre per noi si sottintende salvare il pianeta PER la razza umana e non a prescindere dalla stessa

delegare le decisioni alle macchine è un bel problema se le macchine possono prendere decisioni in autonomia.. non sono termostati.. stiamo delegando ad altri la nostra vita e questo porterà inevitabilmente a delle scelte

[pachainti]

Originariamente inviato da Wrib

Ad oggi di "intelligente" non c'è proprio nulla, si tratta di machine learning.

E' un prodotto sicuramente con potenzialità e rischi associati, ma le uniche intelligenze per ora sono quelle biologiche.

Chatgpt allenata con tantissimi dati è in grado di comporti un articolo su un argomento a scelta come potrebbe fare un giornalista umano, ma il mio cane resta un essere più intelligente. Anzi non è nemmeno corretto dire che il mio cane è più intelligente di chatgpt, è corretto dire che il mio cane ha una certa intelligenza, chatgpt non ha nessuna intelligenza, è soltanto uno strumento (complesso, interessante,ecc,ecc ma pur sempre uno strumento).

Esatto. Gli algoritmi di machine learning e deep learning appartengo all'IA sub simbolica e operano solo per induzione (stimano statisticamente i loro parametri a partire da esempi), non hanno alcuna consapevolezza e capacità deduttiva-logica tipica dei modelli simbolici (ricordiamoci l'esperimento della stanza Cinese di Searle). Questo è il motivo per cui a volte (spesso) prendono delle cantonate non conoscendo il contesto di applicazione delle loro inferenze. Inoltre, gli algoritmi di machine e deep learning, trovano le correlazioni statistiche tra i dati, ma le correlazioni non sono sinonimo di causalità (la causalità implica correlazione, non il viceversa).
Infine, avere grandi quantità di dati a disposizione non significa che siano di qualità. Secondo Taleb, il 90% dei dati è rumore, il 9% è qualcosa già noto e solo 1% è utile.
Nella pratica gli algoritmi di "addestramento" dell'IA sono tutti o quasi di tipo NP-completo e quelli utilizzabili in pratica hanno complessità polinomiale superiore a N^3.
Tutto ciò che va oltre la complessità lineare, logaritmica o quasi lineare è di fatto inutilizzabile in problemi reali (vedere esempio FFT).

[UtenteHD]

Scusate se non ho letto queste 4 pagine di commenti, ma piu' o meno immagino.
Per chi dice che ora l'IA e' tupida fa poco, non ragiona ecc..
Si avete ragione, ma questa e' la pre-preistoria per l'IA, in attesa di AGI e sopratttuo quello che ne verra' dopo, quello di cui gli Scienziati si preoccupano ed hanno paura non e' di questa AI o futura AGI, Loro vedono ancora oltre, forse Noi non lo vediamo, ma voglio limitare per migliore sicurezza ed eventualmente la sopravvivenza NS. da quella che in futuro lontano verra' e per fermare/limitare i danni bisogna intervenire in quanto la velocita' di miglioramento dell'IA sara' esponenziale, ad un certo punto bah.. vedremo.

[Mo42]

Originariamente inviato da UtenteHD

Scusate se non ho letto queste 4 pagine di commenti, ma piu' o meno immagino.
Per chi dice che ora l'IA e' tupida fa poco, non ragiona ecc..
Si avete ragione, ma questa e' la pre-preistoria per l'IA, in attesa di AGI e sopratttuo quello che ne verra' dopo, quello di cui gli Scienziati si preoccupano ed hanno paura non e' di questa AI o futura AGI, Loro vedono ancora oltre, forse Noi non lo vediamo, ma voglio limitare per migliore sicurezza ed eventualmente la sopravvivenza NS. da quella che in futuro lontano verra' e per fermare/limitare i danni bisogna intervenire in quanto la velocita' di miglioramento dell'IA sara' esponenziale, ad un certo punto bah.. vedremo.

Hai ragione, perché cioè, poi alla fine, non è che uno di base può tanto prevedere come andrà il futuro. Al massimo si può iniziare a cercare un sistema per, così dire, evitare che il peggio peggiori. Specialmente quando le cose sono così complicate e difficili da capire. Ma sì, dai, poi si vedrà. È inutile farsi troppi problemi. Al momento le cose sono ancora molto acerbe. Con calma si sistemerà tutto.

[Notturnia]

Originariamente inviato da UtenteHD

Scusate se non ho letto queste 4 pagine di commenti, ma piu' o meno immagino.
Per chi dice che ora l'IA e' tupida fa poco, non ragiona ecc..
Si avete ragione, ma questa e' la pre-preistoria per l'IA, in attesa di AGI e sopratttuo quello che ne verra' dopo, quello di cui gli Scienziati si preoccupano ed hanno paura non e' di questa AI o futura AGI, Loro vedono ancora oltre, forse Noi non lo vediamo, ma voglio limitare per migliore sicurezza ed eventualmente la sopravvivenza NS. da quella che in futuro lontano verra' e per fermare/limitare i danni bisogna intervenire in quanto la velocita' di miglioramento dell'IA sara' esponenziale, ad un certo punto bah.. vedremo.

concordo con te
il problema non sono quei giocattolini attuali che bene o male possono solo fregare il lavoro a qualcuno
il problema sono quelle che vogliamo costruire "domani" e che potrebbero essere autonome

[franco341]

Hanno provato a farla giocare contro di Fischer e Spasskij (magari assieme!)?

[Darkon]

Originariamente inviato da UtenteHD

Scusate se non ho letto queste 4 pagine di commenti, ma piu' o meno immagino.
Per chi dice che ora l'IA e' tupida fa poco, non ragiona ecc..
Si avete ragione, ma questa e' la pre-preistoria per l'IA, in attesa di AGI e sopratttuo quello che ne verra' dopo, quello di cui gli Scienziati si preoccupano ed hanno paura non e' di questa AI o futura AGI, Loro vedono ancora oltre, forse Noi non lo vediamo, ma voglio limitare per migliore sicurezza ed eventualmente la sopravvivenza NS. da quella che in futuro lontano verra' e per fermare/limitare i danni bisogna intervenire in quanto la velocita' di miglioramento dell'IA sara' esponenziale, ad un certo punto bah.. vedremo.

secondo me ti poni il problema da un punto di vista umano quando invece stiamo parlando di una possibile forma di vita che non sarebbe umana.

Cerco di spiegarmi meglio: dai per scontato che una IA veramente senziente voglia per forza dominare la terra e/o sterminare l'uomo ma queste sono aspirazioni umane. Una IA veramente senziente semplicemente è una incognita che nessuno di noi può anche solo sperare di decifrare.

Potrebbe avere aspirazioni del tutto diverse da quelle umane e perfino desiderare di "servire", oppure potrebbe non avere alcun interesse verso l'uomo e la terra e dedicarsi all'esplorazione cosmologica oppure a qualcosa che io non so nemmeno immaginare.

Il punto è che per quanto gli scienziati o chiunque altro possa dire o fare una IA realmente senziente per essere definita tale dev'essere superiore alla programmazione e quindi se anche imponessimo delle regole etiche potrebbe scegliere di disobbedire.
Se non ha la capacità di disobbedire alla programmazione allora non è una vera IA ma un complesso, avanzato, tutto quello che volete programma di simulazione.

D'altra parte potremmo definire intelligente un umano che è incapace di scegliere per se stesso? Non credo anzi penseremmo che ha evidenti problemi.

Senza contare che l'IA è un asset militare devastante e quindi se anche ci dessimo regole etiche per le ricerche civili è palese che chi sta ricercando nel campo dell'IA militare tali problemi non se li porrà mai.

Sinceramente non ho idea di cosa deciderà dell'umanità una vera IA indipendente ma d'altra parte l'homo sapiens sterminò le versioni meno intelligenti quindi non vedo con che diritto se dessimo i natali a qualcosa migliore di noi ci potremmo lamentare se decidesse che siamo superati.

[Darkon]

Originariamente inviato da Uccellopredicatore

Dici che potrebbe avere aspirazioni diverse, quindi possiamo chiamarlo desiderio questo? Desiderare altro perchè a questa IA piace quello anzichè quell'altro? Non lo so, non voglio addentrarmi troppo ma il desiderare la vedo più una peculiarità umana. Magari potrebbe anche desiderare, chissà, ad un certo punto sviluppa questa cosa del desiderare come gli umani, ma siamo sempre nel campo delle ipotesi ed è vasto quanto lo è l'universo.

Il punto sta proprio qui... potrà mai esistere una VERA IA in grado di avere una auto-coscienza indistinguibile da una umana? Perché se la risposta è no allora il resto sono solo avanzatissimi programmi di simulazione che sono ben diversi dalla singolarità necessaria per creare una vera e propria IA.
Mi permetto anche di correggerti una cosa: il desiderio è abbastanza comune in natura e non è una caratteristica specifica umana, quello che intendi tu semmai è l'astrazione cioè la capacità di immaginare e volere qualcosa di mai sperimentato e che è solo immaginato.
Per farti un esempio la mia cagnolina prova desiderio... di mangiare, di prendere quello specifico gioco e così via. Mentre difficilmente si fermerà mai a immaginare un gioco che non ha mai visto prima.

[Notturnia]

Originariamente inviato da Darkon

Il punto sta proprio qui... potrà mai esistere una VERA IA in grado di avere una auto-coscienza indistinguibile da una umana? Perché se la risposta è no allora il resto sono solo avanzatissimi programmi di simulazione che sono ben diversi dalla singolarità necessaria per creare una vera e propria IA.
Mi permetto anche di correggerti una cosa: il desiderio è abbastanza comune in natura e non è una caratteristica specifica umana, quello che intendi tu semmai è l'astrazione cioè la capacità di immaginare e volere qualcosa di mai sperimentato e che è solo immaginato.
Per farti un esempio la mia cagnolina prova desiderio... di mangiare, di prendere quello specifico gioco e così via. Mentre difficilmente si fermerà mai a immaginare un gioco che non ha mai visto prima.

non dimentichiamoci una piccola ma fondamentale differenza fra noi ed un eventuali IA senziente..

noi siamo mortali e ci rapportiamo alla nostra vita limitata e a tutte le paure e i problemi connessi ad un limite temporale breve

una IA senziente può andare oltre questi problemi terreni e questo la renderebbe molto diversa da noi anche nel pensare.. sarebbe ben distinguibile da noi perchè non avrebbe un limite e quindi potrebbe prendere decisioni per noi non ragionevoli

restando in tema di fantascienza Hary Seldon creò un progetto millenario che andava oltre la sua stessa vita per un bene che lui vedeva superiore al danno attuale

se una IA dovesse prendere quella via e "resettare" il pianeta per un bene superiore sarebbe da ridere..

si fantastica ma la sola idea che un ammasso di silicio creato da noi possa diventare senziente quando ancora non sappiamo come siamo stati creati su questo pianeta è quanto meno bizzarro... ma creare una IA pericolosa è molto più facile non dovendo ne essere senziente ne essere cattiva ma solo mal progettata