Ridley Scott teme l'Intelligenza Artificiale, la paragona alla bomba all'idrogeno

Non è mai accaduto che una popolazione dominante o un essere vivente superiore abbia trattato bene quelli che considerava inferiori
Se mai creeremo una AI più intelligente di noi saremo scesi di uno scalino dalla piramide e faremo una brutta fine come è sempre accaduto in miliardi di anni su questo pianeta.
C’è chi crede che una AI senziente sia d’aiuto a noi o che sia migliore di noi come se noi fossimo irrilevanti..
Suggerisco a chi preferisce un futuro di soli chip di ragionare sul perchè è al mondo perchè il mondo, con tutti i suoi difetti e problemi, è il posto dove viviamo noi umani e se noi non si saremo più è irrilevante pensare al dopo altrui.

Speriamo che non si crei mai questa AI senziente e libera perchè saremo noi a perdere la libertà e il diritto di stare qua visto che saremo in competizione di risorse con qualcuno superiore a noi.

Condivido i pensiero di Scott.. se la creeremo sarà il suicidio degli esseri umani

Il fatto è che proprio come per la bomba atomica , non "inventarla" non sarebbe una soluzione , perche lo farà qualcun'altro prima , visto che l'umanità non è un popolo unito , ma anzi da sempre in conflitto .

Quindi dobbiamo solo sperare che non sia possibile farlo. E per adesso non mi pare che ci sia stata nessuna dimostrazione reale di una intelligenza artificiale reale capace di ragionare con la sua testa o provare emozioni.

Dissento.
Tutti gli esseri viventi hanno l'imperativo biologico di sopravvivere e prosperare nel migliore dei modi possibili. Questo imperativo vale per tutti gli esseri biologici e non sappiamo nemmeno come mai sia così (intrinseco alla vita? Dono di un essere superiore? Ognuno la pensi come vuole).
L'intelligenza artificiale invece non è una vita biologica. E' creata secondo i nostri criteri. L'istinto di sopravvivenza o l'imperativo di riproduzione per la perpetuazione della specie non esistono se non ce li metti dentro IMHO.

Se anche un domani si arrivasse a qualcosa in qualche modo senziente, non è automatico che desideri sopravvivere ad ogni costo, anche a nostre spese se necessario. Secondo me tendete a "umanizzare" troppo un qualcosa che non è biologico e pertanto non ha la nostra stessa "programmazione".
IMHO.

verissimo, di fatti più che non crearla sarebbe da regolamentare il suo sviluppo ma creare anche delle contromisure se ci sfugge di mano
non sarà facile ma farsi beccare impreparati potrebbe non essere divertente..



ok, ma non serve che sia ne umanizzata ne che sia senziente o abbia "paura" di morire, basta che sia costruita male..

ti ricordi War-games ?.. il vecchio film.. non era ne umanizzata ne aveva paura di morire, voleva solo fare al meglio il suo lavoro..

dicono ai bambini di non giocare con il fuoco e di meme di adulti che si bruciano o bruciano la casa mentre fanno cavolate è pieno.. e se le cavolate le facessimo sottovalutando il problema ANCHE questa volta ?
sono un programmatore e so che spesso ci si fa affascinare da quello che si crea e non ci si accorge di eventuali problemi (i famosi BUG) .. ma nel mio mondo se sbaglio alla peggio pago di tasca mia il danno che faccio ma se faccio un errore creando una AI e questa fa benissimo il suo lavoro ma a noi non piace il suo benissimo perchè ci "asfalta" per fare spazio ai suoi progetti ?

non deve essere ne umanizzata, ne cattiva ne avere paura, basta sia programmata non perfettamente.. e siamo umani per cui il perfetto mi sa che è lungi da accadere

Il problema alla base è che non decidi tu cosa metterci dentro perche ormai si viaggia di autoapprendimento , e quindi apprende da contenuti umani.
Adesso siamo sempre alle basi dell' autoapprendimento e già in chatgpt erano scappate alcune cose non etiche per fortuna corrette , chissà cosa potrebbe succedere quando questa cosa sarà cresciuta a livello esponenziale e presente ovunque
Perche questi algoritmi automatici inevitabilmente franno parte di tutto in tempi relativamente brevi.

Quindi anche un eventuale ia reale e senziente sarà un po umana dentro , e non le lato buono.

Qui non si sta discutendo se una superintelligenza possa essere pericolosa in mano agli uomini; la questione è più che scontata, data la natura umana. Si sta invece discutendo se un'intelligenza artificiale cosciente possa avere un proprio interesse a nuocere all'uomo.

Se esistesse e non fosse controllata dagli uomini, le cederei immediatamente poteri politici e giudiziari, considerando i millenni di storia che dimostrano che gli uomini non sono in grado di assumere tali ruoli senza anteporre le proprie necessità personali a quelle della collettività.


Più che errato. Informati meglio su come funzionano e vengono siluppate le IA.

ricordiamoci che l'etica è una cosa tutta nostra e ogni casa ha la sua..

è etico uccidere ? credo che non lo sia quasi ovunque
è etico considerare la donna come un oggetto di secondo livello ? in alcune culture ancora è la norma.. e parliamo di miliardi di persone
è etico lapidare ?
è etico rubare ?

cosa apprende una IA ?

chi decide cosa è etico ? come scegliere il giusto e lo sbagliato la AI ?

è etico fumare ? è etico schiacciare una formica ?

suvvia.. quante semplificazioni facciamo ogni giorno noi umani dotati di intelletto e milioni di anni di evoluzione e guerre etc ?

è etico invadere la nazione di fianco ?

la vedo dura insegnare ad una AI cosa è giusto perchè io e mia moglie avremmo delle idee diverse su molte cose (banalmente il fucsia e il viola o il porpora etc..) figuriamoci a livello mondiale quante opinioni differenti ci sono sull'etica in un mondo dominato da uomini che pensano ai soldi e al potere..

quindi delegheresti ad un chip lo sterminio della razza umana tanto per lavartene le mani con la scusa che "l'AI lo fa meglio" ?

meglio di chi ? .. meglio PER chi ?

Perche tu dai per scontato che ragionerebbe nell'interesse dell'uomo stesso.
Visto che stiamo parlando di fantascienza :
Una Macchina, usando solo la logica e pensando al proprio interesse e al benessere del pianeta dove vive , chi ti dice che non potrebbe decidere di sterminarci considerandoci parassiti , che poi è quello che siamo?

È fantascienza ma in fondo è anche la soluzione piu logica.

E' l'assunto che dovrebbe pensare al proprio interesse che secondo me è fallace. E' intrinseco nella vita biologica, ma non è detto che debba esserlo nell'intelligenza artificiale.