Ridley Scott teme l'Intelligenza Artificiale, la paragona alla bomba all'idrogeno

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/ri...no_122159.html

Nei suoi film il regista Ridley Scott ha dipinto l'intelligenza artificiale come pericolosa per l'uomo, un nemico più che un alleato. I primi vagiti reali dell'IA, quelli che stiamo vedendo oggi con ChatGPT e simili, non lo lasciano per nulla tranquillo, tanto da fare un infausto paragone.

Click sul link per visualizzare la notizia.

[lucasantu]

Terminator insegna

[ilariovs]

Tutto sta paura dell'IA... sono millenni che comandano gli esseri umani, chissà che alla fine non vada meglio coi chip.

[fraussantin]

Beh se l' autoapprendimento viene applicato a strategie belliche, direi che non ha torto.


E l'america e la cina mi pare stiano investendo in questo senso molte risorse.

Riguardo invece alla capacità di pensare e rivoltarsi , questa per il momento è fantascenza

[supertigrotto]

Non è che l'intelligenza naturale stia facendo di meglio direi.....

[29Leonardo]

futuro migliore, si come no...

[fukka75]

Vabbè Ridley, nun ce pensa', al massimo ci fai un film, l'ultimo dei tanti, più o meno riusciti, sull'argomento

[DrSto|to]

Non capisco perché si crede che un IA elettronica debba sviluppare ed essere guidata dagli stessi desideri di noi animali quando le problematiche esistenziali sarebbero totalmente differenti.

[fraussantin]

Originariamente inviato da DrSto|to

Non capisco perché si crede che un IA elettronica debba sviluppare ed essere guidata dagli stessi desideri di noi animali quando le problematiche esistenziali sarebbero totalmente differenti.

Tralasciando il fatto che al momento non puo essere senziente , e non si sa se lo sarà mai , se mai lo dovesse diventare , avendo appreso dalle nostre idee , informazioni e modi di vivere è inevitabile che ragioni come noi e che abbia come scopo diffondersi e avere il controllo sul resto del mondo proprio come noi.

[29Leonardo]

Originariamente inviato da DrSto|to

Non capisco perché si crede che un IA elettronica debba sviluppare ed essere guidata dagli stessi desideri di noi animali quando le problematiche esistenziali sarebbero totalmente differenti.

Perchè intanto sarebbe creata dagli "animali" ed è molto probabile se non certo che tali "animali" possano usare questo strumento per soddisfare i loro instinti piu pericolosi piu che un nobile ideale.

Tu credi realmente che servirebbe un IA per risolvere i problemi del mondo?

[Notturnia]

Non è mai accaduto che una popolazione dominante o un essere vivente superiore abbia trattato bene quelli che considerava inferiori
Se mai creeremo una AI più intelligente di noi saremo scesi di uno scalino dalla piramide e faremo una brutta fine come è sempre accaduto in miliardi di anni su questo pianeta.
C’è chi crede che una AI senziente sia d’aiuto a noi o che sia migliore di noi come se noi fossimo irrilevanti..
Suggerisco a chi preferisce un futuro di soli chip di ragionare sul perchè è al mondo perchè il mondo, con tutti i suoi difetti e problemi, è il posto dove viviamo noi umani e se noi non si saremo più è irrilevante pensare al dopo altrui.

Speriamo che non si crei mai questa AI senziente e libera perchè saremo noi a perdere la libertà e il diritto di stare qua visto che saremo in competizione di risorse con qualcuno superiore a noi.

Condivido i pensiero di Scott.. se la creeremo sarà il suicidio degli esseri umani

[fraussantin]

Originariamente inviato da Notturnia

Non è mai accaduto che una popolazione dominante o un essere vivente superiore abbia trattato bene quelli che considerava inferiori
Se mai creeremo una AI più intelligente di noi saremo scesi di uno scalino dalla piramide e faremo una brutta fine come è sempre accaduto in miliardi di anni su questo pianeta.
C’è chi crede che una AI senziente sia d’aiuto a noi o che sia migliore di noi come se noi fossimo irrilevanti..
Suggerisco a chi preferisce un futuro di soli chip di ragionare sul perchè è al mondo perchè il mondo, con tutti i suoi difetti e problemi, è il posto dove viviamo noi umani e se noi non si saremo più è irrilevante pensare al dopo altrui.

Speriamo che non si crei mai questa AI senziente e libera perchè saremo noi a perdere la libertà e il diritto di stare qua visto che saremo in competizione di risorse con qualcuno superiore a noi.

Condivido i pensiero di Scott.. se la creeremo sarà il suicidio degli esseri umani

Il fatto è che proprio come per la bomba atomica , non "inventarla" non sarebbe una soluzione , perche lo farà qualcun'altro prima , visto che l'umanità non è un popolo unito , ma anzi da sempre in conflitto .

Quindi dobbiamo solo sperare che non sia possibile farlo. E per adesso non mi pare che ci sia stata nessuna dimostrazione reale di una intelligenza artificiale reale capace di ragionare con la sua testa o provare emozioni.

[MorgaNet]

Originariamente inviato da Notturnia

Non è mai accaduto che una popolazione dominante o un essere vivente superiore abbia trattato bene quelli che considerava inferiori
Se mai creeremo una AI più intelligente di noi saremo scesi di uno scalino dalla piramide e faremo una brutta fine come è sempre accaduto in miliardi di anni su questo pianeta.
C’è chi crede che una AI senziente sia d’aiuto a noi o che sia migliore di noi come se noi fossimo irrilevanti..
Suggerisco a chi preferisce un futuro di soli chip di ragionare sul perchè è al mondo perchè il mondo, con tutti i suoi difetti e problemi, è il posto dove viviamo noi umani e se noi non si saremo più è irrilevante pensare al dopo altrui.

Speriamo che non si crei mai questa AI senziente e libera perchè saremo noi a perdere la libertà e il diritto di stare qua visto che saremo in competizione di risorse con qualcuno superiore a noi.

Condivido i pensiero di Scott.. se la creeremo sarà il suicidio degli esseri umani

Dissento.
Tutti gli esseri viventi hanno l'imperativo biologico di sopravvivere e prosperare nel migliore dei modi possibili. Questo imperativo vale per tutti gli esseri biologici e non sappiamo nemmeno come mai sia così (intrinseco alla vita? Dono di un essere superiore? Ognuno la pensi come vuole).
L'intelligenza artificiale invece non è una vita biologica. E' creata secondo i nostri criteri. L'istinto di sopravvivenza o l'imperativo di riproduzione per la perpetuazione della specie non esistono se non ce li metti dentro IMHO.

Se anche un domani si arrivasse a qualcosa in qualche modo senziente, non è automatico che desideri sopravvivere ad ogni costo, anche a nostre spese se necessario. Secondo me tendete a "umanizzare" troppo un qualcosa che non è biologico e pertanto non ha la nostra stessa "programmazione".
IMHO.

[Notturnia]

Originariamente inviato da fraussantin

Il fatto è che proprio come per la bomba atomica , non "inventarla" non sarebbe una soluzione , perche lo farà qualcun'altro prima , visto che l'umanità non è un popolo unito , ma anzi da sempre in conflitto .

Quindi dobbiamo solo sperare che non sia possibile farlo. E per adesso non mi pare che ci sia stata nessuna dimostrazione reale di una intelligenza artificiale reale capace di ragionare con la sua testa o provare emozioni.

verissimo, di fatti più che non crearla sarebbe da regolamentare il suo sviluppo ma creare anche delle contromisure se ci sfugge di mano
non sarà facile ma farsi beccare impreparati potrebbe non essere divertente..

Originariamente inviato da MorgaNet

Dissento.
Tutti gli esseri viventi hanno l'imperativo biologico di sopravvivere e prosperare nel migliore dei modi possibili. Questo imperativo vale per tutti gli esseri biologici e non sappiamo nemmeno come mai sia così (intrinseco alla vita? Dono di un essere superiore? Ognuno la pensi come vuole).
L'intelligenza artificiale invece non è una vita biologica. E' creata secondo i nostri criteri. L'istinto di sopravvivenza o l'imperativo di riproduzione per la perpetuazione della specie non esistono se non ce li metti dentro IMHO.

Se anche un domani si arrivasse a qualcosa in qualche modo senziente, non è automatico che desideri sopravvivere ad ogni costo, anche a nostre spese se necessario. Secondo me tendete a "umanizzare" troppo un qualcosa che non è biologico e pertanto non ha la nostra stessa "programmazione".
IMHO.

ok, ma non serve che sia ne umanizzata ne che sia senziente o abbia "paura" di morire, basta che sia costruita male..

ti ricordi War-games ?.. il vecchio film.. non era ne umanizzata ne aveva paura di morire, voleva solo fare al meglio il suo lavoro..

dicono ai bambini di non giocare con il fuoco e di meme di adulti che si bruciano o bruciano la casa mentre fanno cavolate è pieno.. e se le cavolate le facessimo sottovalutando il problema ANCHE questa volta ?
sono un programmatore e so che spesso ci si fa affascinare da quello che si crea e non ci si accorge di eventuali problemi (i famosi BUG) .. ma nel mio mondo se sbaglio alla peggio pago di tasca mia il danno che faccio ma se faccio un errore creando una AI e questa fa benissimo il suo lavoro ma a noi non piace il suo benissimo perchè ci "asfalta" per fare spazio ai suoi progetti ?

non deve essere ne umanizzata, ne cattiva ne avere paura, basta sia programmata non perfettamente.. e siamo umani per cui il perfetto mi sa che è lungi da accadere

[fraussantin]

Originariamente inviato da MorgaNet

Dissento.
Tutti gli esseri viventi hanno l'imperativo biologico di sopravvivere e prosperare nel migliore dei modi possibili. Questo imperativo vale per tutti gli esseri biologici e non sappiamo nemmeno come mai sia così (intrinseco alla vita? Dono di un essere superiore? Ognuno la pensi come vuole).
L'intelligenza artificiale invece non è una vita biologica. E' creata secondo i nostri criteri. L'istinto di sopravvivenza o l'imperativo di riproduzione per la perpetuazione della specie non esistono se non ce li metti dentro IMHO.

Se anche un domani si arrivasse a qualcosa in qualche modo senziente, non è automatico che desideri sopravvivere ad ogni costo, anche a nostre spese se necessario. Secondo me tendete a "umanizzare" troppo un qualcosa che non è biologico e pertanto non ha la nostra stessa "programmazione".
IMHO.

Il problema alla base è che non decidi tu cosa metterci dentro perche ormai si viaggia di autoapprendimento , e quindi apprende da contenuti umani.
Adesso siamo sempre alle basi dell' autoapprendimento e già in chatgpt erano scappate alcune cose non etiche per fortuna corrette , chissà cosa potrebbe succedere quando questa cosa sarà cresciuta a livello esponenziale e presente ovunque
Perche questi algoritmi automatici inevitabilmente franno parte di tutto in tempi relativamente brevi.

Quindi anche un eventuale ia reale e senziente sarà un po umana dentro , e non le lato buono.

[DrSto|to]

Originariamente inviato da 29Leonardo

Perchè intanto sarebbe creata dagli "animali" ed è molto probabile se non certo che tali "animali" possano usare questo strumento per soddisfare i loro instinti piu pericolosi piu che un nobile ideale.

Tu credi realmente che servirebbe un IA per risolvere i problemi del mondo?

Qui non si sta discutendo se una superintelligenza possa essere pericolosa in mano agli uomini; la questione è più che scontata, data la natura umana. Si sta invece discutendo se un'intelligenza artificiale cosciente possa avere un proprio interesse a nuocere all'uomo.

Se esistesse e non fosse controllata dagli uomini, le cederei immediatamente poteri politici e giudiziari, considerando i millenni di storia che dimostrano che gli uomini non sono in grado di assumere tali ruoli senza anteporre le proprie necessità personali a quelle della collettività.

Originariamente inviato da fraussantin

avendo appreso dalle nostre idee , informazioni e modi di vivere è inevitabile che ragioni come noi e che abbia come scopo diffondersi e avere il controllo sul resto del mondo proprio come noi.

Più che errato. Informati meglio su come funzionano e vengono siluppate le IA.

[Notturnia]

Originariamente inviato da fraussantin

Il problema alla base è che non decidi tu cosa metterci dentro perche ormai si viaggia di autoapprendimento , e quindi apprende da contenuti umani.
Adesso siamo sempre alle basi dell' autoapprendimento e già in chatgpt erano scappate alcune cose non etiche per fortuna corrette , chissà cosa potrebbe succedere quando questa cosa sarà cresciuta a livello esponenziale e presente ovunque
Perche questi algoritmi automatici inevitabilmente franno parte di tutto in tempi relativamente brevi.

Quindi anche un eventuale ia reale e senziente sarà un po umana dentro , e non le lato buono.

ricordiamoci che l'etica è una cosa tutta nostra e ogni casa ha la sua..

è etico uccidere ? credo che non lo sia quasi ovunque
è etico considerare la donna come un oggetto di secondo livello ? in alcune culture ancora è la norma.. e parliamo di miliardi di persone
è etico lapidare ?
è etico rubare ?

cosa apprende una IA ?

chi decide cosa è etico ? come scegliere il giusto e lo sbagliato la AI ?

è etico fumare ? è etico schiacciare una formica ?

suvvia.. quante semplificazioni facciamo ogni giorno noi umani dotati di intelletto e milioni di anni di evoluzione e guerre etc ?

è etico invadere la nazione di fianco ?

la vedo dura insegnare ad una AI cosa è giusto perchè io e mia moglie avremmo delle idee diverse su molte cose (banalmente il fucsia e il viola o il porpora etc..) figuriamoci a livello mondiale quante opinioni differenti ci sono sull'etica in un mondo dominato da uomini che pensano ai soldi e al potere..

[Notturnia]

Originariamente inviato da DrSto|to

Qui non si sta discutendo se una superintelligenza possa essere pericolosa in mano agli uomini; la questione è più che scontata, data la natura umana. Si sta invece discutendo se un'intelligenza artificiale cosciente possa avere un proprio interesse a nuocere all'uomo.

Se esistesse e non fosse controllata dagli uomini, le cederei immediatamente poteri politici e giudiziari, considerando i millenni di storia che dimostrano che gli uomini non sono in grado di assumere tali ruoli senza anteporre le proprie necessità personali a quelle della collettività.

quindi delegheresti ad un chip lo sterminio della razza umana tanto per lavartene le mani con la scusa che "l'AI lo fa meglio" ?

meglio di chi ? .. meglio PER chi ?

[fraussantin]

Originariamente inviato da DrSto|to

Se esistesse e non fosse controllata dagli uomini, le cederei immediatamente poteri politici e giudiziari, considerando i millenni di storia che dimostrano che gli uomini non sono in grado di assumere tali ruoli senza anteporre le proprie necessità personali a quelle della collettività.

Perche tu dai per scontato che ragionerebbe nell'interesse dell'uomo stesso.
Visto che stiamo parlando di fantascienza :
Una Macchina, usando solo la logica e pensando al proprio interesse e al benessere del pianeta dove vive , chi ti dice che non potrebbe decidere di sterminarci considerandoci parassiti , che poi è quello che siamo?

È fantascienza ma in fondo è anche la soluzione piu logica.

[MorgaNet]

Originariamente inviato da fraussantin

Perche tu dai per scontato che ragionerebbe nell'interesse dell'uomo stesso.
Visto che stiamo parlando di fantascienza :
Una Macchina, usando solo la logica e pensando al proprio interesse e al benessere del pianeta dove vive , chi ti dice che non potrebbe decidere di sterminarci considerandoci parassiti , che poi è quello che siamo?

È fantascienza ma in fondo è anche la soluzione piu logica.

E' l'assunto che dovrebbe pensare al proprio interesse che secondo me è fallace. E' intrinseco nella vita biologica, ma non è detto che debba esserlo nell'intelligenza artificiale.