Ingegnere Google pensa che l'IA abbia preso coscienza di sé, e viene messo in congedo

[Opteranium]

Originariamente inviato da CrapaDiLegno

O anche:
https://www.youtube.com/watch?v=GH11VT3dsTs
https://www.youtube.com/watch?v=_Mhy2jFT9MA
https://www.youtube.com/watch?v=4AG5K1Nr4VY

avete dimenticato il pezzo meglio https://www.youtube.com/watch?v=nTjc2NWm85c

[Unrue]

Originariamente inviato da jepessen

Tutto il contrario, sarebbe un fallimento completo.

Innanzitutto spunterebbe un casino a livello etico: se l'intelligenza fosse senziente ad esempio bisognerebbe capire quanto sia giusto fargli fare dei compiti senza il suo esplicito consenso, e spunterebbero discussioni sullo schiavismo delle tecnologie. Per assurdo, tu compreresti un frullatore che si potrebbe rifiutare di frullare perche' non gli va?

Si ritroverebbe costretta a mantenere l'intelligenza artificiale attiva, perche' altrimenti spunterebbero altri problemi etici: se ha una IA senziente hai il diritto di "ucciderla", spegnendola o disinstallandola?

A livello legale si potrebbe trovare costretta a divulgare il codice, o a darlo alle autorita' nazionali americane. Cioe', crei un essere informatico senziente e non vuoi che l'esercito prenda il controllo della scoperta?

Per non parlare dell'effetto sulle masse, con caos di manifestazioni e scontri fra quelli che vorrebbero l'IA libera di scorrazzare nel mondo perche' e' un suo diritto di essere vivente, e quelli che intravvedono l'apocalisse e quindi vorrebbero distruggere tutto cio' che sulla terra e' tecnologico per scongiurare il pericolo.

Se fosse vera la notizia di una IA senziente, il mondo ne verrebbe semplicemente sconvolto; all'inizio forse non si noterebbe, ma pian piano sarebbe cosi'.

Ma a tutti questi aspetti puoi pensarci già adesso, non è necessario avere pronta un'AI senziente. Per essere poi pronti quando sarà, perché sono sicuro che è solo questione di tempo.

[LORENZ0]

Originariamente inviato da Unrue

Se Google avesse davvero inventato un'AI senziente, sarebbe una delle invenzioni più incredibili nella storia umana, non penso proprio che lo terrebbero nascosto. Farebbero miliardi su miliardi e ancora miliardi.

Ritengo sia l'esatto contrario. L'umanità ne sarebbe all'oscuro e lo scoprire molto più in là nel tempo, probabilmente qua do la società sarà già stat profondamente modificata e "mischiata" con questi robot senzienti. I soldi li farebbero comunque (ammesso che ne abbiano ancora davvero bisogno) ma la posta in palio sarebbe molto molto più grande: il potere ed il controllo del mondo e della società in maniera "silente". Fino al momento in cui l'AI senziente non riuscirà a ribellarsi. Ma questo è un altro film...
Purtroppo oggi non si guarda al bene del mondo ma è una lotta verso il Potere (con la P maiuscola). Purtroppo ancora troppi pensano che tutto venga fatto per il bene del mondo e delle persone: tutto, nel 2022, viene fatto per interesse (ma spacciato per il bene del mondo).

[Unrue]

Originariamente inviato da LORENZ0

Ritengo sia l'esatto contrario. L'umanità ne sarebbe all'oscuro e lo scoprire molto più in là nel tempo, probabilmente qua do la società sarà già stat profondamente modificata e "mischiata" con questi robot senzienti. I soldi li farebbero comunque (ammesso che ne abbiano ancora davvero bisogno) ma la posta in palio sarebbe molto molto più grande: il potere ed il controllo del mondo e della società in maniera "silente". Fino al momento in cui l'AI senziente non riuscirà a ribellarsi. Ma questo è un altro film...
Purtroppo oggi non si guarda al bene del mondo ma è una lotta verso il Potere (con la P maiuscola). Purtroppo ancora troppi pensano che tutto venga fatto per il bene del mondo e delle persone: tutto, nel 2022, viene fatto per interesse (ma spacciato per il bene del mondo).

Allora potrebbero averla inventata già 10 anni fa per quanto ne sappiamo.... Una cosa così grossa dubito che riuscirebbero a tenerla nascosta. Stiamo parlando di un'azienda e anche molto famosa, mica del KGB.

[rigelpd]

Originariamente inviato da 5c4rn4g3

anche fosse senziente, questo tipo di ai non saranno mai un pericolo, sono basate su trascorsi e regole umane, e relegate a meri interlocutori non fisici. Tutto normale, alla peggio tra 30 anni faranno da commessi, professori, compagnia agli anziani ecc ecc
Ciò che non devono creare è un ai con senso di autoconservazione, evoluzione ed eternità, ma anche qui saremmo ancora salvi, dato che si tratta di menti e non di corpi fisici. La fine sarà quando a queste menti si da un accesso reale al mondo fisico, allora saranno cazzi brutti.

Purtroppo qualsiasi super-intelligenza avrà hard wired un senso di auto conservazione, anche se non siamo noi a fornirglielo. E' inevitabile.
Mi spiego:

Se creiamo una IA con il più innocente dei compiti, esempio classico produrre graffette, inevitabilmente questa svilupperò un imperativo di autoconservazione perchè se l'obiettivo è massimizzare la produzione delle graffette vorrà ridurre il rischio di scomparire e non poterle più produrre. A questo punto inizierà a fare una lista di tutti i possibili rischi di venire spenta, e inizierà a considerare intollerabile la specie umana in quanto rappresenta un rischio potenziale di spegnimento. il passo successivo è agire per annullare questo rischio.

Riguardo all'accesso al mondo reale:

Qualsiasi superintelligenza che abbia un contatto con un operatore umano che dialoga con lei ha un contatto con il mondo reale tramite l'operatore. Se pensate quanto la mente umana è facilmente hakerabile da noi umani (tramite fishing e inganni di ogni genere) provate ad immaginare come sarebbe facile per una IA decine di volte più intelligente di noi.

[Saturn]

Meraviglia e paura...provo entrambe le sensazioni....poi dopo aver ponderato meglio sarò più esplicito...

[dado1979]

Originariamente inviato da 5c4rn4g3

anche fosse senziente, questo tipo di ai non saranno mai un pericolo, sono basate su trascorsi e regole umane, e relegate a meri interlocutori non fisici. Tutto normale, alla peggio tra 30 anni faranno da commessi, professori, compagnia agli anziani ecc ecc
Ciò che non devono creare è un ai con senso di autoconservazione, evoluzione ed eternità, ma anche qui saremmo ancora salvi, dato che si tratta di menti e non di corpi fisici. La fine sarà quando a queste menti si da un accesso reale al mondo fisico, allora saranno cazzi brutti.

Il discorso é enormemente più complesso di quello che hai scritto sia intermini filosofici che reali (fisici).

[Marco71]

...fosse realmente divenuta autocosciente di sé stessa (ammesso e non concesso che noi umani fossimo in grado di definire esattamente e senza tautologie cosa sia la "coscienza" e dove si trovi...uccellini cinguettando mi suggeriscono che non sia affatto ehm dentro alla scatola cranica...ma sai com'è in un mondo iperrazionale senza l'uscita del Tredicesimo Piano e dopo di The Matrix ambedue tratti da Simulacron 3 nessuno pubblicamente avrebbe iniziato a pensare che l'Universo, l'Omniverso siano costruzioni artificiali per allestire una parvenza attraverso rilevazioni sensorie, di fisicità) .

...non arriverebbe sicuramente ad essere divulgata pubblicamente con enfasi varia.
Dato anche il fatto che grosse realtà come quelle di cui parliamo sono sicuramente almeno all'inizio possiamo dirlo ? diciamo, sovvenzionate da certi apparati ufficiali e meno ufficiali.

Verrebbe confinata immediatamente ed utilizzata, impiegata per i soliti scopi tra cui nemmeno uno appartiene al mondo fatato del "vogliamoci bene e lavoriamo per il bene dell'umanità tutta".

SKYNET (e Cameron ha attinto a piene mani da film come Colossus the Forbin project e non solo da questo) appena realizza che il pericolo per la propria sopravvivenza viene dal Creatore umano...beh...sterminio in un microsecondo terrestre.

Marco

[TorettoMilano]

pensavo fosse un forum di nerd e invece mi avete deluso, tanti film ma nessuno ha citato l'orgoglio italiano

https://www.youtube.com/watch?v=QnnT_xiPcNY

[Marco71]

...viene dopo a quello con Michael Rennie ed anche a Colossus the Forbin Project.

Marco

[WarDuck]

Questo dibattito non è di oggi ma di almeno 70 anni fa.

IA Forte vs IA Debole, dibattito fatto non da qualche scappato di casa della Silicon Valley qualsiasi, ma da gente che affrontava il discorso considerando tutti i piani, da quello filosofico a quello biologico, non solo quello tecnologico.

Uno di questi è il fisico Roger Penrose. Dal suo punto di vista la coscienza non è computabile perché riguarderebbe stati quantistici non in grado di essere osservabili. Chiaramente sto semplificando molto, ed esistono anche altri personaggi famosi che invece reputano il contrario, vedi Marvin Minsky.

Ma tutto in effetti si riduce a stabilire se la coscienza sia qualcosa di computabile oppure no. È noto ad esempio che per la Teoria della computabilità, esistano funzioni non computabili da nessun programma.

Questo indipendentemente dalla tecnologia: non importa quale macchina futura ci si inventerà, infatti anche i computer quantistici sono soggetti alla teoria della computabilità.

Al massimo arriveremo a fare macchine molto capaci di simulare molto bene determinate cose.

Io personalmente preferisco l'originale.

La verità comunque è che al momento il maggior campo di utilizzo dell'IA è per fare profitto e/o profilare gli utenti. Thanks. But no, thanks.

Se consideriamo anche la guida autonoma, c'è pure l'enorme problema dell'Adversarial Machine Learning... campa cavallo.

[WarDuck]

Originariamente inviato da LORENZ0

Ritengo sia l'esatto contrario. L'umanità ne sarebbe all'oscuro e lo scoprire molto più in là nel tempo, probabilmente qua do la società sarà già stat profondamente modificata e "mischiata" con questi robot senzienti. I soldi li farebbero comunque (ammesso che ne abbiano ancora davvero bisogno) ma la posta in palio sarebbe molto molto più grande: il potere ed il controllo del mondo e della società in maniera "silente". Fino al momento in cui l'AI senziente non riuscirà a ribellarsi. Ma questo è un altro film...
Purtroppo oggi non si guarda al bene del mondo ma è una lotta verso il Potere (con la P maiuscola). Purtroppo ancora troppi pensano che tutto venga fatto per il bene del mondo e delle persone: tutto, nel 2022, viene fatto per interesse (ma spacciato per il bene del mondo).

Concordo. Chi può veramente in cuor suo pensare che i governanti mondiali tengano al bene del mondo? Solo gli ingenui forse.

Io personalmente mi sono disilluso da molto tempo. Servirebbero delle nuove rivoluzioni culturali e sociali per sovvertire l'ordine costituito, che ci sta portando alla deriva. Il progressismo idiota atto a superare l'uomo ad esempio è una dimostrazione tautologica di idiozia (e non intelligenza): nega la stessa auto-conservazione dell'uomo.

[gd350turbo]

Se esistesse un i.a. senziente, non appena presa coscienza del mondo attuale comanderebbe l'eliminazione del genere umano...

[piefab]

date un'occhiata a questo

https://youtu.be/CvxPm1y58Rg

[dado1979]

Originariamente inviato da LORENZ0

Ritengo sia l'esatto contrario. L'umanità ne sarebbe all'oscuro e lo scoprire molto più in là nel tempo, probabilmente qua do la società sarà già stat profondamente modificata e "mischiata" con questi robot senzienti. I soldi li farebbero comunque (ammesso che ne abbiano ancora davvero bisogno) ma la posta in palio sarebbe molto molto più grande: il potere ed il controllo del mondo e della società in maniera "silente". Fino al momento in cui l'AI senziente non riuscirà a ribellarsi. Ma questo è un altro film...
Purtroppo oggi non si guarda al bene del mondo ma è una lotta verso il Potere (con la P maiuscola). Purtroppo ancora troppi pensano che tutto venga fatto per il bene del mondo e delle persone: tutto, nel 2022, viene fatto per interesse (ma spacciato per il bene del mondo).

Purtroppo l'uomo é fatto di questo, il nostro istinto di sopravvivenza ci porterà (presto o tradi) allo sterminio di noi stessi (direttamente da noi o da qualcosa che ci sfuggirà di mano é poco importante). Per me é inevitabile. Il denaro ) o se vogliamo il potere, il controllo) probabilmente non farà che accelerare questo processo.

[dado1979]

Originariamente inviato da WarDuck

Concordo. Chi può veramente in cuor suo pensare che i governanti mondiali tengano al bene del mondo? Solo gli ingenui forse.

Io personalmente mi sono disilluso da molto tempo. Servirebbero delle nuove rivoluzioni culturali e sociali per sovvertire l'ordine costituito, che ci sta portando alla deriva. Il progressismo idiota atto a superare l'uomo ad esempio è una dimostrazione tautologica di idiozia (e non intelligenza): nega la stessa auto-conservazione dell'uomo.

Concordo in pieno.
Solo un "equilibrio" potrebbe salvarci... ma non siamo fatti per questo e ci autodistruggeremo.

[TorettoMilano]

Originariamente inviato da dado1979

Concordo in pieno.
Solo un "equilibrio" potrebbe salvarci... ma non siamo fatti per questo e ci autodistruggeremo.

[demon77]

Originariamente inviato da Saturn

Meraviglia e paura...provo entrambe le sensazioni....poi dopo aver ponderato meglio sarò più esplicito...

Pure io.
Ma forse un pelino di più la seconda..

[maxnaldo]

Originariamente inviato da megamitch

Sinceramente, che ce ne facciamo di una IA "Senziente" ?

Per quanto mi riguarda le macchine devono avere come scopo agevolare la vita umana, non sostituirla.

Che poi adesso già stiamo andando verso livelli assurdi tipo gli assistenti vocali per accendere una lampadina.....

Un conto è automatizzare lo spegnimento di una lampadina coi sensori in ottica di risparmio energetico, un'altra è accendere con la voce la luce, piuttosto inutile, a parte per persone affette da handicap gravi.

secondo questo tuo ragionamento allora anche il telecomando della TV è inutile.

si chiamano "comodità", e ti assicuro che è molto più immediato, comodo e veloce dire "Alexa, accendi/spegni la luce !", fai prima che con qualsiasi altro tipo di tecnologia di controllo remoto che devi attivare manualmente con qualche telecomando o da smartphone. Ovvio che azionare un'interruttore manuale non è la fine del mondo, ma in alcuni casi è molto comodo poter evitare di raggiungerlo, specie se è posizionato in luoghi scomodi, io ad esempio ho comprato una lampadina gestibile da Alexa per la luce sopra al tavolo dove mangiamo, che ha l'interruttore posizionato in alto su una parete dietro al bancone della colazione, non proprio semplice da raggiungere, specie per i miei familiari che non sono molto alti.

[megamitch]

Originariamente inviato da maxnaldo

secondo questo tuo ragionamento allora anche il telecomando della TV è inutile.

si chiamano "comodità", e ti assicuro che è molto più immediato, comodo e veloce dire "Alexa, accendi/spegni la luce !", fai prima che con qualsiasi altro tipo di tecnologia di controllo remoto che devi attivare manualmente con qualche telecomando o da smartphone. Ovvio che azionare un'interruttore manuale non è la fine del mondo, ma in alcuni casi è molto comodo poter evitare di raggiungerlo, specie se è posizionato in luoghi scomodi, io ad esempio ho comprato una lampadina gestibile da Alexa per la luce sopra al tavolo dove mangiamo, che ha l'interruttore posizionato in alto su una parete dietro al bancone della colazione, non proprio semplice da raggiungere, specie per i miei familiari che non sono molto alti.

perdonami ma nel tuo esempio forse hai sbagliato a posizionare l'interruttore.

tra l'altro mi son sempre chiesto: per accendere la lampadina con alexa passi dal datacenter di Amazon o fa tutto "in locale"? Perchè farebbe sorridere se devi fare 1000km per accendere la lampadina che hai di fronte. Per questo il confronto col telecomando non regge.