Staccate la spina all'IA se comincia a evolvere autonomamente: l'ha detto l'ex CEO di Google

[Mo42]

Originariamente inviato da Darkon

Non esiste né male, né bene. Questi sono solo costrutti sociali atti a creare una sorta di ordine sociale.[...]

Peccato, ero pronto a investire parte del mio tempo nella lettura del tuo commento, ma a fronte di tale premessa, ne faccio volentieri a meno.

[UtenteHD]

Originariamente inviato da rigelpd

Un virus non ha autocoscienza ma se ne frega ed evolve lo stesso

Bravo hai riassunto il concetto.
In aggiunta dico che (mi sbagliero') ma un'AI per essere tale non ha per nulla bisogno di autocoscienza e manco probabilmente potrebbe averla, se ne parlera' forse, ma forse, forse, con AGI o magari con la sua futura evoluzione di cui il nome non lo si e' ancora dato.
Nel caso un giorno dovessero averla, sarebbe ancora piu' pericolosa perche' i sentimenti possono essere ancora piu' pericolosi e soprattutto in una macchina che non ragiona come noi e manco lontanamente. (si ok ora non ragionano, ma ci siamo intesi)
Nessuno sta dicendo che accadra' per forza, e' corretto pensarci perche' dire accadra' per forza, come e' impossibile che accada e' in entrambi i casi sbagliato perche' si nega una probabilita' che possa accadere e si evita di pensare ad eventuali protezioni.

[Darkon]

Originariamente inviato da GoFoxes

Non sto parlando del mondo analogico, che è finito negli anni 80.

Oddio... diciamo che non metterei la fine dell'analogico negli anni 80 quando seppur devo riconosce che il digitale esisteva già non era certo roba per i comuni mortali anzi... era roba per pochissimi. Diciamo che da un punto di vista della società intesa come le masse il mondo digitale inizia dal 2000 quando tutto sommato ha iniziato a essere diffuso e normale avere un PC in casa e una connessione a internet e non era più un digitale solo per pochi.

Sto parlando del mondo sempre connesso, con obbligo di condividere e fomo imperante, che se non hai il telefonino sotto mano non "esisti".
Io vorrei poter tornare ad uscire di casa senza telefono, con solo contanti, chiavi di casa e fazzoletti in tasca... l'ho scritto anche nella letterina a Babbo Natale

Puoi farlo... è semplicemente una scelta. Oggi ti senti isolato solo perché tutti gli altri sono connessi ma non è che tu sei obbligato a esserlo. Per dire io non ho nessuna nostalgia per cose del genere e anzi ti dirò una delle cosa che maggiormente apprezzo del mondo connesso è che mi permette di interagire solo con chi scelgo così come con due click posso escluderli.

Ma di che parli? Tu condividevi con amici e familiari sentimenti negativi? Ora poi, la gente si suicida dopo aver discusso sui social, capirai la positività

Non so se condividiamo la stessa età ma non hai idea delle cose che succedevano ai tempi e venivano considerate "normali". Si va dal bullismo violento e intendo letteralmente botte da orbi e cose del genere nell'indifferenza più totale. Sia chiaro magari ti riferivi a tempi più recenti eh ma io ricordo come a scuola ne ho date e ne ho prese ed io tutto sommato era uno che se la cavava. C'erano alcuni compagni di carattere deboli o semplicemente meno inclini alla violenza al punto di non sapersi mai difendere che dal primo all'ultimo giorno di scuola venivano vessati e ripeto non solo a parole.

Originariamente inviato da Mo42

Peccato, ero pronto a investire parte del mio tempo nella lettura del tuo commento, ma a fronte di tale premessa, ne faccio volentieri a meno.

Al di là che non è una mia idea ma ci han scritto sopra persone ben più quotate e importanti di me. Tra l'altro un concetto abbastanza ovvio basti guardare al corso della storia e alla manipolazione del concetto di bene e male che avviene anche oggi ad esempio le "guerre giuste" o il famoso "esportiamo democrazia" che avviene trucidando gente ma vabbè...

[Alessio.16390]

Originariamente inviato da zbear

Mamma mia, che esagerazione. PER PRIMA COSA NON ESISTONO LE IA, per seconda cosa prima che possano evolvere autonomamente dovrebbero COME MINIMO essere vere IA, con uno straccio di autocoscienza. Come dire: ne riparliamo fra una 50'na di anni, eh?

Esatto.
Ad oggi c'è un db, importantissimo eh, ma sempre un db, ed una serie infinita di if, else, else if.
Da qui ad una AI che ci sterminerà mancano ancora diversi step.

[GoFoxes]

Originariamente inviato da Alessio.16390

Esatto.
Ad oggi c'è un db, importantissimo eh, ma sempre un db, ed una serie infinita di if, else, else if.
Da qui ad una AI che ci sterminerà mancano ancora diversi step.

Non è così banale

Anche il cervello umano è un db che funziona con una serie infinita di if, else, else if.... è un potentissimo processore in grado di fare miliardi di operazioni in parallelo, velocissimo per le procedure inconscie, lentissimo per quello conscie (lettura consigliata "pensieri lenti e veloci" di kahneman), la IA di contro non ha procedure inconscie, ma è infinitamentre più veloce a fare quelle conscie, ad un livello che già ora probabilmente è superiore a qualsiasi essere umano mai esistito.

Poi che non abbia coscienza di se come gli animali ok, ma quella non serve per prendere pessime decisioni, anzi...

[aqua84]

Originariamente inviato da rigelpd

non riesco a comprendere questa logica...

La logica era per dire che tutto quello che è stato inventato esiste grazie all Uomo, IA compresa.
E se funziona in questo modo è sempre e comunque grazie all Uomo.
Rimarremo sempre un passo avanti, per quanto intelligente e/o auto cosciente possa diventare.

Mio parere ovviamente.

[Mo42]

Originariamente inviato da Darkon

Al di là che non è una mia idea ma ci han scritto sopra persone ben più quotate e importanti di me. Tra l'altro un concetto abbastanza ovvio basti guardare al corso della storia e alla manipolazione del concetto di bene e male che avviene anche oggi ad esempio le "guerre giuste" o il famoso "esportiamo democrazia" che avviene trucidando gente ma vabbè...

Guarda, in realtà mi aspettavo che tirassi in ballo Nietzsche in un modo più palese e meno implicito. È vero che il male e il bene sono concetti spesso più soggettivi che oggettivi, ma se fai tracimare il discorso basandoti sul mio virgolettato senza ricontestualizzarlo al paragrafo che lo circondava... beh, mi fai capire che le tue intenzioni argomentative hanno pregiudizi espositivi, atti solamente a deviare il ragionamento per evitare il confronto su ciò che risulta essere invariabilmente oggettivo.
Se hai avuto una pessima infanzia, se non hai esperienze positive da ricordare risalenti a quando si stava effettivamente meglio su numerosi fronti (non solo tecnologici), non è colpa tua. Non tutti siamo uguali (per fortuna) e non tutti associamo lo stesso tipo di sentimenti alle stesse epoche passate. Ciò non toglie che il mondo che scorreva fuori dalla tua finestra, o ignaro della tua tristezza, fosse un mondo che al giorno d'oggi molti rimpiangono. Un mondo fatto sì di tanti problemi, ma molto più comprensibili e semplici da affrontare, dove le amicizie erano pure e nate sul momento, e non finte e di facciata fino a quando non si ha modo di stalkerare vicendevolmente le proprie presenze online. E questo è solo un veloce esempio, ma di tali sociopatologie la società contemporanea ne è piena, principalmente (ma non esclusivamente) a causa di un progresso incontrollato che mal si combina con l'analfabetismo funzionale che esso stesso ha provocato (e continua a provocare). Certo, si può affermare il contrario, ma non serve molto per rendersi conto che la realtà oggettiva è ben diversa.

[Darkon]

Originariamente inviato da Mo42

Guarda, in realtà mi aspettavo che tirassi in ballo Nietzsche in un modo più palese e meno implicito. È vero che il male e il bene sono concetti spesso più soggettivi che oggettivi, ma se fai tracimare il discorso basandoti sul mio virgolettato senza ricontestualizzarlo al paragrafo che lo circondava... beh, mi fai capire che le tue intenzioni argomentative hanno pregiudizi espositivi, atti solamente a deviare il ragionamento per evitare il confronto su ciò che risulta essere invariabilmente oggettivo.

Ma non è che è un mio argomento o una mia opinione. Quello che cerco di esporti è che è oggettivamente impossibile definire bene/male in quanto intrinsecamente legati alla società e al tempo in cui vivi.
Non voglio buttarla troppo sul filosofico quindi ti faccio un esempio molto banale e semplice: perché devo essere ipocrita e dire che noi siamo i buoni e esportiamo democrazia per salvare i popoli quando facciamo guerre per alimentare l'economia e assicurarci materie prime? Qualcuno sente veramente la necessità di creare una tale menzogna e illuderci di essere i giusti invece di dire semplicemente che facciamo il nostro interesse e nel farlo siamo disposti a far morire migliaia di persone di cui non ce ne può fregar di meno e a parte qualche discorso nessuno farà niente per impedirlo?
Questo è... per questo io detesto concetti come bene/male perché è una grandissima ipocrisia e non c'è bisogno di scomodare grandi filosofi o grandi teorie anzi... basta un attimo guardarsi intorno perché al di là della guerra e di aspetti nazionali che bene e male siano una ipocrisia lo vedi anche nella vita di tutti i giorni.

Se hai avuto una pessima infanzia, se non hai esperienze positive da ricordare risalenti a quando si stava effettivamente meglio su numerosi fronti (non solo tecnologici), non è colpa tua. Non tutti siamo uguali (per fortuna) e non tutti associamo lo stesso tipo di sentimenti alle stesse epoche passate.

A voglia... infatti te rimarrai della tua idea come è giusto che sia. La mia precisazione verteva solo sul fatto che spesso si ha "ricordi" di determinate epoche che sono molto romanzati. Mi piacerebbe vedere quanti di quelli che dicono quanto era bello se esistesse una sorta di macchina del tempo e tornassero a tale epoca rimarrebbero della stessa idea. Poi magari sono in torto marcio io eh... solo mi rimane il dubbio che la gente tenda a ricordare i fatti filtrandoli col filtro passami il termine "happy days".

Ciò non toglie che il mondo che scorreva fuori dalla tua finestra, o ignaro della tua tristezza, fosse un mondo che al giorno d'oggi molti rimpiangono. Un mondo fatto sì di tanti problemi, ma molto più comprensibili e semplici da affrontare, dove le amicizie erano pure e nate sul momento, e non finte e di facciata fino a quando non si ha modo di stalkerare vicendevolmente le proprie presenze online.

Ribadisco che questa è una percezione estremamente romanzata. Le amicizie venivano tradite tanto quanto oggi, i mariti e fidanzati tradivano anche più di oggi ecc... ecc... ecc...
I rapporti non erano affatto più semplici di oggi ma semplicemente diversi perché i canali di comunicazione erano diversi ma le persone erano e sono le stesse.
Per questo continuo a dire che si confonde un cambiamento di strumenti con un cambiamento delle persone. Poi intendiamoci questa è la mia analisi eh... non ti voglio mica convertire semmai ti mostro un punto di vista diverso che può darti uno spunto di riflessione o non interessarti.

E questo è solo un veloce esempio, ma di tali sociopatologie la società contemporanea ne è piena, principalmente (ma non esclusivamente) a causa di un progresso incontrollato che mal si combina con l'analfabetismo funzionale che esso stesso ha provocato (e continua a provocare).

Non concordo. L'analfabetismo funzionale e non c'è anch'esso sempre stato. Oggi è più evidente proprio perché oggi tutti comunicano con tutti. Un tempo l'analfabeta (funzionale o no) semplicemente parlava solo al bar sport del paese e in altre sedi gli veniva detto di tacere e fine. Oggi te ne accorgi perché apri facebook e trovi le orde che scrivono ma è solo cambiata la visibilità e non la quantità.

Certo, si può affermare il contrario, ma non serve molto per rendersi conto che la realtà oggettiva è ben diversa.

Qua anche se non vorrei si torna alla filosofia perché ogni volta che sento parlare di "realtà oggettiva" mi si contorce lo stomaco. Oggettiva in base a cosa? Non esiste niente del genere. La realtà è semplicemente il punto di vista condiviso o meno di qualcuno e come tale è sempre e solo soggettiva.

[Mo42]

Originariamente inviato da Darkon

Ma non è che è un mio argomento o una mia opinione. Quello che cerco di esporti è che è oggettivamente impossibile definire bene/male in quanto intrinsecamente legati alla società e al tempo in cui vivi.
Non voglio buttarla troppo sul filosofico quindi ti faccio un esempio molto banale e semplice: perché devo essere ipocrita e dire che noi siamo i buoni e esportiamo democrazia per salvare i popoli quando facciamo guerre per alimentare l'economia e assicurarci materie prime? Qualcuno sente veramente la necessità di creare una tale menzogna e illuderci di essere i giusti invece di dire semplicemente che facciamo il nostro interesse e nel farlo siamo disposti a far morire migliaia di persone di cui non ce ne può fregar di meno e a parte qualche discorso nessuno farà niente per impedirlo?
Questo è... per questo io detesto concetti come bene/male perché è una grandissima ipocrisia e non c'è bisogno di scomodare grandi filosofi o grandi teorie anzi... basta un attimo guardarsi intorno perché al di là della guerra e di aspetti nazionali che bene e male siano una ipocrisia lo vedi anche nella vita di tutti i giorni.

Con una portentosa e sferzante virata riconduco il discorso sul mio assunto iniziale, perché a quanto pare commentando si è persa un po' la rotta:
quello che io intendevo era che noi non siamo "il male" per il pianeta, e quindi non dovremmo tifare per la nostra estinzione per salvare il posto in cui viviamo (proprio perché la nostra priorità è viverci in questo posto). Alcuni la pensano diversamente (considerando gli esseri umani come un virus) e vedono l'IA come un'evoluzione della razza umana. Personalmente, con tali persone non vedo come sarebbe possibile far capire quanto importante sia non vederla in questo modo, data la loro completa noncuranza per se stessi e i loro simili.
Per quanto riguarda bene/male, guerra/democrazia, buoni/cattivi, etc... non mi espongo. Non sono questi i luoghi in cui farlo e, di massima, consiglio sempre di astenersi dall'argomentare certe questioni quando le competenze che si annoverano a proposito possono essere assimilate a chiacchiere da bar.

Originariamente inviato da Darkon

A voglia... infatti te rimarrai della tua idea come è giusto che sia. La mia precisazione verteva solo sul fatto che spesso si ha "ricordi" di determinate epoche che sono molto romanzati. Mi piacerebbe vedere quanti di quelli che dicono quanto era bello se esistesse una sorta di macchina del tempo e tornassero a tale epoca rimarrebbero della stessa idea. Poi magari sono in torto marcio io eh... solo mi rimane il dubbio che la gente tenda a ricordare i fatti filtrandoli col filtro passami il termine "happy days".

Hai perfettamente chiarito che potresti aver torto e che alla fine ti "rimane un dubbio".
Dell'incertezza non ho di che parlare.

Originariamente inviato da Darkon

Ribadisco che questa è una percezione estremamente romanzata. Le amicizie venivano tradite tanto quanto oggi, i mariti e fidanzati tradivano anche più di oggi ecc... ecc... ecc...
I rapporti non erano affatto più semplici di oggi ma semplicemente diversi perché i canali di comunicazione erano diversi ma le persone erano e sono le stesse.
Per questo continuo a dire che si confonde un cambiamento di strumenti con un cambiamento delle persone. Poi intendiamoci questa è la mia analisi eh... non ti voglio mica convertire semmai ti mostro un punto di vista diverso che può darti uno spunto di riflessione o non interessarti.

Ottimo spunto di riflessione, proprio perché i nuovi canali di comunicazione hanno esacerbato condizioni che in passato erano risolvibili di persona, ma che ora restano nel limbo del "visualizzato e non risposto". Fidati, ho qualche competenza in merito: il messaggio forma il pensiero.

Originariamente inviato da Darkon

Non concordo. L'analfabetismo funzionale e non c'è anch'esso sempre stato. Oggi è più evidente proprio perché oggi tutti comunicano con tutti. Un tempo l'analfabeta (funzionale o no) semplicemente parlava solo al bar sport del paese e in altre sedi gli veniva detto di tacere e fine. Oggi te ne accorgi perché apri facebook e trovi le orde che scrivono ma è solo cambiata la visibilità e non la quantità.

A parte qualche incertezza grammaticale della prima frase, penso che il tuo punto confermi la mia precedente affermazione. Inoltre, quando "orde" di analfabeti uniscono la loro voce, c'è sempre qualcuno che nel dubbio può provare a dar loro ragione perché "se lo dicono in tanti, qualche fondo di verità ci sarà, giusto?"

Originariamente inviato da Darkon

Qua anche se non vorrei si torna alla filosofia perché ogni volta che sento parlare di "realtà oggettiva" mi si contorce lo stomaco. Oggettiva in base a cosa? Non esiste niente del genere. La realtà è semplicemente il punto di vista condiviso o meno di qualcuno e come tale è sempre e solo soggettiva.

Dai tregua al tuo stomaco e accogli il concetto di realtà oggettiva sapendo che essa non è nient'altro che la "realtà dei fatti". Non c'è bisogno di scomodare la filosofia per capire quando qualcosa rappresenta semplicemente quello che "realmente" è. O forse sì, ma tornare ad affilare il tanto abusato rasoio di Occam mi sembra così demodé.

[rigelpd]

Originariamente inviato da aqua84

La logica era per dire che tutto quello che è stato inventato esiste grazie all Uomo, IA compresa.
E se funziona in questo modo è sempre e comunque grazie all Uomo.
Rimarremo sempre un passo avanti, per quanto intelligente e/o auto cosciente possa diventare.

Mio parere ovviamente.

Quindi un padre che genera un figlio che poi diventa un serial killer può dormire sonni tranquilli perchè siccome è stato lui a generarlo questi non tenterà mai di ammazzarlo?

[Darkon]

Originariamente inviato da Mo42

Con una portentosa e sferzante virata riconduco il discorso sul mio assunto iniziale, perché a quanto pare commentando si è persa un po' la rotta:
quello che io intendevo era che noi non siamo "il male" per il pianeta, e quindi non dovremmo tifare per la nostra estinzione per salvare il posto in cui viviamo (proprio perché la nostra priorità è viverci in questo posto).

Su questo concordo eh... io non tifo per la nostra estinzione anzi... per quanto mi riguarda se potessi vivere per sempre lo farei; più realisticamente spero che la mia bambina e chi verrà dopo di lei vivano al meglio possibile.

Alcuni la pensano diversamente (considerando gli esseri umani come un virus) e vedono l'IA come un'evoluzione della razza umana.

Quanto alla prima parte... probabilmente qualcuno si offenderebbe se scrivo cosa ne penso ma in generale chi pensa certe cose per me ha seri problemi.
Quanto alla seconda parte secondo me non è uno scenario impossibile... una delle possibili evoluzioni della razza umana potrebbe essere una forma di vita cibernetica con questo non è che spero che la razza umana si debba estinguere ma solo che una delle possibili evoluzioni che ci faciliterebbe anche l'esplorazione del cosmo profondo potrebbe essere quella di una IA o più IA senzienti come evoluzione della nostra coscienza.

Per quanto riguarda bene/male, guerra/democrazia, buoni/cattivi, etc... non mi espongo. Non sono questi i luoghi in cui farlo e, di massima, consiglio sempre di astenersi dall'argomentare certe questioni quando le competenze che si annoverano a proposito possono essere assimilate a chiacchiere da bar.

Ma vaaaaa se non ci esponiamo nemmeno qua in un ambiente protetto e tutto sommato dove nessuno può farsi male dove ci esponiamo? Secondo me sbagli a fare questo ragionamento perché solo esponendoci possiamo confrontarci, cambiare idea, imparare, riflettere ecc... ecc...
Quindi se mai cambierai idea secondo me vale la pena anche a costo di scontrarsi (civilmente).

Hai perfettamente chiarito che potresti aver torto e che alla fine ti "rimane un dubbio".
Dell'incertezza non ho di che parlare.

Le certezze non mi sono mai appartenute d'altra parte anche il mio lavoro è approssimare la realtà e cercare di prevedere il futuro... tutte cose dove sicurezze non esistono.

Ottimo spunto di riflessione, proprio perché i nuovi canali di comunicazione hanno esacerbato condizioni che in passato erano risolvibili di persona, ma che ora restano nel limbo del "visualizzato e non risposto". Fidati, ho qualche competenza in merito: il messaggio forma il pensiero.

Mi fido. Però, proviamo a metterla così, preferisco guardare al futuro con speranza che al passato con nostalgia. Suona come una frase da motivatore aziendale, me ne rendo conto, ma ci credo.

A parte qualche incertezza grammaticale della prima frase

Molto più di qualche e molto più che incertezza. Scrivo veloce mentre faccio altre cose e spesso mi interrompo e poi ricomincio quindi Dio solo da quanti errori faccio. Porta pazienza.

penso che il tuo punto confermi la mia precedente affermazione. Inoltre, quando "orde" di analfabeti uniscono la loro voce, c'è sempre qualcuno che nel dubbio può provare a dar loro ragione perché "se lo dicono in tanti, qualche fondo di verità ci sarà, giusto?"

Altro che qualcuno... questi arrivano in parlamento in scioltezza e mica solo da noi. Se guardi bene la cosa ti rendi conto che di fatto la politica è in larghissima parte fatta da gente che al di fuori della politica non gli affideresti nemmeno una bolletta da andare a pagare alle poste. Direi quindi che gli analfabeti (funzionali e non) sono a tutti gli effetti una forza politica se non la forza politica dominante.

Dai tregua al tuo stomaco e accogli il concetto di realtà oggettiva sapendo che essa non è nient'altro che la "realtà dei fatti". Non c'è bisogno di scomodare la filosofia per capire quando qualcosa rappresenta semplicemente quello che "realmente" è. O forse sì, ma tornare ad affilare il tanto abusato rasoio di Occam mi sembra così demodé.

Se c'è una cosa che ti devo è che confrontarsi con te non è mai noioso specialmente quando sei in vena. Guarda su certi argomenti forse non la vedremo mai allo stesso modo e per certe cose sono sicuro di starti anche sulle palle ma devo riconoscere che le tue risposte, quando vuoi eh, sono di livello.