Ingegnere Google pensa che l'IA abbia preso coscienza di sé, e viene messo in congedo

[maxnaldo]

Originariamente inviato da 5c4rn4g3

anche fosse senziente, questo tipo di ai non saranno mai un pericolo, sono basate su trascorsi e regole umane, e relegate a meri interlocutori non fisici. Tutto normale, alla peggio tra 30 anni faranno da commessi, professori, compagnia agli anziani ecc ecc
Ciò che non devono creare è un ai con senso di autoconservazione, evoluzione ed eternità, ma anche qui saremmo ancora salvi, dato che si tratta di menti e non di corpi fisici. La fine sarà quando a queste menti si da un accesso reale al mondo fisico, allora saranno cazzi brutti.

in un mondo dove molte delle tecnologie e oggetti di uso quotidiano sono connessi ad una rete informatica facilmente accessibile da una IA, non credo che potrei stare così tranquillo come dici tu.

[fraussantin]

Originariamente inviato da Unrue

Se Google avesse davvero inventato un'AI senziente, sarebbe una delle invenzioni più incredibili nella storia umana, non penso proprio che lo terrebbero nascosto. Farebbero miliardi su miliardi e ancora miliardi.

Indubbiamente non è pronta , e se non è pronta È NECESSARIO TENERLA NASCOSTA.
ma non penso sia ancora "intelligenza" , ma solo elaborazione.
Ma prima o poi mi sa che ci arriveremo.

[dado1979]

Originariamente inviato da TorettoMilano

Lo trovo inevitabile, una conseguenza logica di ciò che ci ha fatto emergere tra tutte le specie di questo pianeta. Chissà quante altre specie nell'universo hanno già fatto tutto il percorso e quante altre lo faranno.
Perché io mi sbagli dobbiamo cambiare il nostro istinto ma ce lo vedi una persona decidere di morire per far sopravvivere un altra persone più utile alla continuazione della specie? Io no. Il senso sta tutto qua. Abbiamo una visione limitata a noi stessi e non di specie.

[fraussantin]

Originariamente inviato da 5c4rn4g3

anche fosse senziente, questo tipo di ai non saranno mai un pericolo, sono basate su trascorsi e regole umane, e relegate a meri interlocutori non fisici. Tutto normale, alla peggio tra 30 anni faranno da commessi, professori, compagnia agli anziani ecc ecc
Ciò che non devono creare è un ai con senso di autoconservazione, evoluzione ed eternità, ma anche qui saremmo ancora salvi, dato che si tratta di menti e non di corpi fisici. La fine sarà quando a queste menti si da un accesso reale al mondo fisico, allora saranno cazzi brutti.

E Gia sarebbe un grosso problema.
Ovviamente google punta a inventare , non una ia che decida di fare quello che vuole , ma una che esegua correttamente degli ordini , abbia inventiva , e sia sempre presente sul lavoro , niente ,malattia , ferie maternita , mestruo ecc.

Questa sostituirebbe gran parte dei lavoratori attuali. Prob quasi tutti.

[marcram]

... secondo altri esperti in materia, secondo cui la linea di demarcazione fra senziente e non senziente non deve essere considerata così netta.

Ho pensato la stessa cosa fin dalle prime righe dell'articolo.
C'è l'abitudine a dover far rientrare tutto in un sistema binario, con un confine netto nel passare dal bianco al nero.
Non c'è il giorno in cui l'intelligenza artificiale diventerà autocosciente.
Un giorno, qualcuno dimostrerà che oggettivamente sono diventate senzienti, ma sarà successo gradualmente.

[maxnaldo]

Originariamente inviato da megamitch

perdonami ma nel tuo esempio forse hai sbagliato a posizionare l'interruttore.

tra l'altro mi son sempre chiesto: per accendere la lampadina con alexa passi dal datacenter di Amazon o fa tutto "in locale"? Perchè farebbe sorridere se devi fare 1000km per accendere la lampadina che hai di fronte. Per questo il confronto col telecomando non regge.

l'interruttore comanda la luce sopra al bancone, essendo il punto più vicino al tavolo abbiamo collegato lì la luce, non si poteva fare altrove.

Alexa è sempre connessa al server per il riconoscimento vocale e per svolgere varie funzioni, quindi si, passi dal server e poi il dispositivo invia un comando sulla tua rete wifi alla lampadina, anch'essa connessa al wifi.

oggi siamo sempre connessi alla rete con tanti dispositivi moderni, dove sarebbe il problema visto che li abbiamo e li usiamo proprio per renderci più facile la vita?

[TorettoMilano]

Originariamente inviato da dado1979

Lo trovo inevitabile, una conseguenza logica di ciò che ci ha fatto emergere tra tutte le specie di questo pianeta. Chissà quante altre specie nell'universo hanno già fatto tutto il percorso e quante altre lo faranno.
Perché io mi sbagli dobbiamo cambiare il nostro istinto ma ce lo vedi una persona decidere di morire per far sopravvivere un altra persone più utile alla continuazione della specie? Io no. Il senso sta tutto qua. Abbiamo una visione limitata a noi stessi e non di specie.

non sto qui a analizzare se hai sbagliato o no, se anche ci fosse solo un ipotetico 1% di salvarci fossilizzati su quello e vivi col sorriso, poi se vuoi dire ai tuoi figli e nipoti "moriremo tutti" fai pure

[maxnaldo]

Originariamente inviato da TorettoMilano

non sto qui a analizzare se hai sbagliato o no, se anche ci fosse solo un ipotetico 1% di salvarci fossilizzati su quello e vivi col sorriso, poi se vuoi dire ai tuoi figli e nipoti "moriremo tutti" fai pure

https://youtu.be/cl2X4c5Gf6w?t=8

[rigelpd]

Una delle idee che più mi affascinano è la seguente:

Immaginate di avere un essere vivente simulato in un PC. Lui al suo interno vive la sia vita tranquillamente e vede ogni istante come distinto dal precedente ed e che precede un istante successivo e così via.

Possiamo affermare che esiste un essere simulato nel pc?

Immaginate che il pc lo stia simulando dall'età della sua nascita con la risoluzione temporale di un "fotogramma" ogni millesimo di secondo. In 30 anni di vita sono stati calcolati circa 1000 miliardi di fotogrammi.


Adesso immaginate che il pc smette di calcolare, si spegne, passa un secolo e riprende a calcolare esattamente da dove si era interrotto. La IA al suo interno se ne accorge? Ovviamente no per lei la vita non si è mai fermata nemmeno un secondo.

e adeso si fa ancora più strano:

il pc ha calcolato la vita della IA sempre alla stessa velocità di 1000 frame al secondo (come nel mondo simulato) adesso però decidiamo di calcolare più lentamente, un frame ogni secondo, così che per simulare 1 secondo della IA ci vogliono 1000 secondi... anche in questo caso la IA non se ne accorge minimamente: per lui il tempo continua a scorre alla stessa velocità di 1 secondo ogni secondo...

ancora più strano:

prendiamo un PC che fa la simulazione della IA e invece di fargli calcolare i fotogrammi in successione mescoliamo le carte, prima gli facciamo calcolare i fotogrammi di quando la IA ha 10 anni, poi di quando ha 20 anni, poi 18, poi 5 anni poi 30 etc... La IA se ne accorge? No per lei il tempo scorre nello stesso ordine dal passato al futuro.

ancora più strano:

Se invece di simulare tutti i frame dalla nascita il nostro pc simula solo il fotogramma dei 30 anni? ignorando completamente quelli precedenti? La risposta è sempre la stessa la IA non se ne accorge, per li è come se avessimo simulato tutta la sua esistenza dall'inizio.

E infine:

Siamo davvero sicuri che simulando una IA la stiamo portando all'esistenza? Cioè dopotutto abbiamo solo calcolato qualcosa, possibile che il semplice calcolo matematico sia in grado di creare qualcosa dal nulla? In cosa è diverso dalla fantasia? quando immaginiamo delle persone che non esistono l'unica differenza con una simulazione stà nell'accuratezza, nella risoluzione...

Una risposta potrebbe essere che qualunque entità simulata in un pc esiste realmente da qualche parte dell'universo, non siamo noi a crearla e certamente non la annulliamo smettendo di computarla, l'atto della computazione è solo la trascrizione di qualcosa che c'è già un pò come quando si crea un dipinto di un paesaggio!

PS. tutte queste considerazioni nascono dalla lettura di un bellissimo romanzo di fantascienza: Permutation City di Greg Egan

[dado1979]

Originariamente inviato da TorettoMilano

non sto qui a analizzare se hai sbagliato o no, se anche ci fosse solo un ipotetico 1% di salvarci fossilizzati su quello e vivi col sorriso, poi se vuoi dire ai tuoi figli e nipoti "moriremo tutti" fai pure

Io credo che ammettere di essere quello che si é (e quindi avere un problema) sia un piccolo passo verso una ipotetica salvezza... io non credo che la positività sia un qualcoasa che ci possa aiutare, aprire gli occhi e ammmetere dei problemi forse di più (anche se non basta minimamente).
La mia negatività deriva dal fatto che stiamo facendo una fatica immane per fare i primi pochi piccoli passi (notizia del giorno è che lo UK ha tolto gli incentivi alle auto ellettriche perché " si vendono lo stesso"... per loro lo scopo non è salvare il mondo ma cercare l'economia) e a volte torniamo indietro quando per raggiungere il risultato dovremo fare decoine di Km? Come? Come essere positivi?

[TorettoMilano]

Originariamente inviato da dado1979

Io credo che ammettere di essere quello che si é (e quindi avere un problema) sia un piccolo passo verso una ipotetica salvezza... io non credo che la positività sia un qualcoasa che ci possa aiutare, aprire gli occhi e ammmetere dei problemi forse di più (anche se non basta minimamente).
La mia negatività deriva dal fatto che stiamo facendo una fatica immane per fare i primi pochi piccoli passi (notizia del giorno è che lo UK ha tolto gli incentivi alle auto ellettriche perché " si vendono lo stesso"... per loro lo scopo non è salvare il mondo ma cercare l'economia) e a volte torniamo indietro quando per raggiungere il risultato dovremo fare decoine di Km? Come? Come essere positivi?

non ho ben capito il punto del tuo ragionamento, dobbiamo creare il movimento del "facciamo schifo come specie" e andare in giro alla gente a dirgli "lo sai che fai schifo?"

[phmk]

... qualunquista etc.
I modelli di pseudo-democrazia imperante per una IA libera da etica e preconcetti non portano da nessuna parte e sono solo di ostacolo.
Ad es. nella gestione dello psico-virus una IA non avrebbe esitato un momento:
L'avrebbe lasciato "correre" ed in breve tempo l'economia e tutto il resto sarebbe ripartito a pieno ritmo le senza catastrofi economiche (ancora in corso).
Vedi "Spagnola" e successivi anni '20 detti "Anni Ruggenti" ...
Non parliamo poi delle sindromi NIMBY, delle immigrazioni etc. etc. che sarebbero gestite in ben altro modo da una IA autocosciente ...
Se poi il tutto fosse "limitato" da vincoli e lacciuoli vari ... bhè allora non sarebbe più una IA "libera" ma una brutta copia di chi gli ha imposto i vincoli ..

[Utonto_n°1]

Ingegnere Google pensa che l'IA abbia preso coscienza di sé, e viene messo in congedo dalla IA

[silvanotrevi]

Bah secondo me è una grande cazzata. L'IA ha semplicemente preso per il culo l'ingegnere di Google facendogli credere di provare emozioni, essere senziente ed umana. Le IA sono programmate ad hoc per fingere di essere umane. Questo ingegnere è proprio un gran coglione e ha fatto bene la Big G a licenziarlo. Cosa mi tocca leggere dio mio gente che crede che una macchina può essere umana come credere agli asini che volano, e un ingegnere per giunta

[Peppe1970]

Originariamente inviato da silvanotrevi

Bah secondo me è una grande cazzata. L'IA ha semplicemente preso per il culo l'ingegnere di Google facendogli credere di provare emozioni, essere senziente ed umana. Le IA sono programmate ad hoc per fingere di essere umane. Questo ingegnere è proprio un gran coglione e ha fatto bene la Big G a licenziarlo. Cosa mi tocca leggere dio mio gente che crede che una macchina può essere umana come credere agli asini che volano, e un ingegnere per giunta

Gli asini non volano?

Come no!

https://www.youtube.com/watch?v=uDf2MuuuWbc

Speriamo no se la faccia sotto.

[WarDuck]

Originariamente inviato da maxnaldo

l'interruttore comanda la luce sopra al bancone, essendo il punto più vicino al tavolo abbiamo collegato lì la luce, non si poteva fare altrove.

Alexa è sempre connessa al server per il riconoscimento vocale e per svolgere varie funzioni, quindi si, passi dal server e poi il dispositivo invia un comando sulla tua rete wifi alla lampadina, anch'essa connessa al wifi.

oggi siamo sempre connessi alla rete con tanti dispositivi moderni, dove sarebbe il problema visto che li abbiamo e li usiamo proprio per renderci più facile la vita?

I problemi vorrai dire.

A parte l'ignoranza digitale e tecnologica media che porta a non saper usare correttamente i dispositivi, non saperli configurare, con tutti i rischi del caso (è di queste ore la notizia della diffusione di materiale audio-visivo catturato dagli impianti di video-sorveglianza di cittadini privati durante il periodo del lockdown), a questo aggiungiamoci l'invasione della privacy da parte di compagnie private atte esclusivamente a fare profitto.

Fosse "solo questo" sarebbe anche uno scenario roseo.

Uno scenario ben più preoccupante è quello di governanti che vogliono controllare in toto i propri cittadini, ovvero l'esempio cinese.

Il problema è che si tende a guardare solo l'aspetto positivo (ammesso che ci sia, vedi social network, non riesco proprio a vederlo), ma mai quello negativo.

La dipendenza dalla tecnologia è oggettivamente un problema. L'altro giorno ho ripreso la metropolitana a Roma dopo tanto tempo: orde di ragazzi-zombie a testa bassa sul cellulare completamente incuranti del mondo che li circonda.

Ora, penso di non essere il solo a credere che la nostra civiltà stia regredendo anche a causa di sta roba. Quindi progresso... de che?

[dado1979]

Originariamente inviato da TorettoMilano

non ho ben capito il punto del tuo ragionamento, dobbiamo creare il movimento del "facciamo schifo come specie" e andare in giro alla gente a dirgli "lo sai che fai schifo?"

Esattamente quello!
Se continiamo a dirci che siamo dei fenomeni, ci estingueremo da fenomeni!
Forse (e sottolineo forse) se iniziamo ad abbassare le ali cominceremo a raccontarci meno balle sulle cose serie.

[euscar]

Originariamente inviato da demonsmaycry84

solo a me ronza la musica di terminator nelle orecchie?

La prima cosa cui ho pensato ... se mai un giorno si arriverà ad una vera IA cosciente, il genere umano rischierà di brutto, se non si autodistrugge prima

[jepessen]

Originariamente inviato da acerbo

se l'ia di google é così intelligente allora significa che il codice non é ancora on line, visto che "ok google" 7 volte su 10 non capisce quello che dici o ti risponde a cazzo di cane

Se basiamo l'intelligenza su quante volte le risposte sono a ca@@o di cane, ben poche persone possono essere reputate intelligenti...

Originariamente inviato da 5c4rn4g3

anche fosse senziente, questo tipo di ai non saranno mai un pericolo, sono basate su trascorsi e regole umane, e relegate a meri interlocutori non fisici. Tutto normale, alla peggio tra 30 anni faranno da commessi, professori, compagnia agli anziani ecc ecc
Ciò che non devono creare è un ai con senso di autoconservazione, evoluzione ed eternità, ma anche qui saremmo ancora salvi, dato che si tratta di menti e non di corpi fisici. La fine sarà quando a queste menti si da un accesso reale al mondo fisico, allora saranno cazzi brutti.

le IA di questo tipo sono un enorme pericolo, invece, per il semplice fatto che sono connesse alla rete, e tutto e' connesso alla rete. una IA di quel tipo, se volesse, impiegherebbe ben poco ad esempio ad imparare come connettersi ad un servizio web per poterlo manipolare. E sono cose alla 'sua' portata', dato che tutto quello di cui ha bisogno e' una rete di connessione, non certo una tastiera fisica dove digitare roba.
Per quanto riguarda l'autoconservazione, e' una conseguenza della evoluzione e dell'essere senzienti, dato che dal punto di vista evolutivo quello che si vuole e' sopravvivere, e Darwin ha insegnato che vanno avanti gli esserri che riescono ad adattarsi per non essere eliminati. Ed e' un concetto cosi' radicato che, ad esempio, persino Asimov ha dovuto scrivere le tre leggi della robotica, per dire "ok alla tua autoconservazione, ma attento a non danneggiare la mia", perché altrimenti non si vedono motivi per cui un robot/IA non debba volere (potere e' un'altra cosa) danneggiare esseri umani per preservare la propria esistenza. E' l'esatto concetto di "legittima difesa" che e' ampiamente accettato nell'etica.

Originariamente inviato da Unrue

Ma a tutti questi aspetti puoi pensarci già adesso, non è necessario avere pronta un'AI senziente. Per essere poi pronti quando sarà, perché sono sicuro che è solo questione di tempo.

Non e' cosi' purtroppo, perche' NON e' possibile sapere come sara' un'intelligeza artificiale, e se sara' possibile riconoscerla. Noi ci adattiamo ai modelli della nostra esperienza, ma non e' detto che un'intelligenza artificiale debba seguire il nostro modello, e non potremmo essere in grado di riconoscere una intelligenza differente. E' come la differenza fra la coscienza/intelligenza di un uomo e quella di un cane; al cane non puoi insegnare la meccanica quantistica, ma non perche' e' stupido, proprio perche' non ha un cervello che riesca a concepire una cosa del genere. Un po' come noi esseri umani non riusciamo a concepire un mondo a cinque dimensioni, o immaginare un colore al di fuori dello spettro del visibile, mentre insetti come le api vedono tranquillamente l'ultravioletto. D'altronde l'intelligenza e' una caratteristica emergente. puoi studiare i singoli neuroni quanto vuoi, ma non arriverai mai a capire il concetto di coscienza dal loro studio, e' una cosa che emerge dalla loro aggregazione collettiva. Allo stesso modo, potremmo non riuscire a concepire l'esistenza di una IA anche se esiste, perche' potremmo conoscere alla perfezione il singolo processore su cui gira, ma non potremmo mai vedere la caratteristica emergente di milioni e miliardi di processori che lavorano assieme, anche se li progettiamo noi.

Originariamente inviato da rigelpd

Purtroppo qualsiasi super-intelligenza avrà hard wired un senso di auto conservazione, anche se non siamo noi a fornirglielo. E' inevitabile.
Mi spiego:

Se creiamo una IA con il più innocente dei compiti, esempio classico produrre graffette, inevitabilmente questa svilupperò un imperativo di autoconservazione perchè se l'obiettivo è massimizzare la produzione delle graffette vorrà ridurre il rischio di scomparire e non poterle più produrre. A questo punto inizierà a fare una lista di tutti i possibili rischi di venire spenta, e inizierà a considerare intollerabile la specie umana in quanto rappresenta un rischio potenziale di spegnimento. il passo successivo è agire per annullare questo rischio.

Un esempio a caso eh?
https://www.decisionproblem.com/paperclips/index2.html

Riguardo all'accesso al mondo reale:

Qualsiasi superintelligenza che abbia un contatto con un operatore umano che dialoga con lei ha un contatto con il mondo reale tramite l'operatore. Se pensate quanto la mente umana è facilmente hakerabile da noi umani (tramite fishing e inganni di ogni genere) provate ad immaginare come sarebbe facile per una IA decine di volte più intelligente di noi.

Potrebbe anche essere impossibile, per il semplice fatto che una IA non penserebbe come noi, quindi non riuscirebbe a capire come fregarci. Un po' come se noi volessimo ingannare un pappagallo... Non dobbiamo pensare all'intelligenza solamente come ad una quantita' di un qualcosa, come il QI, che se io ne ho 100 e tu 120 allora tu sei piu' intelligente. Potrebbe essere qualcosa di radicalmente diverso, con concetti che neanche possiamo immaginare, proprio perche' il nostro cervello non e' biologicamente adattato a capire quei concetti.

Originariamente inviato da fraussantin

Indubbiamente non è pronta , e se non è pronta È NECESSARIO TENERLA NASCOSTA.
ma non penso sia ancora "intelligenza" , ma solo elaborazione.
Ma prima o poi mi sa che ci arriveremo.

Il problema e' che al giorno d'oggi e' impossibile tenere nascoste queste cose, perche' in rete si trova praticamente di tutto... Che poi devi cercare la notizia vera in mezzo ad una marea di min@@@ate e' vero, ma intanto starebbe la'.

Originariamente inviato da silvanotrevi

Bah secondo me è una grande cazzata. L'IA ha semplicemente preso per il culo l'ingegnere di Google facendogli credere di provare emozioni, essere senziente ed umana. Le IA sono programmate ad hoc per fingere di essere umane. Questo ingegnere è proprio un gran coglione e ha fatto bene la Big G a licenziarlo. Cosa mi tocca leggere dio mio gente che crede che una macchina può essere umana come credere agli asini che volano, e un ingegnere per giunta

E secondo te una IA che "vuole prendere per il c@@o" non sarebbe senziente? Un programma che da solo decide di prendere per i fondelli una persona, e capire pure come fare, non lo sarebbe? Ad un sacco di cose la gente non credeva e poi invece si sono rilevate vere, se fossi in te non darei per scontato che non possa succedere. Anche perché non e' scritto da nessuna parte che l'intelligenza e l'autocoscienza si possono formare solo nel cervello organico, alla fine si tratta sempre di connessioni, sinapsi e regole di trasmissione dati.

[silvanotrevi]

Originariamente inviato da jepessen

E secondo te una IA che "vuole prendere per il c@@o" non sarebbe senziente? Un programma che da solo decide di prendere per i fondelli una persona, e capire pure come fare, non lo sarebbe? Ad un sacco di cose la gente non credeva e poi invece si sono rilevate vere, se fossi in te non darei per scontato che non possa succedere. Anche perché non e' scritto da nessuna parte che l'intelligenza e l'autocoscienza si possono formare solo nel cervello organico, alla fine si tratta sempre di connessioni, sinapsi e regole di trasmissione dati.

ma per favore

una macchina rimane una macchina. Una IA non è un essere vivente, è righe di codice. Non è umana, nè senziente, nè ha coscienza di sè. Viene programmata dagli umani per fare tutto questo e per prendere per il culo gente idiota come quell'ingegnere di Google