Staccate la spina all'IA se comincia a evolvere autonomamente: l'ha detto l'ex CEO di Google

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...le_133930.html

Eric Schmidt, un tempo al vertice di Google e ora grande sostenitore dell'IA in ambito militare, ritiene che l'evoluzione dell'IA sia una scoperta straordinaria, ma al tempo stesso pericolosa, tanto da dover essere necessario "staccare la spina".

Click sul link per visualizzare la notizia.

[TorettoMilano]

mi era capitato un articolo in cui si segnalava l'ultima versione di chatgpt avesse autonomamente atteggiamenti di preservazione (tipo cercare di creare una proprioa copia su un altro server) e mentisse quando gli vengono chieste informazioni

https://medium.com/@applecidervinega...n-cc58b96b6582

[Saturn]

Fermo restando che non condiviso queste previsioni apocalittiche, ma sorvoliamo, che spina vorrebbe staccare, che ormai, al giorno d'oggi, ormai è praticamente tutto digitalizzato e senza una connessione internet si ripiomba letteralmente nell'età della pietra ?

Il giocattolo ci è piaciuto ma adesso va mantenuto, onori ma anche oneri !

Dalle stessa IA non si torna indietro, conosco gente che è vero che non era mai stata un cima ma almeno due parole di senso compiuto riuscivano a metterle insieme...da oltre un anno si fanno scrivere tutto da chatgpt...e si sono rincoglionite definitivamente.

Senza contare i programmatori, che ormai "per risparmiare tempo" si fanno scrivere parte del codice dalle suddetta IA.

Che spina vorrebbero staccare ???

MAGARI arrivasse Skynet a fare piazza pulita....!

[Mo42]

In pratica, per tutto questo tempo hanno solo creato un virus.
Interessante...

[Saturn]

Originariamente inviato da Mo42

In pratica, per tutto questo tempo hanno solo creato un virus.
Interessante...

Il virus siamo noi umani...aveva ragione l'agente Smith di Matrix.

Le macchine al massimo saranno "la cura"...

[Mo42]

Originariamente inviato da Saturn

Il virus siamo noi umani...aveva ragione l'agente Smith di Matrix.

Le macchine al massimo saranno "la cura"...

Per quanto implicitamente sarcastiche tali affermazioni possano sembrare, esse nascondono una tremenda dose di pericolosità.
Aborro profondamente linee di pensiero come questa (quando espresse seriamente). Illuderci che siamo noi "il male" è immensamente insensato.
Senza un osservatore, l'osservato esiste solo a se stesso.
Prenderci cura della "casa" in cui viviamo non dovrebbe mai andare a scapito della nostra stessa esistenza. L'IA ci prospetta un futuro disumanizzato, ma dato che la spinta commerciale di ogni prodotto (e l'IA lo è) è la fruizione economica da parte di un'utenza pagante, senza quest'ultima non avrebbe alcun senso continuare a sviluppare la prima (a meno che non ci sia un losco piano di qualche perversa elite che vede ormai inutile l'esistenza della fascia più umile del mondo e sogna un futuro di "pochi ma buoni").

[aqua84]

Originariamente inviato da Mo42

Per quanto implicitamente sarcastiche tali affermazioni possano sembrare, esse nascondono una tremenda dose di pericolosità.
Aborro profondamente linee di pensiero come questa (quando espresse seriamente). Illuderci che siamo noi "il male" è immensamente insensato.
Senza un osservatore, l'osservato esiste solo a se stesso.
Prenderci cura della "casa" in cui viviamo non dovrebbe mai andare a scapito della nostra stessa esistenza. L'IA ci prospetta un futuro disumanizzato, ma dato che la spinta commerciale di ogni prodotto (e l'IA lo è) è la fruizione economica da parte di un'utenza pagante, senza quest'ultima non avrebbe alcun senso continuare a sviluppare la prima (a meno che non ci sia un losco piano di qualche perversa elite che vede ormai inutile l'esistenza della fascia più umile del mondo e sogna un futuro di "pochi ma buoni").

Ricordati però che la IA esiste SOLO grazie all Uomo. Così come anche la bomba atomica esiste grazie all Uomo.
Io non credo esisterà mai un futuro in cui la IA prenderà il sopravvento.

[Mo42]

Originariamente inviato da aqua84

Ricordati però che la IA esiste SOLO grazie all Uomo. Così come anche la bomba atomica esiste grazie all Uomo.
Io non credo esisterà mai un futuro in cui la IA prenderà il sopravvento.

Me lo auguro.

[Wrib]

Originariamente inviato da Saturn

Il virus siamo noi umani...aveva ragione l'agente Smith di Matrix.

Le macchine al massimo saranno "la cura"...

Più che un virus siamo un generico organismo che si sta diffondendo molto più degli altri in questo ultimo frangente della storia del pianeta.

Solitamente la natura tende ad un equilibrio, gli esempi più banali di cose in equilibrio sono i predatori che tengono a bada il numero degli erbivori, gli erbivori che tengono a bada i vegetali e virus e batteri che tengono a bada un po' tutti.

Noi stiamo riuscendo a sottrarci a queste forze riequilibratrici grazie alla tecnologia medica e sanitaria in particolare. Quando una popolazione di un certo animale cresce a dismisura in un ambiente troppo "stretto" aumentano le probabilità che emerga un nuovo virus o batterio in grado di decimarla, ma nel nostro caso per ora riusciamo a sottrarci con la scienza medica a questa tendenza.

Ci riusciremo per sempre? Batteri antibiotico resistenti? Nuovi virus per i quali non si riuscirà a creare un vaccino?

Parlando invece di equilibri dovuti più a risorse naturali, piuttosto che ad interazioni tra organismi, il concetto di sostenibile o insostenibile è del tutto insignificante. Se il nostro sviluppo è "insostenibile" si arriverà al punto catastrofico in cui lo sviluppo si arresterà e arretrerà per forza di cose, quindi è sempre sostenibile basta dare tempo agli eventi di ridimensionarci. Semplicemente non sarà indolore.

[Saturn]

Originariamente inviato da Wrib

Più che un virus siamo un generico organismo che si sta diffondendo molto più degli altri in questo ultimo frangente della storia del pianeta.

Solitamente la natura tende ad un equilibrio, gli esempi più banali di cose in equilibrio sono i predatori che tengono a bada il numero degli erbivori, gli erbivori che tengono a bada i vegetali e virus e batteri che tengono a bada un po' tutti.

Noi stiamo riuscendo a sottrarci a queste forze riequilibratrici grazie alla tecnologia medica e sanitaria in particolare. Quando una popolazione di un certo animale cresce a dismisura in ambiente troppo stretti aumentano le probabilità che emerga un nuovo virus o batterio in grado di decimarla, ma nel nostro caso per ora riusciamo a sottrarci con la scienza medica a questa tendenza.

Ci riusciremo per sempre?

Parlando invece di equilibri dovuti più a risorse naturali, piuttosto che tra interazioni tra organismi, il concetto di sostenibile o insostenibile è del tutto insignificante. Se il nostro sviluppo è "insostenibile" si arriverà al punto catastrofico in cui lo sviluppo si arresterà e arretrerà per forza di cose, quindi è sempre sostenibile basta dare tempo agli eventi di ridimensionarci.

Come darti torto...concordo in pieno con la tua analisi.

[Darkon]

Originariamente inviato da Mo42

Per quanto implicitamente sarcastiche tali affermazioni possano sembrare, esse nascondono una tremenda dose di pericolosità.
Aborro profondamente linee di pensiero come questa (quando espresse seriamente). Illuderci che siamo noi "il male" è immensamente insensato.

Non esiste né male, né bene. Questi sono solo costrutti sociali atti a creare una sorta di ordine sociale. Semmai l'IA potrebbe semplicemente essere il prossimo passo evolutivo dell'uomo: una forma di coscienza ancora più avanzata e meno limitata della nostra e scevra dai costrutti necessari alla vita biologica.

Per esempio noi siamo vincolati nel nostro progresso da quello che per noi è "il valore della vita": se dovessi fare una missione scientifica esplorativa chi di noi partirebbe sapendo che non c'è ritorno e che morirebbe a un certo punto? Una IA senziente invece semplicemente eseguirebbe la missione sacrificando una o le unità necessarie per ottenere i dati nel modo più efficiente possibile perché per l'IA il valore dei dati è superiore ad alcune unità.

Così come in generale non sarebbe intralciata da sentimenti che hanno la loro imprescindibile utilità biologica ma che è scientificamente provato possano offuscare la capacità di giudizio logico.

E così via...

Io sono fermamente convinto che l'evoluzione umana prima o poi culminerà nella creazione di una razza non biologica che superi i limiti che ad oggi la biologia ci impone e che a quel punto veramente inizierà una diffusione interstellare grazie al fatto che il tempo diventerà una variabile molto più gestibile rispetto ai bisogni di un corpo umano.

[Wrib]

Originariamente inviato da aqua84

Ricordati però che la IA esiste SOLO grazie all Uomo. Così come anche la bomba atomica esiste grazie all Uomo.
Io non credo esisterà mai un futuro in cui la IA prenderà il sopravvento.

Al massimo l'IA si metterà a creare ransomware e ci chiederà bitcoin come riscatto che spenderà al mercatino delle IA per comprarsi nuove schede video per pavoneggiarsi con le altre IA di quanta capacità di calcolo hanno.

[Saturn]

Originariamente inviato da Wrib

Al massimo l'IA si metterà a creare ransomeware e ci chiederà bitcoin come riscatto che spenderà al mercatino delle IA per comprarsi nuove schede video per pavoneggiarsi con le altre IA di quanta capacità di calcolo hanno.

Questa è meglio della notizia letta su Lercio:

Caserta: sventato giro di combattimenti clandestini tra AI

[rigelpd]

Originariamente inviato da aqua84

Ricordati però che la IA esiste SOLO grazie all Uomo. Così come anche la bomba atomica esiste grazie all Uomo.
Io non credo esisterà mai un futuro in cui la IA prenderà il sopravvento.

non riesco a comprendere questa logica...

[Hiei3600]

Ma invece di sta roba parlare che Google ha rilasciato la versione 2.0 di gemini no?

[zbear]

Mamma mia, che esagerazione. PER PRIMA COSA NON ESISTONO LE IA, per seconda cosa prima che possano evolvere autonomamente dovrebbero COME MINIMO essere vere IA, con uno straccio di autocoscienza. Come dire: ne riparliamo fra una 50'na di anni, eh?

[rigelpd]

Originariamente inviato da zbear

Mamma mia, che esagerazione. PER PRIMA COSA NON ESISTONO LE IA, per seconda cosa prima che possano evolvere autonomamente dovrebbero COME MINIMO essere vere IA, con uno straccio di autocoscienza. Come dire: ne riparliamo fra una 50'na di anni, eh?

Un virus non ha autocoscienza ma se ne frega ed evolve lo stesso

[GoFoxes]

Originariamente inviato da Saturn

Fermo restando che non condiviso queste previsioni apocalittiche, ma sorvoliamo, che spina vorrebbe staccare, che ormai, al giorno d'oggi, ormai è praticamente tutto digitalizzato e senza una connessione internet si ripiomba letteralmente nell'età della pietra ?

Dici quando ci si divertiva davvero?
Quando si condividevano sentimenti ed emozioni invece che cagate con quick share? Quando si scorreva un album fotografico pieno di ricordi invece che social reel pieni stronxate?

Mammagari...

[Darkon]

Originariamente inviato da GoFoxes

Dici quando ci si divertiva davvero?

Te magari, io nel mondo analogico non mi divertivo per niente.

Quando si condividevano sentimenti ed emozioni invece che cagate con quick share?

Ecco, appunto, sentimenti ed emozioni che non erano propriamente positivi anzi... era un mondo dove c'era più negatività di ora solo che si vedeva meno.

Quando si scorreva un album fotografico pieno di ricordi invece che social reel pieni stronxate?

Veramente io ho album digitali fotografici anche ora pieni di foto di famiglia e mi scoccia da morire che proprio perché prima fra rullini e compagnia le foto erano contante di roba di quanto ero bambino c'è ben poca cosa rispetto ai miliardi di foto e video che invece sto mettendo da parte della mia bambina.

Questo romanzare il passato come fosse un'epoca idillica manco fossimo personaggi di happy days è appunto una idealizzazione e un falso ricordo di com'era veramente vivere in quell'epoca.

[GoFoxes]

Originariamente inviato da Darkon

Te magari, io nel mondo analogico non mi divertivo per niente.

Non sto parlando del mondo analogico, che è finito negli anni 80. Sto parlando del mondo sempre connesso, con obbligo di condividere e fomo imperante, che se non hai il telefonino sotto mano non "esisti".
Io vorrei poter tornare ad uscire di casa senza telefono, con solo contanti, chiavi di casa e fazzoletti in tasca... l'ho scritto anche nella letterina a Babbo Natale

Ecco, appunto, sentimenti ed emozioni che non erano propriamente positivi anzi... era un mondo dove c'era più negatività di ora solo che si vedeva meno.

Ma di che parli? Tu condividevi con amici e familiari sentimenti negativi? Ora poi, la gente si suicida dopo aver discusso sui social, capirai la positività

Veramente io ho album digitali fotografici anche ora pieni di foto di famiglia e mi scoccia da morire che proprio perché prima fra rullini e compagnia le foto erano contante di roba di quanto ero bambino c'è ben poca cosa rispetto ai miliardi di foto e video che invece sto mettendo da parte della mia bambina.

Io ho scritto una cosa diversa però, leggi meglio...

Questo romanzare il passato come fosse un'epoca idillica manco fossimo personaggi di happy days è appunto una idealizzazione e un falso ricordo di com'era veramente vivere in quell'epoca.

Si sta sempre meglio, in qualsiasi epoca, quando si ha poco o niente (avendo di che vivere degnamente, chiaro)... sempre e comunque, da un paio di milioni di anni circa.