Staccate la spina all'IA se comincia a evolvere autonomamente: l'ha detto l'ex CEO di Google
Eric Schmidt, un tempo al vertice di Google e ora grande sostenitore dell'IA in ambito militare, ritiene che l'evoluzione dell'IA sia una scoperta straordinaria, ma al tempo stesso pericolosa, tanto da dover essere necessario "staccare la spina".
di Manolo De Agostini pubblicata il 18 Dicembre 2024, alle 11:21 nel canale Scienza e tecnologiaIntelligenza Artificiale
Eric Schmidt, ex amministratore delegato di Google, ha dichiarato in un'intervista rilasciata a George Stephanopoulos di ABC che gli esseri umani potrebbero essere costretti a "staccare la spina" all'intelligenza artificiale prima che sia troppo tardi.
Quel troppo tardi significa un'intelligenza artificiale così evoluta capace di migliorarsi autonomamente, in modo così rapido da diventare poi incontrollabile. "Faccio questo lavoro da 50 anni [e] non ho mai visto un'innovazione di questa portata", ha detto l'ex CEO di Google. "È letteralmente un risultato umano straordinario".
Tuttavia, da grandi poteri derivano anche grandi responsabilità, ma non è detto che un'IA veda il mondo come lo vediamo noi. "Presto saremo in grado di avere computer che funzionano da soli, capace di decidere cosa vogliono fare. Quando il sistema sarà in grado di auto-migliorarsi, dovremo pensare seriamente a staccare la spina".
Una IA evoluta potrebbe però essere in grado di contrastare qualsiasi tentativo umano di distruggerla, come spesso ci insegna la fantascienza hollywoodiana. "Questo tipo di sistema non avrebbe la capacità di contrastare i nostri sforzi per staccargli la spina?", ha chiesto durante l'intervista Stephanopoulos.
"In teoria, sarebbe meglio avere qualcuno con la mano sulla spina", ha risposto Schmidt. Chi? "Il futuro dell'intelligenza... non dovrebbe essere lasciato a persone come me, giusto?", ha aggiunto Schmidt. "I tecnologi non dovrebbero essere gli unici a prendere queste decisioni. Abbiamo bisogno di un consenso su come mettere le giuste protezioni su queste cose per preservare la dignità umana. È molto importante".
Tra le opzioni, Schmidt non esclude che l'IA stessa potrebbe essere in grado di fungere da cane da guardia per la tecnologia. "Gli esseri umani non saranno in grado di controllare l'IA", ha detto, "ma i sistemi di IA dovrebbero essere in grado di controllare l'IA".
Nell'intervista Schmidt evidenziato che la tecnologia IA cinese ha raggiunto gli Stati Uniti a una velocità notevole, trasformando la competizione in una corsa serrata. Ed è questa battaglia, tra governi ma anche tra le stesse aziende dell'hi-tech che spaventa l'ex dirigente di Google: qualcuno potrebbe decidere di vincere la sfida venendo meno ai necessari controlli di sicurezza, con effetti imprevedibili.
BOOX Note Air4 C è uno spettacolo: il tablet E Ink con Android per lettura e scrittura
Recensione Sony Xperia 1 VII: lo smartphone per gli appassionati di fotografia
Attenti a Poco F7: può essere il best buy del 2025. Recensione
DJI OSMO Mobile SE a 69€: il gimbal compatto che trasforma i video dello smartphone in riprese da pro
Scope elettriche da record su Amazon: due modelli potentissimi sotto i 120€, ecco perché piacciono così tanto
GTA 6 a 80 euro? Take-Two frena sul prezzo e punta tutto sul valore percepito
I 3 portatili più convenienti su Amazon: sono 2 tuttofare Lenovo e un HP Victus gaming con RTX 5060
AirPods Pro 2 a soli 199€: su Amazon anche AirPods 4 in sconto, ecco le differenze che contano
2 Smart TV 4K Hisense con doppio sconto su Amazon: sono OLED e QLED, 55" e 75", fateci un bel pensierino
Portatili Apple ai minimi: MacBook Pro con chip M4 a 1.648€ e Macbook Air 13 16GB7256GB, sempre M4, a 998€
Come mantenere Windows 10 sicuro dopo il 2025: tutto sul programma ESU
Finalmente è tornato su Amazon l'iPhone 16 128GB a 749€, in tutti i colori, ma ci sono anche i 16e e 16 Pro in offerta
Auto nuove? Per il 65% degli italiani sono troppo care, non dovrebbero costare oltre i 20.000 euro
Droni solari Airbus volano nella stratosfera grazie alle nuove batterie al silicio: test riusciti a oltre 20 km di quota
Colpo da 15 milioni di dollari: chi ha rubato un carico di prodotti AMD e Apple?
Elon Musk lancia l'allarme su GPT-5: 'OpenAI divorerà Microsoft'. Ma Nadella lo sfida con un sorriso
iPhone 17 Pro sarà più costoso, ma anche più conveniente
30 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infohttps://medium.com/@applecidervineg...wn-cc58b96b6582
Il giocattolo ci è piaciuto ma adesso va mantenuto, onori ma anche oneri !
Dalle stessa IA non si torna indietro, conosco gente che è vero che non era mai stata un cima ma almeno due parole di senso compiuto riuscivano a metterle insieme...da oltre un anno si fanno scrivere tutto da chatgpt...e si sono rincoglionite definitivamente.
Senza contare i programmatori, che ormai "per risparmiare tempo" si fanno scrivere parte del codice dalle suddetta IA.
Che spina vorrebbero staccare ???
MAGARI arrivasse Skynet a fare piazza pulita....!
Interessante...
Interessante...
Il virus siamo noi umani...aveva ragione l'agente Smith di Matrix.
Le macchine al massimo saranno "la cura"...
Le macchine al massimo saranno "la cura"...
Per quanto implicitamente sarcastiche tali affermazioni possano sembrare, esse nascondono una tremenda dose di pericolosità.
Aborro profondamente linee di pensiero come questa (quando espresse seriamente). Illuderci che siamo noi "il male" è immensamente insensato.
Senza un osservatore, l'osservato esiste solo a se stesso.
Prenderci cura della "casa" in cui viviamo non dovrebbe mai andare a scapito della nostra stessa esistenza. L'IA ci prospetta un futuro disumanizzato, ma dato che la spinta commerciale di ogni prodotto (e l'IA lo è
Aborro profondamente linee di pensiero come questa (quando espresse seriamente). Illuderci che siamo noi "il male" è immensamente insensato.
Senza un osservatore, l'osservato esiste solo a se stesso.
Prenderci cura della "casa" in cui viviamo non dovrebbe mai andare a scapito della nostra stessa esistenza. L'IA ci prospetta un futuro disumanizzato, ma dato che la spinta commerciale di ogni prodotto (e l'IA lo è
Ricordati però che la IA esiste SOLO grazie all Uomo. Così come anche la bomba atomica esiste grazie all Uomo.
Io non credo esisterà mai un futuro in cui la IA prenderà il sopravvento.
Io non credo esisterà mai un futuro in cui la IA prenderà il sopravvento.
Me lo auguro.
Le macchine al massimo saranno "la cura"...
Più che un virus siamo un generico organismo che si sta diffondendo molto più degli altri in questo ultimo frangente della storia del pianeta.
Solitamente la natura tende ad un equilibrio, gli esempi più banali di cose in equilibrio sono i predatori che tengono a bada il numero degli erbivori, gli erbivori che tengono a bada i vegetali e virus e batteri che tengono a bada un po' tutti.
Noi stiamo riuscendo a sottrarci a queste forze riequilibratrici grazie alla tecnologia medica e sanitaria in particolare. Quando una popolazione di un certo animale cresce a dismisura in un ambiente troppo "stretto" aumentano le probabilità che emerga un nuovo virus o batterio in grado di decimarla, ma nel nostro caso per ora riusciamo a sottrarci con la scienza medica a questa tendenza.
Ci riusciremo per sempre? Batteri antibiotico resistenti? Nuovi virus per i quali non si riuscirà a creare un vaccino?
Parlando invece di equilibri dovuti più a risorse naturali, piuttosto che ad interazioni tra organismi, il concetto di sostenibile o insostenibile è del tutto insignificante. Se il nostro sviluppo è "insostenibile" si arriverà al punto catastrofico in cui lo sviluppo si arresterà e arretrerà per forza di cose, quindi è sempre sostenibile basta dare tempo agli eventi di ridimensionarci. Semplicemente non sarà indolore.
Solitamente la natura tende ad un equilibrio, gli esempi più banali di cose in equilibrio sono i predatori che tengono a bada il numero degli erbivori, gli erbivori che tengono a bada i vegetali e virus e batteri che tengono a bada un po' tutti.
Noi stiamo riuscendo a sottrarci a queste forze riequilibratrici grazie alla tecnologia medica e sanitaria in particolare. Quando una popolazione di un certo animale cresce a dismisura in ambiente troppo stretti aumentano le probabilità che emerga un nuovo virus o batterio in grado di decimarla, ma nel nostro caso per ora riusciamo a sottrarci con la scienza medica a questa tendenza.
Ci riusciremo per sempre?
Parlando invece di equilibri dovuti più a risorse naturali, piuttosto che tra interazioni tra organismi, il concetto di sostenibile o insostenibile è del tutto insignificante. Se il nostro sviluppo è "insostenibile" si arriverà al punto catastrofico in cui lo sviluppo si arresterà e arretrerà per forza di cose, quindi è sempre sostenibile basta dare tempo agli eventi di ridimensionarci.
Come darti torto...concordo in pieno con la tua analisi.
Aborro profondamente linee di pensiero come questa (quando espresse seriamente). Illuderci che siamo noi "il male" è immensamente insensato.
Non esiste né male, né bene. Questi sono solo costrutti sociali atti a creare una sorta di ordine sociale. Semmai l'IA potrebbe semplicemente essere il prossimo passo evolutivo dell'uomo: una forma di coscienza ancora più avanzata e meno limitata della nostra e scevra dai costrutti necessari alla vita biologica.
Per esempio noi siamo vincolati nel nostro progresso da quello che per noi è "il valore della vita": se dovessi fare una missione scientifica esplorativa chi di noi partirebbe sapendo che non c'è ritorno e che morirebbe a un certo punto? Una IA senziente invece semplicemente eseguirebbe la missione sacrificando una o le unità necessarie per ottenere i dati nel modo più efficiente possibile perché per l'IA il valore dei dati è superiore ad alcune unità.
Così come in generale non sarebbe intralciata da sentimenti che hanno la loro imprescindibile utilità biologica ma che è scientificamente provato possano offuscare la capacità di giudizio logico.
E così via...
Io sono fermamente convinto che l'evoluzione umana prima o poi culminerà nella creazione di una razza non biologica che superi i limiti che ad oggi la biologia ci impone e che a quel punto veramente inizierà una diffusione interstellare grazie al fatto che il tempo diventerà una variabile molto più gestibile rispetto ai bisogni di un corpo umano.
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".