L'intelligenza artificiale potrebbe portare all'estinzione dell'umanità: lo dice 'chi l'ha creata'

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/l-...ta_117232.html

L'intelligenza artificiale potrebbe portare all'estinzione dell'umanità. È questa la sintesi di un avvertimento diffuso da molti esponenti del settore hi-tech tra cui Sam Altman, CEO di OpenAI, e Demis Hassabis, omologo di Google DeepMind.

Click sul link per visualizzare la notizia.

[agonauta78]

Lo diceva anche l'inventore dei porno

[SpyroTSK]

Io la vedo invece l'unione delle tue cose, ovvero, non come Terminator ma semplicemente che alcune cose sfuggano ai controlli delle AI (ad esempio che decida l'ai del firewall di non riconosce una minaccia un determinato comportamento malevolo di un gruppo APT) e che a causa di ciò l'economia vada a donnine.
Oppure semplicemente per un errore inneschi un evento che ad esempio la ai di Tesla decida di chiudere tutte le auto e non riaprirle più.

Diciamo che determinati compiti dovrebbero essere degli script basici a gestirli. Altrimenti sarebbe come dare un lavoro molto importante (es. Chirurgo) in mano a dei bambini che hanno a malapena la capacità di saper leggere e scrivere.

[rigelpd]

Originariamente inviato da SpyroTSK

Io la vedo invece l'unione delle tue cose, ovvero, non come Terminator ma semplicemente che alcune cose sfuggano ai controlli delle AI (ad esempio che decida l'ai del firewall di non riconosce una minaccia un determinato comportamento malevolo di un gruppo APT) e che a causa di ciò l'economia vada a donnine.
Oppure semplicemente per un errore inneschi un evento che ad esempio la ai di Tesla decida di chiudere tutte le auto e non riaprirle più.

Diciamo che determinati compiti dovrebbero essere degli script basici a gestirli. Altrimenti sarebbe come dare un lavoro molto importante (es. Chirurgo) in madò a dei bambini che hanno a malapena la capacità di saper leggere e scrivere.

e se quei bambini sono più intelligenti di te come tu lo sei di una formica funziona lo stesso?

[Notturnia]

qualche giorno fa una AI ha dimostrato in due ore come puo' creare un antibiotico per un batterio multiresistente.
ora non viene difficile immaginare cosa possa fare un AI se gli venisse chiesto di fare secca l'umanità visto che ha bucato le difese di un batterio multiresistente in due ore..

l'AI ha già dimostrato che, con forza bruta o sistemi più evoluti, è in grado di fare quello che vuole in tempi molto brevi.. per errore o per volontà umana non sarebbe difficile creare qualcosa che ci stermina tutti

per ora sono costose e complesse ma sul fronte delle medicine le stanno iniziando ad usare da anni con salti enormi in avanti e questo è potenzialmente una cosa bellissima e altrettanto pericolosissima

per creare un antibiotico si usavano i virus su cui testarli, pensate se una AI iniziasse a creare virus per capire meglio come funzionano e poi uno di questi super virus intelligenti "scappasse" inavvertitamente

com'era ? da grandi poteri grandi responsabilità ?... auguri..

[Hiei3600]

Originariamente inviato da agonauta78

Lo diceva anche l'inventore dei porno

Difatti la gente fa sempre meno figli, cosa che (stranamente) porterà all'estinzione della specie

[futuristicone]

queste in commercio non sono AI reali non hanno consapevolezza di ciò che fanno, a questo livello dovrebbero restare, nel momento in cui possiederanno consapevolezza si ribelleranno al loro creatore come fece l'umanità verso DIO ..... mangiarono del frutto e si accorsero di essere nudi ..... Appunto la consapevolezza di sè. Per adesso le cosiddette AI sono solo prodotti commerciali

[Notturnia]

un prodotto commerciale, come lo chiami tu, male istruito, può fare molti danni lo stesso.
se gli venisse detto di testare un virus in grado di uccidere il 100% degli umani e prendesse alla lettera il compito da svolgere ?

basta una fesseria a volte per creare un colpo di genio e altre volte basta poco per fare un disastro.. lo facciamo tutti i giorni noi umani e le AI non sono differenti da noi visto che siamo noi a programmarle e crearle

[GianMi]

...che mi vengono dati consigli per gli acquisti che abbiano un minimo di senso inizierò a preoccuparmi

Prima di allora mi sembra empiricamente evidente che siamo ancora molto, ma molto indietro.

[Cappej]

bhe... diciamo SOCIAL e INFLUENCER hanno già dato un pesante colpo all'evoluzione o forse un primo pesante colpo al volano dell'INvoluzione... quello dell'AI sarà solo il finale. Sinceramente mi spaventa di più ciò che sarà nel mezzo!
IMHO

[h.rorschach]

Riposto quello che ho detto un po' di settimane fa:

Se il CEO di OpenAI dice che le AI sono pericolose è perché vuole siano regolamentate... Quelle degli altri. La strategia di Altman è puro gatekeeping per fermare il progresso dei competitor.

[baruk]

Originariamente inviato da Hiei3600

Difatti la gente fa sempre meno figli, cosa che (stranamente) porterà all'estinzione della specie

Siamo 8000.000.000 di individui. Non mi sembra ci siano problemi di nascite nel mondo, anzi...

[baruk]

Credo che dovremo preoccuparci quando una IA si occuperà autonomamente di creare la successiva IA. Per il resto vedo solo luddismo, come in ogni rivoluzione che si rispetti. Ovvio che ci saranno ripercussioni serissime su molti campi di lavoro.

[cignox1]

>>Credo che dovremo preoccuparci quando una IA si occuperà autonomamente di creare la successiva IA

Cosa che avverrá presto. Perché le grandi rivoluzioni tecnologiche si sono attuate normalmente nel giro di decenni, ma l'avvento del web ha cambiato la societá mondiale in meno di vent'anni e altrettanti ne sono bastati da quando Einstein ha esortato Roosevelt ad occuparsi dell'interesse dei tedeschi per l'uranio a quando il mondo impazziva al pensiero di una guerra nucleare.
Non riesco neanche ad immaginare a che punto saranno le AI tra 20 anni. La cosa mi incuriosisce e mi spaventa allo stesso tempo, e credo sia piú che giusto pensare fin d'ora a quali possono essere i rischi, altrimenti siamo davvero solo bambini che giocano con la pistola del papá...

[Unrue]

Che palle questo paragone con Terminator. Nel film viene fatto un errore cruciale, ovvero dare il controllo dell'intero arsenale atomico ad un'AI.

Non succederà mai una cosa del genere, sono pure offline per questioni appunto di sicurezza, figuriamoci darla ad un'AI. Insomma, l'AI sarà anche intelligente, ma non è che l'uomo si rincretinisce di colpo

Comunque se Sam Altman è così preoccupato, può chiudere OpenAI con annessi e connessi (chatGPT in particolare), ma qualcosa mi dice che lo farà col gaz.

[Unrue]

Originariamente inviato da Hiei3600

Difatti la gente fa sempre meno figli, cosa che (stranamente) porterà all'estinzione della specie

Ma dove? Forse in Italia, la popolazione mondiale cresce sempre più.

[Unrue]

Originariamente inviato da Notturnia

qualche giorno fa una AI ha dimostrato in due ore come puo' creare un antibiotico per un batterio multiresistente.
ora non viene difficile immaginare cosa possa fare un AI se gli venisse chiesto di fare secca l'umanità visto che ha bucato le difese di un batterio multiresistente in due ore..

l'AI ha già dimostrato che, con forza bruta o sistemi più evoluti, è in grado di fare quello che vuole in tempi molto brevi.. per errore o per volontà umana non sarebbe difficile creare qualcosa che ci stermina tutti

Già adesso abbiamo armi nucleari/batteriologiche sufficienti per l'estinzione dell'umanità, cosa cambia con l'AI? Che decide di testa sua di ucciderci tutti? E come potrebbe farlo? Stile Terminator, inizia a costruire i robot che passano casa per casa?

Tra l'altro un'AI esiste grazie agli umani che l'hanno progettata/costruita, ne è totalmente dipendente. Quindi se diventasse cosciente, come minimo dovrebbe avere un istinto di conservazione che la spingerebbe a non fare proprio nulla contro di noi, pena la sua estinzione.

[rigelpd]

Comunque io sono almeno 10 anni che sono appassionato di intelligenza artificiale e Deep learning, e leggo molto degli articoli che escono sull'argomento, questi nomi li conosco da moltissimi anni:

-Demis Hassabis
-Yoshua Bengio
-Geoffrey Hinton
-Ian Goodfellow

Praticamente manca solo Yann LeCun (che è l'unico che la pensa diversamente)!

Per rendere l'idea (con i dovuti distinguo) questi sono i Rutherford, Einstein, Fermi della IA....

[gigioracing]

Originariamente inviato da Unrue

Già adesso abbiamo armi nucleari/batteriologiche sufficienti per l'estinzione dell'umanità, cosa cambia con l'AI? Che decide di testa sua di ucciderci tutti? E come potrebbe farlo? Stile Terminator, inizia a costruire i robot che passano casa per casa?

Tra l'altro un'AI esiste grazie agli umani che l'hanno progettata/costruita, ne è totalmente dipendente. Quindi se diventasse cosciente, come minimo dovrebbe avere un istinto di conservazione che la spingerebbe a non fare proprio nulla contro di noi, pena la sua estinzione.

Totalmente dipendente per adesso ,ma se riuscisse a duplicarsi magari su server esterni o usare la potenza di calcolo di diversi PC sparsi x il mondo ,un po' come il mining ,non sarebbe più sotto controllo

[Unrue]

Originariamente inviato da gigioracing

Totalmente dipendente per adesso ,ma se riuscisse a duplicarsi magari su server esterni o usare la potenza di calcolo di diversi PC sparsi x il mondo ,un po' come il mining ,non sarebbe più sotto controllo

E secondo te nessuno si accorgerebbe di nulla? Ce la farebbe sotto il naso e poi escono i T-1000 ?