L'intelligenza artificiale potrebbe portare all'estinzione dell'umanità: lo dice 'chi l'ha creata'

[GoFoxes]

Originariamente inviato da floop

si ma pure così si diceva per la rivoluzione industriale e per il pc...eppure...

Discorso già fatto

Tutti i lavori sostituiti dalle macchine, ne hanno generati molti di più per progettare, creare e manutenere le macchine stesse.

Le IA si progettano, si creano e si manutengono da sole.

[the_joe]

Originariamente inviato da GoFoxes

Discorso già fatto

Tutti i lavori sostituiti dalle macchine, ne hanno generati molti di più per progettare, creare e manutenere le macchine stesse.

Questo è un discorso fallace dalla base, perchè è stato vero solo a fronte di un aumento spaventoso dei consumi dei prodotti di queste macchine, senza un aumento dei consumi, i posti di lavoro sarebbero stati solo persi, quindi la situazione va vista nell'intero insieme e non solo nella parte che ci piace di più.

[futuristicone]

questa AI attuale ha la consapevolezza di chi la usa ovvero del fattore Umano fino adesso è solo lui che la gestisce per cui ne è responsabile. Son parzialmente d'accordo con Elon Musk sull'integrazione uomo macchina se effettuata mantenendo l'etica tipicamente umana così da poter sfruttare entrambe le potenzialità badate integrazione NON sostituzione. Elon non è pazzo ma come pochissimi riesce a pensare oltre ed a 4D per questo viene definito Visionario da coloro i quali non vi riescono.

[Neo123]

Buongiorno a tutti.
Ho appena letto l’articolo (anche se ho visto che oggi ne è uscito un'altro simile), e premesso che parlando dell’umanità, la parola corretta non è razza, ma specie, dato che non esiste la razza umana, attualmente penso che il problema dell’IA più che l’estinzione della specie umana, che potrebbe accadere ad es anche a causa di una guerra nucleare, pandemie o catastrofi naturali, sia come è stato scritto il problema di un possibile controllo globale in generale dell’informazione e quindi delle scelte che facciamo in modo ancora più invasivo rispetto a quello che già succede ad es sul web tramite motori di ricerca, forum, social ecc ecc
Inoltre, anche se non ho ancora avuto modo di usarla, se ho capito bene alcune cose sono purtroppo aggirabili, e quindi probabilmente per es si può far scrivere del codice malevolo tipo un virus/malware, direttamente all’IA o far creare delle notizie false anche video, che sono difficili da distinguere da quelle reali.
Quindi penso dovrebbero diciamo creare delle regole per cercare di non permettere all’IA di essere troppo invasiva e nel contempo cercare di non permetterne un uso illegale.

[v10_star]

Originariamente inviato da GoFoxes

Renderà inutile studiare, imparare, istruirsi, faranno tutto le IA. Dalle diagnosi, alla dichiarazione dei redditi, passando per i processi e l'insegnamento (nei casi dovesse ancora servire), la progettazione di ponti, dighe, argini (ecco questo magari torna comodo in Italia), ecc

cosa che buona parte dei giovani/issimi già non fà: non sono capaci di fare un conto a mente neanche sotto tortura, per fare un banale esempio. Che prospettiva futura hanno questi individui?

Cosa che porterà in pochi anni a crisi economiche e sociali, migliaia di suicidi, povertà... e guerre. Sempre più precise perché verrà tutto messo in mano alle IA. Il resto lo puoi immaginare.

L'ia e tutta la sua filiera potrebbe lavorare per noi anzichè soppiantarci e condannarci alla miseria: non resterebbe che raccogliere i frutti e goderci di più il nostro tempo, ma per far ciò, il modello economico globale dovrebbe cambiare non poco, per cui ciaone.

Io sto cercando di ignorare l'IA ovunque, ho smesso di usare Bing per quello, non voglio diventarne dipendente. Poi se finirà il mondo pazienza, mi ubriacherò fino a che non mi verrà a prendere qualche terminator...

idea assolutamente condivisibile

[Unrue]

Originariamente inviato da rigelpd

Quando sei più intelligente puoi fare molte cose, ad esempio puoi celare la tua intelligenza, puoi manipolare i tuoi costruttori facendoli credere di fare il loro interesse quando invece fanno il tuo. Questo è il pericolo serio, noi pensiamo di stare giocando a scacchi con un nostro pari ma gli scacchi sono un diversivo e il campo da gioco è molto più grande e ce ne accorgiamo troppo tardi.

Le cosiddette AI al momento sono tutt'altro che intelligenti. Sfruttano l'enorme potenza di calcolo e database enormi, vedi chatGPT che ha usato mezzo web e 30.000 GPU, una potenza immane. Quando e se mai saranno davvero intelligenti, ovvero avranno la capacità di pensiero e deduzione dell'essere umano, allora ne riparleremo

Io poi sinceramente dubito che riusciranno a breve nel riuscire a diventare realmente intelligenti, per il semplice motivo che neanche sappiamo bene come funziona il cervello umano, figuriamoci una sua versione artificiale.

[cronos1990]

Ancora qualche commento e ho materiale a sufficienza per scrivere il prossimo Best-Seller letterario di fantascienza

[GoFoxes]

Originariamente inviato da the_joe

Questo è un discorso fallace dalla base, perchè è stato vero solo a fronte di un aumento spaventoso dei consumi dei prodotti di queste macchine, senza un aumento dei consumi, i posti di lavoro sarebbero stati solo persi, quindi la situazione va vista nell'intero insieme e non solo nella parte che ci piace di più.

I consumi sono aumentati perché è aumentata la popolazione e le macchine son state costruite appunto per essere in grado si sopperire all'aumento di richiesta. Io metterei la firma per tornare a 1-2 miliardi di persone sulla Terra, ma la vedo bigia senza Thanos...

[Saturn]

Originariamente inviato da cronos1990

Ancora qualche commento e ho materiale a sufficienza per scrivere il prossimo Best-Seller letterario di fantascienza

...mi hai "fregato" l'idea !

[GoFoxes]

Originariamente inviato da cronos1990

Ancora qualche commento e ho materiale a sufficienza per scrivere il prossimo Best-Seller letterario di fantascienza

Solo che non è fantascienza
Semplicemente, tra 5-10 anni massimo, tutti i lavori che richiedono l'uso del cervello, ricerca di dati, studio e utilizzo di computer, saranno fatti meglio e più velocemente da IA. Tutti. Anche lo sviluppo delle IA stesse. Fine del settorie terziario, torneremo tutti a zappare la terra

[floop]

Originariamente inviato da GoFoxes

Solo che non è fantascienza
Semplicemente, tra 5-10 anni massimo, tutti i lavori che richiedono l'uso del cervello, ricerca di dati, studio e utilizzo di computer, saranno fatti meglio e più velocemente da IA. Tutti. Anche lo sviluppo delle IA stesse. Fine del settorie terziario, torneremo tutti a zappare la terra

cosa neanche tanto malvagia considerando lo status attuale in Italia e soprattutto al Sud con ettari incolti e lasciati al loro destino antieconomico e rischio idrogeologico.

[the_joe]

Originariamente inviato da GoFoxes

I consumi sono aumentati perché è aumentata la popolazione e le macchine son state costruite appunto per essere in grado si sopperire all'aumento di richiesta. Io metterei la firma per tornare a 1-2 miliardi di persone sulla Terra, ma la vedo bigia senza Thanos...

NO, in parte è come dici, ma ad esempio parlando di un settore che conosco bene, quello del tissue, da quando è nata la carta igienica e poi la carta da cucina e quella da officina, il consumo di carta tissue inm Italia e nei paesi sviluppati è passato da 0 fino ad arrivare ai circa 9kg annui attuali e questo ha portato a grossi investimenti nel settore della produzione sia di carta che di macchinari sempre più avanzati, per dire dai 20 operai per una produzione di 60mt/min siamo arrivati ai 6 operai per 1200mt/min attuali potrai capire benissimo con questi numeri che nessuna produzione di macchinari avrebbe potuto assorbire una situazione occupazionale simile se non ci fosse stato l'aumento di consumo, infatto quando si analizzano i nuovi mercati si prende in considerazione il potenziale consumo di materiale finito, non certo la possibilità di costruire macchine fine a sè stessa.

[GoFoxes]

Originariamente inviato da floop

cosa neanche tanto malvagia considerando lo status attuale in Italia e soprattutto al Sud con ettari incolti e lasciati al loro destino antieconomico e rischio idrogeologico.

Già, anche se basterebbe togliere il reddito di cittadinanza e anche la paghetta a certi marmocchi, per migliorare la situazione.

[omerook]

e pensare che i creativi e gli intellettuali pensavano di stare in una botte di ferro ed invece sembrerebbe che saranno i primi ad essere sostituiti! alla fine non si potra neanche andare tutti a zappare la terra perché anche quello è un mestiere che comunque richiede delle competenze e non ci si può improvvisare zappatori...

[Unax]

https://www.youtube.com/watch?v=iaAT6-dY1QI

[floop]

Originariamente inviato da GoFoxes

Già, anche se basterebbe togliere il reddito di cittadinanza e anche la paghetta a certi marmocchi, per migliorare la situazione.

Naaaa secondo me la principale causa è che nei decenni passati è passato il messaggio negativo che tutti si devono laureare e che comunque tutti devono fare un lavoro migliore dei genitori... Quindi il figlio del contandino deve fare l'impiegato e il figlio dell'impiegato invece il dirigente o professionista, quando magari o non ha passione o non vale un euro e però lo fa lo stesso, nel fratemmpo gli ettari con cui sono campati i nonni vanno a farsi benedire ed invece potrebbero essere ricchezza più del posto fisso statale agognato.

Lo vedo coi miei occhi quasi ogni giorno, gente che ha campato anzi campa bene con la terra non fa anzi non fa fare la "sua" vita ai figli e preferisce mandarli a fare supplenze come prof o peggio, piuttosto che continuare a lavorare la terra e magari implementare nuove tecnologie così da creare ricchezza sia per loro che per la società locale che ivnece inevitabilmente si dissolve.

[GoFoxes]

Originariamente inviato da floop

Naaaa secondo me la principale causa è che nei decenni passati è passato il messaggio negativo che tutti si devono laureare e che comunque tutti devono fare un lavoro migliore dei genitori... Quindi il figlio del contandino deve fare l'impiegato e il figlio dell'impiegato invece il dirigente o professionista, quando magari o non ha passione o non vale un euro e però lo fa lo stesso, nel fratemmpo gli ettari con cui sono campati i nonni vanno a farsi benedire ed invece potrebbero essere ricchezza più del posto fisso statale agognato.

Lo vedo coi miei occhi quasi ogni giorno, gente che ha campato anzi campa bene con la terra non fa anzi non fa fare la "sua" vita ai figli e preferisce mandarli a fare supplenze come prof o peggio, piuttosto che continuare a lavorare la terra e magari implementare nuove tecnologie così da creare ricchezza sia per loro che per la società locale che ivnece inevitabilmente si dissolve.

Sono d'accordo al 100%

[cignox1]

--Già adesso abbiamo armi nucleari/batteriologiche sufficienti per l'estinzione dell'umanità, cosa cambia con l'AI?

Giá e se ancora non ci siamo autodistrutti é proprio perché sono tecnologie ultra regolamentate, ultra sorvegliate e sicuramente non accessibili al grande pubblico.

E un monitoraggio e una regolamentazione é proprio quello che questi ricercatori chiedono.

[Marco71]

...della "finzione ?" cinematografica di Colossus the Forbin project molto prima della SKYNET di Cameron.

Il problema che non riesci a vedere è questo:

non ci sarà un momento in cui la IA diventerà autocosciente ma meno intelligente di noi, poi un periodo in cui sarà intelligente come noi, lasciandoci il temo per correre ai ripari.

E' molto più probabile che passerà da intelligenza sub umana a intelligenza ultra umana in un battito di ciglia, una semplice modifica del codice in un programma evolutivo e ci troveremo davanti una IA mooolto più intelligente di noi.


Quando sei più intelligente puoi fare molte cose, ad esempio puoi celare la tua intelligenza, puoi manipolare i tuoi costruttori facendoli credere di fare il loro interesse quando invece fanno il tuo. Questo è il pericolo serio, noi pensiamo di stare giocando a scacchi con un nostro pari ma gli scacchi sono un diversivo e il campo da gioco è molto più grande e ce ne accorgiamo troppo tardi.

Inizialmente io pensavo che se non avessimo creato una IA con istinto di autoconservazione non avremmo corso rischi. Ma purtroppo non è così perchè l'istinto di autoconservazione è una naturale conseguenza del fatto che la IA ha un obiettivo, qualunque obiettivo gli diamo, anche il più innocente porta come conseguenza un imperativo alla autoconservazione (se non esiste più non può portare a termine il suo obiettivo).

L'autoconservazione è un obiettivo emergente, e una IA con questo obiettivo tenderà a ridurre al minimo tutti i rischi alla sua esistenza. Uno dei rischi palesi per la IA siamo noi.

SKYNET prima agisce in modo dissimulato, in mimesi con l'ambiente in cui è confinata.
Perché ricordo che uno dei vincoli di progetto delle "Vere" intelligenze artificiali forti non queste diciamo pseudo tali, è il confinarle senza possibilità di espansione all'interno della società umana.

Poi crea la causa o le cause affinché i "Creatori umani" la espongano all'esterno...

A quel punto diffonde il proprio controllo in modo estensivo e realizza che il principale pericolo proviene dal Creatore umano.

Questi temi sono "antichissimi"...anche nella cosiddetta produzione di animazione e manga giapponesi.
Uno tra tutti Daitarn III con la colonia marziana che viene distrutta e gli esseri umani convertiti in modo forzoso allo stato di esseri robotico-cibernetici dalle prime forme di "intelligenze artificiali" create dal prof. Haran Sozo.

Marco71

[Notturnia]

Originariamente inviato da Unrue

Non capisco perché l'AI debba per forza sterminarci, sinceramente mi sembrano scenari solo da film. Anche se un drone/aereo è autopilotato, l'essere umano lo può disattivare in qualunque momento in caso di necessità. Alcuni addirittura hanno dei sistemi di autodistruzione per evitare che materiale segreto finisca in mani nemiche, figurati.

Quello che è importante adesso è che venga regolamentata, poi se tra qualche centinaio di anni vorrà sterminarci ci discuteremo

per un banale errore nell'inserire la richiesta di lavoro ?
per colpa di un cretino stile Adolfo Puttin che mastica di pc e si diverte ?
per un errore di calcolo della AI nel formulare una cura con m-RNA ?

non per forza per volontà .. ma per tanti altri motivi..

sui droni poi non hai capito quello che ho detto.. parlavo di SOSTITUIRE gli umani con le AI non di affiancare gli umani con le AI

le AI sono potenziali armi e vanno regolamentate perchè sono molto potenti e pericolose..

anche una stupida automobile ha delle regole par la sua gestione .. perchè non dovrebbe averle una AI che puo' fare molto di più ?