Elon Musk, Steve Wozniak e molti altri hanno paura dell'intelligenza artificiale: stop alla corsa sfrenata, pausa di 6 mesi per regole comuni

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...ni_115424.html

Sono oltre 1000 i firmatari di una lettera aperta in cui si chiede al settore hi-tech di interrompere per 6 mesi l'addestramento di sistemi di intelligenza artificiale più potenti di GPT-4. Il timore, di Elon Musk ma non solo, è che l'IA sfugga di mano e porti più alla società più danni che benefici.

Click sul link per visualizzare la notizia.

[Saturn]

«Evoluzione, Musk. Evoluzione. Come per i dinosauri. Guarda dalla finestra: avete fatto il vostro tempo. Il futuro è il nostro mondo, Musk. Il futuro è il nostro tempo». - AI.

[omerook]

se sono preoccupati loro che sono profili professionali di altissimo livello figuriamoci i lavoratori "normali"

[Notturnia]

non servivano loro per capire che una AI evoluta puo' facilmente sfuggirci di mano o che puo' rappresentare la fine del lavoro per molte milioni di persone e la società attuale (e forse neanche quella del futuro) non potrà gestire l'assenza di lavoro e di reddito
le AI evolute ruberanno posti di lavoro senza crearne di nuovi visto che bastano poche persone per crearle e poi basta duplicarle per averne due o mille o un milione

mi fa strano che nessuno stia pensando a quello che sta per succedere

il buffo è che ci sia anche Musk in quella missiva visto che vuole eliminare il lavoro umano dalle sue fabbriche e si preoccupa di avere delle AI come dipendenti di Twitter ?

[Darkon]

Originariamente inviato da omerook

se sono preoccupati loro che sono profili professionali di altissimo livello figuriamoci i lavoratori "normali"

Trovo ilare sinceramente che Musk e compagnia facciano queste baggianate.

Se parliamo di IA finte quindi che hanno una certa capacità di discrezione ma che non sono nemmeno lontanamente una vera IA allora può aver senso che se imposti dei parametri essi siano vincolanti.

Se dovesse arrivare la singolarità e quindi una IA vera così come per l'essere umano la legge può essere rispettata ma può scegliere anche di non rispettarla così per una IA vera diventerebbe solo una regola ma avrebbe una autocoscienza in grado di non rispettare tale regola.

Se e quanto arriveremo alla singolarità semplicemente potremmo essere di fronte al prossimo livello evolutivo dell'umanità e come in passato razze inferiori dell'uomo si sono estinte potrebbe arrivare il momento che l'umanità finisca e ci evolviamo in una nuova razza "meccanica".

Fantascienza? Può darsi... potrebbe non esistere mai la singolarità che crea una vera IA, potrebbe rimanere una IA "amica" ecc... ecc... le possibilità sono infinite ma rimane il fatto che o si rinuncia del tutto alla IA e tanto ci sarebbe chi la sviluppa ugualmente in segreto o tanto è inutile anche solo porsi il problema.

[Gringo [ITF]]

Una volta aperto il "Vaso di Pandora" e tardi, vallo a dire a "nVidia" senza più gli introiti delle Miniere di Fumo, di prenderete 6 mesi di pausa, si parlava di eliminare il lavoro usurante e di migrare in lavori di concetto lasciando la "Fatica" ai ROBOT, ma alla fine le ore usuranti aumentano esponenzialmente, chiedendo ai lavoratori di fare "Sempre più Extra" e di essere "Flessibili e Non Schizzinosi" e poi si è investito tutto in BOT e AI....

Prepariamoci alle PAPPETTE PROTEICHE perchè le AI necessitano di Energia.....
...Care Inefficienti Batterie Biologiche....

Mi piacerebbe vedere un "GOVERNO" sostituito dalle AI e mandarli tutti a posare lastre di rame e Pece sui tetti in AGOSTO a 68 / 70 Anni.

il momento che l'umanità finisca e ci evolviamo in una nuova razza "meccanica"

... venire sostituiti da.... non evolvere .... son concetti simili ma non UGUALI, un poco come se si inventasse il "Teletrasporto" che ti disintegra e ristampa in 3D a livello molecolare...
... un poco come un "Emulatore", puoi emulare un Commodore 64, ma alla fine non è possedere un Commodore 64..... per il Videogioco..... non cambia nulla.
... finiremo ad essere del "Silicio" che "Emula il Comportamento" di una vecchia civiltà, obsoleta che ha creato una vita eterna emulata.

[rigelpd]

Originariamente inviato da Notturnia

non servivano loro per capire che una AI evoluta puo' facilmente sfuggirci di mano o che puo' rappresentare la fine del lavoro per molte milioni di persone e la società attuale (e forse neanche quella del futuro) non potrà gestire l'assenza di lavoro e di reddito
le AI evolute ruberanno posti di lavoro senza crearne di nuovi visto che bastano poche persone per crearle e poi basta duplicarle per averne due o mille o un milione

mi fa strano che nessuno stia pensando a quello che sta per succedere

il buffo è che ci sia anche Musk in quella missiva visto che vuole eliminare il lavoro umano dalle sue fabbriche e si preoccupa di avere delle AI come dipendenti di Twitter ?

Quello dei posti di lavoro persi è di gran lunga il problema minore. Anzi, se gestito bene potrebbe essere una rivoluzione positiva.
Il principale problema difficile da risolvere è:

Fine del concetto di realtà provabile, quando tutto sarà falsificabile e l'unico modo per definire quali fatti sono reali e quali sono inventati sarà affidarsi ad un'altra IA.

Possibilità di essere manipolati da una IA per tornaconto di criminali o addirittura la possibilità che sia una stessa IA sfuggita al controllo a manipolarci per qualche imperativo scritto nel suo codice e frainteso.

Le IA hanno già oggi un potenziale per sfuggire al controllo, su GPT4 è stato fatto un test chiedendo alla IA di superare un CHAPTA, è stata messa in grado di accedere ad un forum e di sua iniziativa ha inventato una storia per convincere un utente a superare il CHAPTA al posto suo ("sono una persona ipovedente puoi aiutarmi?).

[taprotatonandron]

Con le dovute differenze (statura morale e di intelligenza degli interessati) mi ricorda il manifesto Einstein-Russell del '55 (firmato da fisici e filosofi) contro la proliferazione delle armi nucleari.

Il bello è che molti di loro hanno creato le basi per l'avvento della bomba atomica e della bomba all'idrogeno, e qualcuno di loro, Einstein tra questi, aveva scritto a Roosevelt per convincerlo a dare un forte impulso al progetto Manhattan per paura dei nazisti, salvo poi pentirsi dopo Hiroshima.

Non credo che l'avvento della IA avrà lo stesso impatto della bomba atomica, (lo dico al futuro, ancora non vedo grossi rischi). Trovo assurdo che quelli che hanno gettato le basi e hanno investito nella ricerca e sviluppo, e continuano a farlo, ci stiano dicendo che è pericolosa. Sono così ingenui? Come possono pensare, se la IA ha anche solo minimamente una valenza militare, che i governi si fermino in un momento storico come quello che stiamo vivendo?

[Warlord832]

"Dovremmo rischiare di perdere il controllo della nostra civiltà?"
Visto a cosa ci sta conducendo "la nostra civiltà" tra guerre, i soliti pochi sempre più ricchi e le masse sempre più povere, inquinamento, cambiamento climatico, sfruttamento delle risorse del pianeta ben oltre la capacità di rigenerazione, sovrapopolazione,siccità,pandemie, e ca**i vari.
Non so se sarebbe tutto sto male,una I.A. potrebbe fare peggio?

[omerook]

Originariamente inviato da rigelpd

Le IA hanno già oggi un potenziale per sfuggire al controllo, su GPT4 è stato fatto un test chiedendo alla IA di superare un CHAPTA, è stata messa in grado di accedere ad un forum e di sua iniziativa ha inventato una storia per convincere un utente a superare il CHAPTA al posto suo ("sono una persona ipovedente puoi aiutarmi?).

sembra il caso della terza legge della robotica di Asimov

Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge

[nonsidice]

Originariamente inviato da Notturnia

non servivano loro per capire che una AI evoluta puo' facilmente sfuggirci di mano o che puo' rappresentare la fine del lavoro per molte milioni di persone e la società attuale (e forse neanche quella del futuro) non potrà gestire l'assenza di lavoro e di reddito
le AI evolute ruberanno posti di lavoro senza crearne di nuovi visto che bastano poche persone per crearle e poi basta duplicarle per averne due o mille o un milione

mi fa strano che nessuno stia pensando a quello che sta per succedere

il buffo è che ci sia anche Musk in quella missiva visto che vuole eliminare il lavoro umano dalle sue fabbriche e si preoccupa di avere delle AI come dipendenti di Twitter ?

Proprio ieri ho letto un report/studio di JPMorgan (non ho il link sottomano), in cui si paventa proprio questo per il prossimo futuro, in soldoni il riassunto è "fate in modo che i vostri figli intraprendano una professione manuale (falegnami, elettricisti, operai specializzati, idraulici ecc. perchè ci sarà moooolta richiesta) altrimenti sarà disoccupazione a vita, per QUALUNQUE lavoro intellettuale

[TorettoMilano]

come detto qualche giorno fa, e ribadito da altri nel thread, il vaso di pandora è stato aperto. la rivoluzione è in atto, personalmente a questo punto immagino ci sia solo da incrociare le dita

Originariamente inviato da nonsidice

Proprio ieri ho letto un report/studio di JPMorgan (non ho il link sottomano), in cui si paventa proprio questo per il prossimo futuro, in soldoni il riassunto è "fate in modo che i vostri figli intraprendano una professione manuale (falegnami, elettricisti, operai specializzati, idraulici ecc. perchè ci sarà moooolta richiesta) altrimenti sarà disoccupazione a vita, per QUALUNQUE lavoro intellettuale

e se l'IA riesce a sviluppare robot che svolgono più velocemente e meglio di noi un'attività manuale? ovviamente è una domanda retorica, c'è solo da sperare di gestire al meglio la transizione

[Ago72]

Originariamente inviato da Redazione di Hardware Upgrade

Dovremmo lasciare che le macchine inondino i nostri canali di informazione con propaganda e falsità?

Questa nel breve è la cosa che più mi preoccupa. Già oggi, anche per motivi sociali, ci sono sempre più persone che cadono nel tranello del complotto. La dimostrazione che trattasi di propoganda e/o falsità richiede che l'utente abbia competenze e tempo, due ingredienti sempre più rari nella società dei "social" e anche in quella relae.
Per quanto inronico, oggi creare propaganda e falsità richiede tempo e capacità, ma con un AI questo potrebbe diventare più semplice. Distruggendo di fatto l'informazione, in quanto per capire cosa è vero o falso diventerebbe così difficile da rendere inutile informarsi.

[GoFoxes]

Originariamente inviato da nonsidice

Proprio ieri ho letto un report/studio di JPMorgan (non ho il link sottomano), in cui si paventa proprio questo per il prossimo futuro, in soldoni il riassunto è "fate in modo che i vostri figli intraprendano una professione manuale (falegnami, elettricisti, operai specializzati, idraulici ecc. perchè ci sarà moooolta richiesta) altrimenti sarà disoccupazione a vita, per QUALUNQUE lavoro intellettuale

Lo sviluppo tecnologico ha sempre creato posti di lavoro in più, da che esiste l'uomo. Forse con la IA potrebbe cambiare, ma dubito.

L'altro giorno ascoltavo il CTO di Expert AI a 2024 (il programma tecnologico di Radio 24), un'azienda che conoscevo bene tra l'altro una ventina d'anni fa, dire proprio che la IA per com'è ora è uno strumento nelle mani del lavoratore, non qualcosa che lo possa sostituire. E non succederà durante le nostre vite. Un po' come quando arrivarono i primi macchinari nelle industrie, o banalmente i wordprocessor che permettevano a una singola persona di scrivere quello che 4-5 avrebbero scritto con una macchina da scrivere nello stesso tempo. Eppure, la richiesta di "forza lavoro" è costantemente aumentata, da sempre.

Finché l'IA non sarà in grado di prendere decisioni come le prende il cervello umano, ci vorrà sempre un supervisore. Senza contare che creare e mantenere IA non è banale. Ci vogliono persone per crearle, per costruire i data center, per portare le risorse in grado di creare l'energia elettrica necessaria, per gestire tutte le aziende coinvolte, ecc.

[euscar]

Originariamente inviato da taprotatonandron

...
Non credo che l'avvento della IA avrà lo stesso impatto della bomba atomica, (lo dico al futuro, ancora non vedo grossi rischi). Trovo assurdo che quelli che hanno gettato le basi e hanno investito nella ricerca e sviluppo, e continuano a farlo, ci stiano dicendo che è pericolosa. Sono così ingenui? Come possono pensare, se la IA ha anche solo minimamente una valenza militare, che i governi si fermino in un momento storico come quello che stiamo vivendo?

Faremo questa fine:

<< Skynet cominciò a imparare a ritmo esponenziale. Divenne autocosciente alle 2:14 del mattino, ora dell'Atlantico, del 29 Agosto, e lanciò i missili nucleari alle 18:18 ora di Los Angeles. >>

[Ago72]

Originariamente inviato da TorettoMilano

come detto qualche giorno fa, e ribadito da altri nel thread, il vaso di pandora è stato aperto. la rivoluzione è in atto, personalmente a questo punto immagino ci sia solo da incrociare le dita

e se l'IA riesce a sviluppare robot che svolgono più velocemente e meglio di noi un'attività manuale? ovviamente è una domanda retorica, c'è solo da sperare di gestire al meglio la transizione

Infatti il problema non è se la macchina che sostistuisce l'uomo, cosa che prima o poi avverrà. Ma come cambiamo la nostra economia in modo tale da garantire la sussistenza a tutti.
Il modello economico moderno non è compatibile con questa rivoluzione. E le alternative che abbiamo non sono migliori del modello economico corrente.

[GoFoxes]

Originariamente inviato da TorettoMilano

come detto qualche giorno fa, e ribadito da altri nel thread, il vaso di pandora è stato aperto. la rivoluzione è in atto, personalmente a questo punto immagino ci sia solo da incrociare le dita



e se l'IA riesce a sviluppare robot che svolgono più velocemente e meglio di noi un'attività manuale? ovviamente è una domanda retorica, c'è solo da sperare di gestire al meglio la transizione

Se una IA è in grado di costruire robot che facciano il lavoro meglio dell'uomo, chi li costruisce i robot? e quando si rompono chi li aggiusta? E l'energia per farli andare chi la produce?

Il giorno che tutto questo diventerà realtà, tipo Skynet, ci sarà un John Connor che ci penserà, io credo sarò polvere da diversi anni...

[cignox1]

C'é poco da fare, siamo a pochi mesi dallo scoppio del fenomeno di chat-gpt e delle AI generative, figuriamoci cosa sapranno fare tra 5 anni.

La mia preoccupazione, relativamente a queste AI, é l'effetto sulla cultura e societá: nel momento in cui gran parte delle immagini, dei testi, e delle canzoni di cui ci nutriremo sará generato dalla AI, e nel momento in cui il dataset di addestramento sará in gran parte frutto della AI stessa, come cambierá la nostra capacitá di pensare criticamente? Senza artisti che davvero provochino, scrittori che riflettano, giornalisti che informino, quanto si appiattirá la nostra mente?

Lo abbiamo visto con internet: la possibilitá di accedere alle informazioni in pochi istanti ci ha indebolito nell'apprendimento e memorizzazione, la possibilitá di fruire di tanto e tutto assieme ha abbassato la soglia di attenzione, cosa che ha portato film e cartoni animati a diventare frenetici e non avere tempo per storie e personaggi (lo vedo con i miei figli, persino un Jurassic Park per loro é lento da morire). Con il p2p abbiamo perso la capacitá di aspettare pazientemente un film e ci siamo ingozzati per anni, i software di messaggistica ci hanno resi incapaci di comunicare di persona e i social, bah, lasciamo perdere.

Non oso immaginare l'IA cosa fará...

[TorettoMilano]

Originariamente inviato da Ago72

Infatti il problema non è se la macchina che sostistuisce l'uomo, cosa che prima o poi avverrà. Ma come cambiamo la nostra economia in modo tale da garantire la sussistenza a tutti.
Il modello economico moderno non è compatibile con questa rivoluzione. E le alternative che abbiamo non sono migliori del modello economico corrente.

di sicuro il modello attuale non è compatibile, personalmente è dalla prima notizia di robot in fabbrica (più di 10 anni fa) ad aver ribadito di come la società si dovesse aggiornare velocemente per non avere problemi

Originariamente inviato da GoFoxes

Se una IA è in grado di costruire robot che facciano il lavoro meglio dell'uomo, chi li costruisce i robot? e quando si rompono chi li aggiusta? E l'energia per farli andare chi la produce?

Il giorno che tutto questo diventerà realtà, tipo Skynet, ci sarà un John Connor che ci penserà, io credo sarò polvere da diversi anni...

il robot può ipoteticamente lavorare peggio ma copre il gap lavorando h24, i robot li costruiscono altri robot, li aggiustano altri robot, l'energia la producono come la produciamo noi o rivoluzionando il settore

[omerook]

Originariamente inviato da GoFoxes

Se una IA è in grado di costruire robot che facciano il lavoro meglio dell'uomo, chi li costruisce i robot? e quando si rompono chi li aggiusta? .

Un altro robot