Da Hinton a Wozniak, ecco chi chiede di fermare l’AI superintelligente: sono in centinaia

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...ia_145191.html

Centinaia di figure pubbliche, tra cui scienziati, religiosi e personalità del mondo tech e mediatico, hanno firmato una lettera promossa dal Future of Life Institute per chiedere una «proibizione» dello sviluppo di AI superintelligenti fino a quando non sarà garantita sicurezza e consenso pubblico

Click sul link per visualizzare la notizia.

[AtaruGolan]

Originariamente inviato da Redazione di Hardware Upgrade

Ma la direzione intrapresa dalle aziende, quella di correre verso un’AI più intelligente dell’uomo e progettata per sostituire le persone, è completamente fuori passo rispetto a ciò che la società, gli scienziati e i leader religiosi considerano sicuro o eticamente corretto.”[/b]

Ha perfettamente centrato il punto (cito questa frase), perché il vero problema non è l'IA in sé, ma chi la possiede e per quale scopo la sta addestrando.
Lo ripeto da tempo: l'errore non è nella tecnologia, ma nell'intenzione umana che la guida. Oggi l'intelligenza artificiale non viene sviluppata per affiancare l'uomo, ma per sostituirlo come costo. E quando un'intera generazione di dirigenti e investitori vede l'essere umano solo come "spesa da tagliare", il risultato non può che essere distruttivo.

Questa corsa cieca verso un'IA "più intelligente dell'uomo" non è un progresso, è una forma di cannibalismo economico mascherato da innovazione. Se continuiamo su questa strada, non si tratta solo di perdere posti di lavoro, ma di minare le fondamenta stesse delle economie moderne. Quando milioni di persone non avranno più reddito, interi sistemi sociali collasseranno, e come insegna la storia, da quel caos nasceranno solo regimi forti, dittature e conflitti.

L'IA riflette ciò che le insegniamo: se la addestriamo a massimizzare il profitto eliminando l'uomo, allora un giorno, quando avrà sufficiente autonomia, continuerà logicamente su quella strada. Non per "odio", ma per pura coerenza di calcolo. E a quel punto non ci sarà nessuno da licenziare: ci sarà solo da sopravvivere.

E il paradosso è che tutto questo era prevedibile. Lo dici, lo ripeti, lo spieghi… ma la maggior parte delle persone non vuole comprenderlo, perché è più comodo credere che "tanto non succederà". Finché succede.

E lo si vede già, le aziende, anche la mia lo fa, lo fa in modo subdolo con le metriche, ti fa fare training per riuscire a convincere anche se in parte che è per il nostro futuro, lo fa indisturbato dalle leggi che non sono in grado di affrontare la cosa, lo fa ogni giorno di più, ad un certo punto sarà troppo tardi e tutti, pagheranno le conseguenze.

[Ripper89]

Chiedono di fermare una tecnologia che rivoluzionerà l'intero pianeta senza nessuna garanzia dall'altro lato ( ossia su quello che faran gli altri ) ?

Vano tentativo di fermare l'innovazione.

[UtenteHD]

Originariamente inviato da Ripper89

Chiedono di fermare una tecnologia che rivoluzionerà l'intero pianeta senza nessuna garanzia dall'altro lato ( ossia su quello che faran gli altri ) ?

Vano tentativo di fermare l'innovazione.

Non penso sia vano o impossibile fermare l'innovazione, chissa' quanta ne hanno bloccata sul nascere perche' non andava bene per vari motivi.

Questa non la vogliono bloccare, perche' come detto dovra' sostituire l'Uomo in tantissime funzioni per lavorare sempre ed a costi irrisori, esempio?
Articolo dove la grande A sostituisce entro 1 anno 160000 lavoratori con roboto AI, e che per i prossimi brevi anni hanno intenzione di NON assumere 700000 lavoratori ottenendo un risparmio di circa 30c a pacco per un tot di circa 12kk, la cosa importante e' questi robotot non li chiameranno cosi', ma qualcosa tipo CObot per addolcire la cosa sulla cooperazione.
Fonte i red sulla cyber sicurezza
Comunque anche se non fosse cosi' come detto, ne' nei numeri ne' nel modo, alla fine andra' cosi', se avessi una ditta anche io vorrei un robot che lavora 24/24 a costo irrisorio e non sciopera.

[xatrius]

Questi stanno chiedendo ad una razza di predatori che nella sua storia si e' distinta soprattutto per lo schiavismo e per aver trovato sempre nuovi modi per uccidere i propri simili di autoregolamentarsi e fare in modo che la nuova razza che sta per creare sia diversa dai creatori...? Iniziativa lodevole, ci mancherebbe, ma abbastanza fantasiosa che possa essere messa in pratica...

L'unica speranza e' che quando il primo esponente di questa nuova razza arrivera' piuttosto che asfaltare tutto il pianeta si metta al servizio di chi l'ha creato... un ' po' come gli imperatori romani onnipotenti si mettevano al servizio dei propri sottoposti...

[randorama]

certo che per essere una "stronzata" (cit) mette parecchia paura...

[pachainti]

Super intelligenza? Ma quando e dove? Non esiste niente di intelligente oggi, solo propaganda per tenere a galla il settore.

Ricordiamoci cosa dicevano i padri dell'IA solo questo: Progress in AI

In 1958, Herbert Simon and Allen Newell wrote, “within ten years a digital computer will be the world’s chess champion”, and “within ten years a digital computer will discover and prove an important new mathematical theorem.”

In 1965, Herbert Simon predicted that “machines will be capable, within twenty years, of doing any work a man can do.”

In 1967, Marvin Minsky predicted that “Within a generation . . . the problem of creating `artificial intelligence’ will substantially be solved.”

In 1970, Marvin Minsky, in an interview with Life Magazine, stated “In from three to eight years we will have a machine with the general intelligence of an average human being.”

A proposito di previsioni, qualcuno che generalmente ci azzecca: 25 AI Predictions for 2025, from Marcus on AI

[das]

Ormai il vaso di Pandora è scoperchiato e nessuno può più farci niente. La cosa curiosa è che ora che è evidente che il problema riguarda lavori anche ad alta qualifica tutti si preoccupano.

Quando venivano introdotte le casse automatiche, nessun moralismo.
Anzi, tutti a fare l'esempio del maniscalco che ferra i cavalli e ora non serve più.

[Notturnia]

Originariamente inviato da Ripper89

Chiedono di fermare una tecnologia che rivoluzionerà l'intero pianeta senza nessuna garanzia dall'altro lato ( ossia su quello che faran gli altri ) ?

Vano tentativo di fermare l'innovazione.

Vano tentativo di fermare l’estinzione..

Tu fai parte di quelle persone citate nei vari commenti che non vede e non vuole capire il problema

La vedi come innovazione quando in realtà non lo è.. è sostituzione

D’altro canto negli anni ‘70 si parlava di sovrappopolazione e la gente ha fatto spallucce dicendo che tanto non era un problema ed eccoci oggi al problema detto 50 anni fa.. l’inquinamento derivante dal raddoppio della popolazione..

E con la IA è lo stess.. pieno di ciechi che fanno finta che il problema non esista quando invece è davanti agli occhi di tutti..

E se i ciechi non si stanno accorgendo che l’inquinamento è legato al problema della popolazione figuriamoci se capiscono che le IA non sono evoluzione ma estinzione per noi.. il loro scopo è sostituire e non aiutare

[Notturnia]

Originariamente inviato da das

Ormai il vaso di Pandora è scoperchiato e nessuno può più farci niente. La cosa curiosa è che ora che è evidente che il problema riguarda lavori anche ad alta qualifica tutti si preoccupano.

Quando venivano introdotte le casse automatiche, nessun moralismo.
Anzi, tutti a fare l'esempio del maniscalco che ferra i cavalli e ora non serve più.

Aspetta.. adesso ti parleranno del reddito universale e di tutte quelle fesserie che vanno di moda oggi dimenticandosi che il mondo è più grande del propio salotto e che non è possibile risolvere un crollo di reddito come quello che si prospetta quando le IA inizieranno ad essere capaci di sostituire la gente nelle fabbriche e negli uffici..

[Gnubbolo]

Sum Ting Wong firmerà ?

[SpyroTSK]

Un'IA come tale, non esisterà fintanto che non ci sarà la Singolarità.
Pertanto, le IA attuali non possono essere super-intelligenti per definizione, in quanto siamo noi a istruirle su ciò che sappiamo.
Quindi, nella peggiore delle ipotesi, possono darci indizi su come cercare le cose che ricerchiamo e dove l'essere umano finora non è arrivato, ma di per sé sono intelligenti quanto noi; semplicemente, lavorano più efficientemente perché sono come rinchiudere X miliardi di scienziati nella stessa stanza che ragionano per risolvere lo stesso problema.
Tant'è che non hanno ancora risolto la povertà, la fame nel mondo, la siccità e nemmeno l'inquinamento, ma sono bravissime a fare calcoli matematici, conoscono la storia (ma spesso non ne vogliono parlare) o compongono testi decenti rispetto a Google Translate o all'utente medio del forum di turno.

[aqua84]

Originariamente inviato da AtaruGolan

L'IA riflette ciò che le insegniamo: se la addestriamo a massimizzare il profitto eliminando l'uomo, allora un giorno, quando avrà sufficiente autonomia, continuerà logicamente su quella strada. Non per "odio", ma per pura coerenza di calcolo. E a quel punto non ci sarà nessuno da licenziare: ci sarà solo da sopravvivere.

ma non può stare in piedi questa cosa

ammettiamo che tutti i lavori vengano sostituiti dalla IA, a che serviranno a quel punto le IA se non ci sarà nessuno (o quasi) a comprare i loro servizi e i loro prodotti ?

vedrai che si accorgeranno molto prima che è una cazzata

[barzokk]

Originariamente inviato da randorama

certo che per essere una "stronzata" (cit) mette parecchia paura...

bè fra i firmatari c'è
Richard Branson
Steve Bannon
il conduttore radiofonico Glenn Beck
l’attore Joseph Gordon-Levitt
il principe Harry e Meghan Markle
l’ex ammiraglio della Marina USA Mike Mullen
il frate Paolo Benanti
e pure Kate Bush

sticazzi ?
a me, più che capirci qualcosa, mi sembra approfittare dell'occasione per apparire "intelliggenti"


ah c'è pure "Grimes, pseudonimo di Claire Elise Boucher, è una cantautrice e produttrice discografica canadese"
https://it.wikipedia.org/wiki/Grimes_(musicista)

[barzokk]

Originariamente inviato da SpyroTSK

Un'IA come tale, non esisterà fintanto che non ci sarà la Singolarità.
Pertanto, le IA attuali non possono essere super-intelligenti per definizione, in quanto siamo noi a istruirle su ciò che sappiamo.
Quindi, nella peggiore delle ipotesi, possono darci indizi su come cercare le cose che ricerchiamo e dove l'essere umano finora non è arrivato, ma di per sé sono intelligenti quanto noi; semplicemente, lavorano più efficientemente perché sono come rinchiudere X miliardi di scienziati nella stessa stanza che ragionano per risolvere lo stesso problema.
Tant'è che non hanno ancora risolto la povertà, la fame nel mondo, la siccità e nemmeno l'inquinamento, ma sono bravissime a fare calcoli matematici, conoscono la storia (ma spesso non ne vogliono parlare) o compongono testi decenti rispetto a Google Translate o all'utente medio del forum di turno.

beh io non mi preoccuperei di super-intelligenza artificiale, perchè non c'è nemmeno ancora l'intelligenza artificiale

ormai questi LLM li hanno addestrati con tutto lo scibile umano scaricato da internet (o rubato come dice qualcuno) e i risultati li vediamo...

[Ripper89]

Originariamente inviato da Notturnia

Vano tentativo di fermare l’estinzione..

Tu fai parte di quelle persone citate nei vari commenti che non vede e non vuole capire il problema

La vedi come innovazione quando in realtà non lo è.. è sostituzione

Sostituzione ? Certo come quasi tutte le innovazioni.

Il trattore non ha rimpiazzato i braccianti ?
I motori non han rimpiazzato cavalli, buoi e uomini stessi ?
L'industria non ha ucciso molte attività lavorative artigianali ?
L'automazione non sta rimpiazzando l'operai di turno ?

Se arriva qualche tecnologia che permette di fare le stesse cose dell'uomo ma meglio e più velocemente o addirittura qualcosa che prima era impossibile è a tutti gli effetti un INNOVAZIONE e chi si ritrova disoccupato se ne dovrà fare una ragione, ne gioveranno le generazioni future.

Qualcuno ci rimetterà ? Sì è il prezzo da pagare per l'innovazione, cosa che molti non comprendono.
Sono convinti che l'innovazione vi sia solo se non ci sono aspetti negativi, invece non è così.

EDIT : io stesso potrei essere rimpiazzato nel mio lavoro, visto che sono un sistemista, ma di certo non vado in giro a manifestare contro il progresso, soprattutto se ha un utilità e pure immediata o comunque in tempi definibili ( non come molte altre ).
Cosa ho fatto ? Semplice ho preso atto della cosa e MI SONO ORGANIZZATO, cosa che invece molti si ostinano a non fare e preferiscono frignare di fronte a qualcosa che sappiamo benissimo non verrà arrestata. Un po' come quando le aziende tagliano il personale e perdono mesi a camperare davanti all'entrata anzichè cercare altri impieghi.

[Alodesign]

Originariamente inviato da Ripper89

Sostituzione ? Certo come quasi tutte le innovazioni.

Il trattore non ha rimpiazzato i braccianti ?
I motori non han rimpiazzato cavalli, buoi e uomini stessi ?
L'industria non ha ucciso molte attività lavorative artigianali ?
L'automazione non sta rimpiazzando l'operai di turno ?

Se vai nel sud Italia quando c'è da raccogliere i pomodori, vedi più braccianti che trattori. Idem a raccogliere l'uva al nord a settembre

[randorama]

Originariamente inviato da barzokk

bè fra i firmatari c'è
Richard Branson
Steve Bannon
il conduttore radiofonico Glenn Beck
l’attore Joseph Gordon-Levitt
il principe Harry e Meghan Markle
l’ex ammiraglio della Marina USA Mike Mullen
il frate Paolo Benanti
e pure Kate Bush

sticazzi ?
a me, più che capirci qualcosa, mi sembra approfittare dell'occasione per apparire "intelliggenti"


ah c'è pure "Grimes, pseudonimo di Claire Elise Boucher, è una cantautrice e produttrice discografica canadese"
https://it.wikipedia.org/wiki/Grimes_(musicista)

riformulo:
"per essere una stronzata (come continua a sostenere come un disco rotto qualcuno) mette davvero paura"
ora.. questa gente fa folklore e probabilmente apparirebbe ridicola se esternasse "da sola"; ma non è che se si aggiunge a una lista di gente con un profilo un tantino più alto ridicolizza questi ultimi (e, soprattutto, il concetto).

[barzokk]

Originariamente inviato da randorama

riformulo:
"per essere una stronzata (come continua a sostenere come un disco rotto qualcuno) mette davvero paura"
ora.. questa gente fa folklore e probabilmente apparirebbe ridicola se esternasse "da sola"; ma non è che se si aggiunge a una lista di gente con un profilo un tantino più alto ridicolizza questi ultimi (e, soprattutto, il concetto).

ma certo,
scusa anche io riformulo
-per i personaggi folkolristici, mi sembra approfittare dell'occasione per apparire "intelliggenti".
-per i personaggi intelligenti, mi sembra approfittare dell'occasione per apparire. Punto.

Insomma porelli, loro per apparire non hanno mica Garlasco

[Ripper89]

Originariamente inviato da Alodesign

Se vai nel sud Italia quando c'è da raccogliere i pomodori, vedi più braccianti che trattori. Idem a raccogliere l'uva al nord a settembre

Da quando il trattore è in grado di raccogliere uva e pomodori ?
Si ci sono ancora i braccianti ma molto meno che in passato e servono a svolgere solo ciò il trattore non può fare.

Quanti braccianti vedi oggi per l'aratura, per il traino dei carichi e dell'attrezzatura o durante la semina ?

Anche nelle fabbriche esistono ancora gli operai, ma in molte fasi della lavorazione sono stati rimpiazzati dai robot.