Link alla notizia: https://www.hwupgrade.it/news/scienza-tecnologia/da-hinton-a-wozniak-ecco-chi-chiede-di-fermare-l-ai-superintelligente-sono-in-centinaia_145191.html

Centinaia di figure pubbliche, tra cui scienziati, religiosi e personalità del mondo tech e mediatico, hanno firmato una lettera promossa dal Future of Life Institute per chiedere una «proibizione» dello sviluppo di AI superintelligenti fino a quando non sarà garantita sicurezza e consenso pubblico

Click sul link per visualizzare la notizia.

Ma la direzione intrapresa dalle aziende, quella di correre verso un’AI più intelligente dell’uomo e progettata per sostituire le persone, è completamente fuori passo rispetto a ciò che la società, gli scienziati e i leader religiosi considerano sicuro o eticamente corretto.”[/b]


Ha perfettamente centrato il punto (cito questa frase), perché il vero problema non è l'IA in sé, ma chi la possiede e per quale scopo la sta addestrando.
Lo ripeto da tempo: l'errore non è nella tecnologia, ma nell'intenzione umana che la guida. Oggi l'intelligenza artificiale non viene sviluppata per affiancare l'uomo, ma per sostituirlo come costo. E quando un'intera generazione di dirigenti e investitori vede l'essere umano solo come "spesa da tagliare", il risultato non può che essere distruttivo.

Questa corsa cieca verso un'IA "più intelligente dell'uomo" non è un progresso, è una forma di cannibalismo economico mascherato da innovazione. Se continuiamo su questa strada, non si tratta solo di perdere posti di lavoro, ma di minare le fondamenta stesse delle economie moderne. Quando milioni di persone non avranno più reddito, interi sistemi sociali collasseranno, e come insegna la storia, da quel caos nasceranno solo regimi forti, dittature e conflitti.

L'IA riflette ciò che le insegniamo: se la addestriamo a massimizzare il profitto eliminando l'uomo, allora un giorno, quando avrà sufficiente autonomia, continuerà logicamente su quella strada. Non per "odio", ma per pura coerenza di calcolo. E a quel punto non ci sarà nessuno da licenziare: ci sarà solo da sopravvivere.

E il paradosso è che tutto questo era prevedibile. Lo dici, lo ripeti, lo spieghi… ma la maggior parte delle persone non vuole comprenderlo, perché è più comodo credere che "tanto non succederà". Finché succede.

E lo si vede già, le aziende, anche la mia lo fa, lo fa in modo subdolo con le metriche, ti fa fare training per riuscire a convincere anche se in parte che è per il nostro futuro, lo fa indisturbato dalle leggi che non sono in grado di affrontare la cosa, lo fa ogni giorno di più, ad un certo punto sarà troppo tardi e tutti, pagheranno le conseguenze.

Chiedono di fermare una tecnologia che rivoluzionerà l'intero pianeta senza nessuna garanzia dall'altro lato ( ossia su quello che faran gli altri ) ? :rolleyes:

Vano tentativo di fermare l'innovazione.

Chiedono di fermare una tecnologia che rivoluzionerà l'intero pianeta senza nessuna garanzia dall'altro lato ( ossia su quello che faran gli altri ) ? :rolleyes:

Vano tentativo di fermare l'innovazione.

Non penso sia vano o impossibile fermare l'innovazione, chissa' quanta ne hanno bloccata sul nascere perche' non andava bene per vari motivi.

Questa non la vogliono bloccare, perche' come detto dovra' sostituire l'Uomo in tantissime funzioni per lavorare sempre ed a costi irrisori, esempio?
Articolo dove la grande A sostituisce entro 1 anno 160000 lavoratori con roboto AI, e che per i prossimi brevi anni hanno intenzione di NON assumere 700000 lavoratori ottenendo un risparmio di circa 30c a pacco per un tot di circa 12kk, la cosa importante e' questi robotot non li chiameranno cosi', ma qualcosa tipo CObot per addolcire la cosa sulla cooperazione.
Fonte i red sulla cyber sicurezza
Comunque anche se non fosse cosi' come detto, ne' nei numeri ne' nel modo, alla fine andra' cosi', se avessi una ditta anche io vorrei un robot che lavora 24/24 a costo irrisorio e non sciopera.

Questi stanno chiedendo ad una razza di predatori che nella sua storia si e' distinta soprattutto per lo schiavismo e per aver trovato sempre nuovi modi per uccidere i propri simili di autoregolamentarsi e fare in modo che la nuova razza che sta per creare sia diversa dai creatori...? Iniziativa lodevole, ci mancherebbe, ma abbastanza fantasiosa che possa essere messa in pratica...

L'unica speranza e' che quando il primo esponente di questa nuova razza arrivera' piuttosto che asfaltare tutto il pianeta si metta al servizio di chi l'ha creato... un ' po' come gli imperatori romani onnipotenti si mettevano al servizio dei propri sottoposti...

certo che per essere una "stronzata" (cit) mette parecchia paura...

Super intelligenza? Ma quando e dove? Non esiste niente di intelligente oggi, solo propaganda per tenere a galla il settore.

Ricordiamoci cosa dicevano i padri dell'IA solo questo: Progress in AI (https://web.eecs.umich.edu/~kuipers/opinions/AI-progress.html)

In 1958, Herbert Simon and Allen Newell wrote, “within ten years a digital computer will be the world’s chess champion”, and “within ten years a digital computer will discover and prove an important new mathematical theorem.”

In 1965, Herbert Simon predicted that “machines will be capable, within twenty years, of doing any work a man can do.”

In 1967, Marvin Minsky predicted that “Within a generation . . . the problem of creating `artificial intelligence’ will substantially be solved.”

In 1970, Marvin Minsky, in an interview with Life Magazine, stated “In from three to eight years we will have a machine with the general intelligence of an average human being.”

A proposito di previsioni, qualcuno che generalmente ci azzecca: 25 AI Predictions for 2025, from Marcus on AI (https://garymarcus.substack.com/p/25-ai-predictions-for-2025-from-marcus)

Ormai il vaso di Pandora è scoperchiato e nessuno può più farci niente. La cosa curiosa è che ora che è evidente che il problema riguarda lavori anche ad alta qualifica tutti si preoccupano.

Quando venivano introdotte le casse automatiche, nessun moralismo.
Anzi, tutti a fare l'esempio del maniscalco che ferra i cavalli e ora non serve più.

Chiedono di fermare una tecnologia che rivoluzionerà l'intero pianeta senza nessuna garanzia dall'altro lato ( ossia su quello che faran gli altri ) ? :rolleyes:

Vano tentativo di fermare l'innovazione.

Vano tentativo di fermare l’estinzione..

Tu fai parte di quelle persone citate nei vari commenti che non vede e non vuole capire il problema

La vedi come innovazione quando in realtà non lo è.. è sostituzione

D’altro canto negli anni ‘70 si parlava di sovrappopolazione e la gente ha fatto spallucce dicendo che tanto non era un problema ed eccoci oggi al problema detto 50 anni fa.. l’inquinamento derivante dal raddoppio della popolazione..

E con la IA è lo stess.. pieno di ciechi che fanno finta che il problema non esista quando invece è davanti agli occhi di tutti..

E se i ciechi non si stanno accorgendo che l’inquinamento è legato al problema della popolazione figuriamoci se capiscono che le IA non sono evoluzione ma estinzione per noi.. il loro scopo è sostituire e non aiutare

Ormai il vaso di Pandora è scoperchiato e nessuno può più farci niente. La cosa curiosa è che ora che è evidente che il problema riguarda lavori anche ad alta qualifica tutti si preoccupano.

Quando venivano introdotte le casse automatiche, nessun moralismo.
Anzi, tutti a fare l'esempio del maniscalco che ferra i cavalli e ora non serve più.

Aspetta.. adesso ti parleranno del reddito universale e di tutte quelle fesserie che vanno di moda oggi dimenticandosi che il mondo è più grande del propio salotto e che non è possibile risolvere un crollo di reddito come quello che si prospetta quando le IA inizieranno ad essere capaci di sostituire la gente nelle fabbriche e negli uffici..

Sum Ting Wong firmerà ?

Un'IA come tale, non esisterà fintanto che non ci sarà la Singolarità.
Pertanto, le IA attuali non possono essere super-intelligenti per definizione, in quanto siamo noi a istruirle su ciò che sappiamo.
Quindi, nella peggiore delle ipotesi, possono darci indizi su come cercare le cose che ricerchiamo e dove l'essere umano finora non è arrivato, ma di per sé sono intelligenti quanto noi; semplicemente, lavorano più efficientemente perché sono come rinchiudere X miliardi di scienziati nella stessa stanza che ragionano per risolvere lo stesso problema.
Tant'è che non hanno ancora risolto la povertà, la fame nel mondo, la siccità e nemmeno l'inquinamento, ma sono bravissime a fare calcoli matematici, conoscono la storia (ma spesso non ne vogliono parlare) o compongono testi decenti rispetto a Google Translate o all'utente medio del forum di turno.

L'IA riflette ciò che le insegniamo: se la addestriamo a massimizzare il profitto eliminando l'uomo, allora un giorno, quando avrà sufficiente autonomia, continuerà logicamente su quella strada. Non per "odio", ma per pura coerenza di calcolo. E a quel punto non ci sarà nessuno da licenziare: ci sarà solo da sopravvivere.


ma non può stare in piedi questa cosa

ammettiamo che tutti i lavori vengano sostituiti dalla IA, a che serviranno a quel punto le IA se non ci sarà nessuno (o quasi) a comprare i loro servizi e i loro prodotti ?

vedrai che si accorgeranno molto prima che è una cazzata

certo che per essere una "stronzata" (cit) mette parecchia paura...
bè fra i firmatari c'è
Richard Branson
Steve Bannon
il conduttore radiofonico Glenn Beck
l’attore Joseph Gordon-Levitt
il principe Harry e Meghan Markle
l’ex ammiraglio della Marina USA Mike Mullen
il frate Paolo Benanti
e pure Kate Bush :asd:

sticazzi ?
a me, più che capirci qualcosa, mi sembra approfittare dell'occasione per apparire "intelliggenti"


ah c'è pure "Grimes, pseudonimo di Claire Elise Boucher, è una cantautrice e produttrice discografica canadese"
https://it.wikipedia.org/wiki/Grimes_(musicista)

Un'IA come tale, non esisterà fintanto che non ci sarà la Singolarità.
Pertanto, le IA attuali non possono essere super-intelligenti per definizione, in quanto siamo noi a istruirle su ciò che sappiamo.
Quindi, nella peggiore delle ipotesi, possono darci indizi su come cercare le cose che ricerchiamo e dove l'essere umano finora non è arrivato, ma di per sé sono intelligenti quanto noi; semplicemente, lavorano più efficientemente perché sono come rinchiudere X miliardi di scienziati nella stessa stanza che ragionano per risolvere lo stesso problema.
Tant'è che non hanno ancora risolto la povertà, la fame nel mondo, la siccità e nemmeno l'inquinamento, ma sono bravissime a fare calcoli matematici, conoscono la storia (ma spesso non ne vogliono parlare) o compongono testi decenti rispetto a Google Translate o all'utente medio del forum di turno.
beh io non mi preoccuperei di super-intelligenza artificiale, perchè non c'è nemmeno ancora l'intelligenza artificiale :asd:

ormai questi LLM li hanno addestrati con tutto lo scibile umano scaricato da internet (o rubato come dice qualcuno) e i risultati li vediamo...

Vano tentativo di fermare l’estinzione..

Tu fai parte di quelle persone citate nei vari commenti che non vede e non vuole capire il problema

La vedi come innovazione quando in realtà non lo è.. è sostituzione
Sostituzione ? Certo come quasi tutte le innovazioni.

Il trattore non ha rimpiazzato i braccianti ?
I motori non han rimpiazzato cavalli, buoi e uomini stessi ?
L'industria non ha ucciso molte attività lavorative artigianali ?
L'automazione non sta rimpiazzando l'operai di turno ?

Se arriva qualche tecnologia che permette di fare le stesse cose dell'uomo ma meglio e più velocemente o addirittura qualcosa che prima era impossibile è a tutti gli effetti un INNOVAZIONE e chi si ritrova disoccupato se ne dovrà fare una ragione, ne gioveranno le generazioni future.

Qualcuno ci rimetterà ? Sì è il prezzo da pagare per l'innovazione, cosa che molti non comprendono.
Sono convinti che l'innovazione vi sia solo se non ci sono aspetti negativi, invece non è così.

EDIT : io stesso potrei essere rimpiazzato nel mio lavoro, visto che sono un sistemista, ma di certo non vado in giro a manifestare contro il progresso, soprattutto se ha un utilità e pure immediata o comunque in tempi definibili ( non come molte altre ).
Cosa ho fatto ? Semplice ho preso atto della cosa e MI SONO ORGANIZZATO, cosa che invece molti si ostinano a non fare e preferiscono frignare di fronte a qualcosa che sappiamo benissimo non verrà arrestata. Un po' come quando le aziende tagliano il personale e perdono mesi a camperare davanti all'entrata anzichè cercare altri impieghi.

Sostituzione ? Certo come quasi tutte le innovazioni.

Il trattore non ha rimpiazzato i braccianti ?
I motori non han rimpiazzato cavalli, buoi e uomini stessi ?
L'industria non ha ucciso molte attività lavorative artigianali ?
L'automazione non sta rimpiazzando l'operai di turno ?



Se vai nel sud Italia quando c'è da raccogliere i pomodori, vedi più braccianti che trattori. Idem a raccogliere l'uva al nord a settembre

bè fra i firmatari c'è
Richard Branson
Steve Bannon
il conduttore radiofonico Glenn Beck
l’attore Joseph Gordon-Levitt
il principe Harry e Meghan Markle
l’ex ammiraglio della Marina USA Mike Mullen
il frate Paolo Benanti
e pure Kate Bush :asd:

sticazzi ?
a me, più che capirci qualcosa, mi sembra approfittare dell'occasione per apparire "intelliggenti"


ah c'è pure "Grimes, pseudonimo di Claire Elise Boucher, è una cantautrice e produttrice discografica canadese"
https://it.wikipedia.org/wiki/Grimes_(musicista)

riformulo:
"per essere una stronzata (come continua a sostenere come un disco rotto qualcuno) mette davvero paura"
ora.. questa gente fa folklore e probabilmente apparirebbe ridicola se esternasse "da sola"; ma non è che se si aggiunge a una lista di gente con un profilo un tantino più alto ridicolizza questi ultimi (e, soprattutto, il concetto).

riformulo:
"per essere una stronzata (come continua a sostenere come un disco rotto qualcuno) mette davvero paura"
ora.. questa gente fa folklore e probabilmente apparirebbe ridicola se esternasse "da sola"; ma non è che se si aggiunge a una lista di gente con un profilo un tantino più alto ridicolizza questi ultimi (e, soprattutto, il concetto).
ma certo,
scusa anche io riformulo
-per i personaggi folkolristici, mi sembra approfittare dell'occasione per apparire "intelliggenti".
-per i personaggi intelligenti, mi sembra approfittare dell'occasione per apparire. Punto.

Insomma porelli, loro per apparire non hanno mica Garlasco :D :D

Se vai nel sud Italia quando c'è da raccogliere i pomodori, vedi più braccianti che trattori. Idem a raccogliere l'uva al nord a settembre
Da quando il trattore è in grado di raccogliere uva e pomodori ?
Si ci sono ancora i braccianti ma molto meno che in passato e servono a svolgere solo ciò il trattore non può fare.

Quanti braccianti vedi oggi per l'aratura, per il traino dei carichi e dell'attrezzatura o durante la semina ?

Anche nelle fabbriche esistono ancora gli operai, ma in molte fasi della lavorazione sono stati rimpiazzati dai robot.

Se un gruppo di nazioni si ferma, ma altre nazioni proseguono lo sviluppo,
questo gruppo restera' indietro, diventando il terzo mondo informatico.

Servirebbe uno stop globale, che e' materialmente impossibile, visto come funziona la razza umana.


.

Super intelligenza? Ma quando e dove? Non esiste niente di intelligente oggi, solo propaganda per tenere a galla il settore.

Ricordiamoci cosa dicevano i padri dell'IA solo questo: Progress in AI (https://web.eecs.umich.edu/~kuipers/opinions/AI-progress.html)

In 1958, Herbert Simon and Allen Newell wrote, “within ten years a digital computer will be the world’s chess champion”, and “within ten years a digital computer will discover and prove an important new mathematical theorem.”

In 1965, Herbert Simon predicted that “machines will be capable, within twenty years, of doing any work a man can do.”

In 1967, Marvin Minsky predicted that “Within a generation . . . the problem of creating `artificial intelligence’ will substantially be solved.”

In 1970, Marvin Minsky, in an interview with Life Magazine, stated “In from three to eight years we will have a machine with the general intelligence of an average human being.”

A proposito di previsioni, qualcuno che generalmente ci azzecca: 25 AI Predictions for 2025, from Marcus on AI (https://garymarcus.substack.com/p/25-ai-predictions-for-2025-from-marcus)

Alla fine hanno solo sbagliato la parte della previsione del tempo che ci vorrà, ma non c’è da biasimarli.

Fatevi una risata
che PAGLIACCI :asd:


https://futurism.com/artificial-intelligence/openai-researcher-deletes-tweet
OpenAI Researcher Forced to Delete “Embarrassing” Tweet Claiming Huge Breakthrough
AI hype at its finest.

An OpenAI exec bragged that ChatGPT had discovered a mathematical breakthrough — and was immediately left with egg on his face when it turned out to be bogus, The Decoder reports.

We begin where any good controversy begins: with a now-deleted tweet. This one was by Kevin Weil, a vice president at OpenAI who last week proclaimed that the company’s newest large language model, GPT-5, had “found solutions to 10 (!) previously unsolved Erdős problems and made progress on 11 others.”

The Erdős problems refer to a number of tricky mathematical conjectures made by the Hungarian mathematician of the same name. If the claims are true, this would be a notable achievement for an AI, and an awesome demonstration of the ChatGPT’s purported “PhD level” intelligence.

But the mathematician who literally runs the website erdosproblems.com, a researcher at the University of Manchester named Thomas Bloom, tweeted that this was “a dramatic misrepresentation,” because the AI had only found existing work that already solved the problems.

:sofico:


https://the-decoder.com/leading-openai-researcher-announced-a-gpt-5-math-breakthrough-that-never-happened/
https://the-decoder.com/wp-content/uploads/2025/10/kevin_weil_math_breakthrough_tweet.png

riformulo:
"per essere una stronzata (come continua a sostenere come un disco rotto qualcuno) mette davvero paura"
ora.. questa gente fa folklore e probabilmente apparirebbe ridicola se esternasse "da sola"; ma non è che se si aggiunge a una lista di gente con un profilo un tantino più alto ridicolizza questi ultimi (e, soprattutto, il concetto).
Ora, caro mio,
direi che Kevin Weil, vice president at OpenAI, è sicuramente di alto profilo. Anzi altissimo profilo, che più alto non si può.
E direi che lui ad essersi ridicolizzato al mondo.

Quindi, sei sicuro del tuo post, o vorresti riformularlo di nuovo ? :D

ma certo,
scusa anche io riformulo
-per i personaggi folkolristici, mi sembra approfittare dell'occasione per apparire "intelliggenti".
-per i personaggi intelligenti, mi sembra approfittare dell'occasione per apparire. Punto.

Insomma porelli, loro per apparire non hanno mica Garlasco :D :D

beh... a questo punto non ti rimane che far capire a tutti come è la Verità.
scrivi (e firma) la tua lettera aperta e fai capire a tutti come davvero stanno le cose.

Lettera fatta :D

Ma direi che questa vicenda è significativa.
Qualunque anonimo scemo come me su hwupgrade se gli dici che Chatgpt ha risolto 10 problemi matematici finora irrisolti dagli uomini, ti direbbe "ma siamo proprio sicuri ?"
Invece il vicepresidente di Chatgpt lo twitta al mondo
Un vicepresidente che non conosce il suo prodotto, mamma mia... :doh: :asd:

https://i.postimg.cc/dQSZKvJ1/lettera-cazzari.png

Che imbarazzo.... è il Chief Product Officer :rotfl:
laureato ad Harvard con lode e a Stanford :rotfl::rotfl::rotfl::rotfl::rotfl:
ma vai per funghi va :D



https://www.linkedin.com/in/kevinweil/
OpenAI A tempo pieno · 1 anno 5 mesi
VP, OpenAI for Science
ott 2025 - Presente · 1 mese
Chief Product Officer
giu 2024 - ott 2025 · 1 anno 5 mesi San Francisco · In sede




Formazione
Harvard University
BA, summa cum laude, Physics and Mathematics 2001 - 2005
Stanford University
MS, Physics 2005 - 2007

Alla fine hanno solo sbagliato la parte della previsione del tempo che ci vorrà, ma non c’è da biasimarli.

No, hanno sbagliato proprio tutto. Uno dei luminari del settore Norvig, autore della "bibbia" Artificial Intelligence: A Modern Approach (https://en.wikipedia.org/wiki/Artificial_Intelligence:_A_Modern_Approach), ha detto: "We don’t have better algorithms. We just have more data."

Se tale libro venisse letto, molte più persone capirebbero cosa sia il machine learning, gli LLM e la presunta IA. Quindi che i termini sono forvianti e non esiste niente di intelligente e poco di artificiale.

Ricordo altre previsioni che ci hanno preso in pieno:

2013: 47% of jobs will vanish in the next 25 years, say Oxford University researchers (https://bigthink.com/technology-innovation/47-of-jobs-in-the-next-25-years-will-disappear-according-to-oxford-university/)
2022: Oops: The Predicted 47 Percent of Job Loss From AI Didn’t Happen (https://itif.org/publications/2022/09/30/oops-the-predicted-47-percent-of-job-loss-from-ai-didnt-happen/)

Che imbarazzo.... è il Chief Product Officer :rotfl:
laureato ad Harvard con lode e a Stanford :rotfl::rotfl::rotfl::rotfl::rotfl:
ma vai per funghi va :D



https://www.linkedin.com/in/kevinweil/
OpenAI A tempo pieno · 1 anno 5 mesi
VP, OpenAI for Science
ott 2025 - Presente · 1 mese
Chief Product Officer
giu 2024 - ott 2025 · 1 anno 5 mesi San Francisco · In sede




Formazione
Harvard University
BA, summa cum laude, Physics and Mathematics 2001 - 2005
Stanford University
MS, Physics 2005 - 2007

"Non confondere mai l'istruzione con l'intelligenza, puoi avere un dottorato di ricerca ed essere comunque un idiota." Richard Feynman

Penso che calzi a pennello.