OpenAI, abbandona il responsabile del progetto AGI: "il mondo non è pronto"

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...to_132168.html

In un lungo intervento su Substack il responsabile del progetto AGI condivide le sue motivazioni che l'hanno portato ad abbandonare la società. Il desiderio di un impegno più libero e indipendende

Click sul link per visualizzare la notizia.

[cignox1]

Quello che mi incuriosisce é che queste preoccupazioni non vengono espresse solo da qualche luddista chee ha visto troppi film, ma anche da esponenti del settore, che conoscono bene lo stato attuale e i prossimi sviluppi...

[pachainti]

Ma quale AGI?
Sono solo generatori di stronzate.
ChatGPT is bullshit

[Gnubbolo]

sono spaventati dal fatto che se l'AI scopre qualcosa di serio le aziende e fondi che hanno sponsorizzato alzaranno i tacchi e ciao.
che se fa se degli enti autonomi, società non controllate quindi società di gentili che non sono collegate alla Borsa.. iniziassero a sfornare idee nuove e scoperte sensazionali a cadenza giornaliera ?
lo sappiamo chi controlla la Borsa no ? Fuld, Fink, Schwarzman e amici non si fanno fottere dal primo pincopallo che mette le mani sulla sfera di cristallo dai..

[Gnubbolo]

i primi titoli che saltano sono i farmaceutici, poi gli energetici.
i farmaceutici che campano sui brevetti sono i primi sicuramente, ci sono tantissimi farmaci nel cassetto che non vengono prodotti per questioni commerciali, se l'AI in mano a pincopalli trova alternative gratuite è un disastro per i colossi.
gli energetici e chimica saltano in sei mesi.. vivono di controllo sui brevetti.

dico anche che il mondo sicuramente cambierà nei prossimi 5 anni, o per la guerra mondiale o per l'AI. il mondo asiatico è abituato farsi governare da un Khan, da Mao, Stalin, da un condottiero o dittatore. l'AI super intelligente potrebbe essere un dittatore universale, per loro non è un problema. per noi lo è, anche per la questione commerciale economica, per loro NO, assolutamente.
questo se si avvererà, l'unica alternativa per fermali è lo sterminio atomico, implica una accelerazione del mondo asiatico fuori logica.

[zbear]

Oppure non ci stanno cavando un ragno dal buco e si inventano problemi morali per salvarsi la faccia. NON DO NESSUN CREDITO al senso "morale" di queste aziende che vivono sulla truffa sistematica del pollo di turno (perchè SOLO un pollo ignorante crede alle attuali baggianate propalate sulle AI in quanto tali).

[MikTaeTrioR]

Originariamente inviato da pachainti

Ma quale AGI?
Sono solo generatori di stronzate.
ChatGPT is bullshit

e certo, che ne potrà mai sapere un project leader che ci lavora direttamente da 6 anni rispetto all'utente pachaniti di hwupgrade......

[Lahila]

Questi commenti mi ricordano i contenuti di un manuale di role playing cyberpunk di alcuni anni fa, organizzati dall'autore in post di una ipotetica chat del futuro. Osservazioni ed ipotesi complottiste. Sorprendente. Inutile dirvi che il futuro che disegnava era distopico. :-D

[pachainti]

Originariamente inviato da MikTaeTrioR

e certo, che ne potrà mai sapere un project leader che ci lavora direttamente da 6 anni rispetto all'utente pachaniti di hwupgrade......

In realtà il mio riferimento è un articolo peer reviewed che dimostra come funzionioni chatGPT e gli LLM.
In alternativa, se non vuoi leggere, ti consiglio questi tre:
Generatori di stronzate e sciacquoni
Algopirla Verso il Reich Millenario (contro il lungotermismo)
SALAMI e copyright

[TorettoMilano]

se i "generatori di stronzate" ci rubano lavoro e sono più efficienti di noi non facciamo una bella figura, dovremmo darci un appellativo peggiore

[euscar]

Per l'mmagine dell'articolo vi siete ispirati alla saga di terminator? (il trionfo di skynet).

Originariamente inviato da TorettoMilano

se i "generatori di stronzate" ci rubano lavoro e sono più efficienti di noi non facciamo una bella figura, dovremmo darci un appellativo peggiore

Che il genere umano (sedicente razza intelligente) non faccia una bella figura è cosa nota... basta guardarsi intorno per vedere l'autolesionismo dilagante tra il genere umano (tabagismo, alcolismo, tossicodipendenza, obesità, ecc.) per non parlare del pericolo di autodistruzione di massa

[pachainti]

Originariamente inviato da TorettoMilano

se i "generatori di stronzate" ci rubano lavoro e sono più efficienti di noi non facciamo una bella figura, dovremmo darci un appellativo peggiore

Non ci rubano e non ci ruberanno nulla, solo i fessi ci possono credere ed è quello che vorrebbero coloro che cercano di propagandarli a tutti i costi.
Per fortuna non ne indovinano una...
2016 (ricerca del 2013) 47% of jobs will vanish in the next 25 years, say Oxford University researchers
2022 Oops: The Predicted 47 Percent of Job Loss From AI Didn’t Happen
2024 'It hasn't delivered': The spectacular failure of self-checkout technology

Basta fare due ricerche per trovare quante profezie siano in realtà dei desideri.

P.S. ecco altri "algopirla" i così detti padri dell'IA:
In 1958, Herbert Simon and Allen Newell wrote, “within ten years a digital computer will be the world’s chess champion”, and “within ten years a digital computer will discover and prove an important new mathematical theorem.”

In 1965, Herbert Simon predicted that “machines will be capable, within twenty years, of doing any work a man can do.”

In 1967, Marvin Minsky predicted that “Within a generation . . . the problem of creating `artificial intelligence’ will substantially be solved.”

In 1970, Marvin Minsky, in an interview with Life Magazine, stated “In from three to eight years we will have a machine with the general intelligence of an average human being.”

[TorettoMilano]

pachainti ti darei pure credito se non fosse che miei conoscenti effettivamente usano le IA per produttività risparmiando tempo e denaro quindi aimè mi tocca dirti di provare a aprire un pochino ad allargare le tue vedute

[pachainti]

Originariamente inviato da TorettoMilano

pachainti ti darei pure credito se non fosse che miei conoscenti effettivamente usano le IA per produttività risparmiando tempo e denaro quindi aimè mi tocca dirti di provare a aprire un pochino ad allargare le tue vedute

Sinceramente del credito, se non è di tipo bancario, non mi importa nulla
I fatti sono evidenti, se una persona studia un minimo il funzionamento dell'attuale presunta IA capisce che di intelligente non c'è niente e anche poco di artificiale.
Grazie vedrò di allargare le vedute per riuscire a comprendere chi si fa abbindolare dai venditori di aria fritta.

[TorettoMilano]

Originariamente inviato da pachainti

Sinceramente del credito, se non è di tipo bancario, non mi importa nulla
I fatti sono evidenti, se una persona studia un minimo il funzionamento dell'attuale presunta IA capisce che di intelligente non c'è niente e anche poco di artificiale.
Grazie vedrò di allargare le vedute per riuscire a comprendere chi si fa abbindolare dai venditori di aria fritta.

mi sembra ti soffermi un po' troppo sulla teoria e ignori cosa effettivamente si possa fare con l'IA, questa persona dice da sola di essere riuscita a creare grazie a programmi di IA questo corto di 5 minuti. posso ipotizzare converrai con me come tutto ciò fosse semplicemente impossibile prima

https://www.youtube.com/watch?v=5NZubOOeeV0

[pachainti]

Originariamente inviato da TorettoMilano

mi sembra ti soffermi un po' troppo sulla teoria e ignori cosa effettivamente si possa fare con l'IA, questa persona dice da sola di essere riuscita a creare grazie a programmi di IA questo corto di 5 minuti. posso ipotizzare converrai con me come tutto ciò fosse semplicemente impossibile prima

https://www.youtube.com/watch?v=5NZubOOeeV0

Gli LLM hanno due grandi problemi di fondo:

1. Non hanno alcuna consapevolezza di quello che stanno facendo. Scelgono la soluzione a maggiore probabilità in base al contesto in cui si trovano.
2. Non hanno alcun senso di realtà. Questo li porta a inventarsi cose che non esistono.

Il grosso problema è che se una persona non è esperta e si fida degli LLM rischia di prendere per buona una stronzata o allucinazione. Una persona minimamente esperta si accorge subito degli evidenti limiti.

[TorettoMilano]

Originariamente inviato da pachainti

Gli LLM hanno due grandi problemi di fondo:

1. Non hanno alcuna consapevolezza di quello che stanno facendo. Scelgono la soluzione a maggiore probabilità in base al contesto in cui si trovano.
2. Non hanno alcun senso di realtà. Questo li porta a inventarsi cose che non esistono.

Il grosso problema è che se una persona non è esperta e si fida degli LLM rischia di prendere per buona una stronzata o allucinazione. Una persona minimamente esperta si accorge subito degli evidenti limiti.

come dicevo prima dai spunti interessanti di riflessioni teorici ma poi ignori i fatti concreti, quei 5 minuti di video erano impossibili da fare invece ora una persona da sola è riuscito. a elencare le criticità di questi sistemi stai praticamente perdendo tempo, ti consiglierei di dedicare tempo a capire per cosa utilizzare l'IA

[MikTaeTrioR]

Originariamente inviato da pachainti

Gli LLM hanno due grandi problemi di fondo:

1. Non hanno alcuna consapevolezza di quello che stanno facendo. Scelgono la soluzione a maggiore probabilità in base al contesto in cui si trovano.
2. Non hanno alcun senso di realtà. Questo li porta a inventarsi cose che non esistono.

Il grosso problema è che se una persona non è esperta e si fida degli LLM rischia di prendere per buona una stronzata o allucinazione. Una persona minimamente esperta si accorge subito degli evidenti limiti.

1. **Consapevolezza e scelta della risposta**:
È vero che i LLM non hanno consapevolezza o intenzionalità; si basano su pattern statistici per produrre risposte. Tuttavia, *la consapevolezza* non è necessaria per l’utilità pratica in molti casi. Ad esempio, strumenti come i LLM possono essere addestrati e ottimizzati per compiti specifici in ambiti tecnici, dove forniscono risposte accurate perché addestrati su dati verificati. Inoltre, la "scelta della risposta a maggiore probabilità" non implica una mancanza di valore, ma piuttosto sfrutta una base di dati vasta e complessa che, con un uso attento, può portare a risposte valide e ben fondate.

2. **Senso di realtà e rischio di errori**:
Anche questa è una critica fondata ma generalizzata: mentre gli LLM possono "allucinare" o inventare fatti, l’entità di queste "allucinazioni" dipende dall’addestramento e dall'uso che ne viene fatto. Molte delle applicazioni di successo degli LLM includono l’integrazione con fonti di dati esterne e aggiornate (come database o motori di ricerca) che mitigano questi rischi. Inoltre, chi crea o usa gli LLM sa che questi modelli sono strumenti, non autorità assolute. Esattamente come qualsiasi altro strumento, vanno usati con discernimento e in contesti adeguati.

3. **Affidabilità e contesto dell’utente finale**:
Qui emerge il discorso della responsabilità dell’utente. Per ogni tecnologia emergente, la formazione dell’utente è essenziale. Se si usa un LLM in un contesto sensibile (medico, legale, ingegneristico), l’utente deve essere a conoscenza dei suoi limiti e verificarne le risposte. Ma questo vale per ogni strumento complesso o tecnologico, come il software statistico, o persino calcolatori avanzati.

4. **Capacità di un esperto e potenziale degli LLM**:
Anche un esperto può beneficiare degli LLM, perché consentono di elaborare grandi volumi di informazioni, aiutare con il brainstorming, offrire risposte rapide e, in alcuni casi, proporre nuovi spunti che possono rivelarsi utili. Un LLM non sostituisce l’esperienza, ma per chi sa come trarne vantaggio, è uno strumento di supporto che può far risparmiare tempo e ampliare le prospettive di lavoro.

5. **Evoluzione e miglioramento continuo degli LLM**:
Gli LLM si stanno evolvendo rapidamente, con aggiornamenti mirati a ridurre il rischio di allucinazioni e migliorare l’accuratezza delle risposte. Molti sviluppatori lavorano proprio per ridurre i difetti evidenziati, facendo uso di tecniche di verifica e di addestramento basate su feedback umano o sull’aggiornamento con dati affidabili.

**In sintesi**: Sì, gli LLM hanno limiti strutturali, ma vanno inquadrati come strumenti di supporto, non come sostituti del pensiero umano. Sta al contesto e alla competenza dell’utente finale sfruttarli al meglio. Per criticare gli LLM in modo equilibrato, è importante considerare anche come questi possano contribuire positivamente, evitando di generalizzare eccessivamente i loro limiti.

[LMCH]

Originariamente inviato da MikTaeTrioR

**In sintesi**: Sì, gli LLM hanno limiti strutturali, ma vanno inquadrati come strumenti di supporto, non come sostituti del pensiero umano. Sta al contesto e alla competenza dell’utente finale sfruttarli al meglio. Per criticare gli LLM in modo equilibrato, è importante considerare anche come questi possano contribuire positivamente, evitando di generalizzare eccessivamente i loro limiti.

Il problema è che Microsoft ed il CEB (Chief of Executive Bullshit) di OpenAI da anni cercano di rifilare al grande pubblico l'idea che LLM = AI generalista e che è solo questione di alzare di un tot. la potenza di calcolo per arrivare ad avere una "Skynet amichevole".

Ma quello serve A LORO per fare soldi sul rialzo delle quaotazioni azionarie, sulla vendita di servizi, ecc. ecc. serve ai produttori di hardware per vendere roba "per AI" con margini maggiori, ecc. ecc.
Ma all'utente finale ... Meh! Mica tanto.

Poi si guarda a "dove si fanno i soldi" con i LLM e si vedono:
- chatbot da usare al posto di operatori umani nei call center (specialmente per i call center usati da scammer e simili)
- "generatori di riassunti" (che in realtà sono sfondatori stocastici di testo, non fanno veri riassunti e se non hanno già nel loro modello lo schema corretto sono caXXi per chi ne fa uso pensando che facciano davvero riassunti).
- generatori di immagini così si evita di pagare un illustratore o un disegnatore professionista (che non ci si potrebbe permettere comunque, in precedenza si usavano librerie di immagini stock e cose simili).
- "generatori di codice" (che se in genere se va bene generano uno scheletro di sorgente anche decente su cui costruire il resto, ma se va male .... Muah! Ah! Ah![*] ).

In tutto il resto, o hai dei
PROFESSIONISTI (costano)
FERRATISSIMI NELL'ARGOMENTO O SETTORE DI APPLICAZIONE (costano di più)
E CHE SANNO QUANDO E COME USARE GLI LLM (se non sei una multinazionale non te li puoi permettere, al massimo ti può capitare di trovarne uno che non è stato scovato o notato dagli headhunter, ma sono rari) ...
Beh! Di certo farai fare un sacco di soldi a Microsoft, OpenAI, Nvidia, ecc. ecc. ma per quel che ti riguarda te o per la tua azienda mi sa di no.

- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - [*] = Qui devo aprire una grande parentesi su cose con cui ho a che fare tutti i giorni.

Si parla ALMENO DAGLI ANNI '60 di generatori automatici di codice, ma fino ad ora o sono molto limitati o fanno letteralmente cagare.

Prima ancora che si tirasse in ballo AI ed LLM era evidente a tutti gli sviluppatori di codice decenti che quando scrivi una certa tipologia di applicazione ci sono degli "schemi ricorrenti" in varie forme ( chiamati anche Design Pattern), cosa che succedeva pure da prima in tutti i settori in cui c'e' da fare progettazione (architettura, ingegneria meccanica, ecc. ecc.).

I 4GL, i tool di programmazione visuale, ecc. sono tutti tentativi più o meno riusciti di automatizzare certi ambiti dello sviluppo e produzione di codice.

In questo ambito Microsoft ha avuto in influenza nefasta, per anni ha contribuito attivamente all'enshittification dei tool di sviluppo. Al punto da rendere più semplice e gratificante lo sviluppo di Web Application rispetto a quelle native.

La proliferazione di runtime sviluppati a pene di segugio, con paradigmi diversi, ecc. ecc. ha bloccato lo sviluppo di di tali tool, al punto che ORA un LLM che fa da generatore di codice viene visto come la venuta del MessiaH (con la "H") mentre invece è un aggeggio che non fa altro che proporre scheletri di software pattern estratti stocasticamente dagli esempi di programmazione che sono stati rastrellati da forum vari delle aziende, Stack Overflow, Github, ecc. ecc. ed usati per costruire il modello.

Se siete dei programmatori scarsi, veramente scarsi o semplicemente alle prime armi e cercate di farvi generare spezzoni di codice "molto utilizzati" (quelle parti che dovevano essere già automatizzate 30..40 anni fa) i LLM attualmente utilizzabili sembrano quasi miracolosi.
Solo che poi se cominciate a fare cose per cui serve DAVVERO uno sviluppatore di codice, VI fanno affondare in un bicchiere d'acqua o peggio, pensate di avere un applicazione "quasi completa" quando invece è una gran palla di fango informe in cui non sapete dove mettere le mani e piena di bug e falle che non sarà mai completata.

Non parliamo poi se si opera in settori "vicini al metallo ed al sangue" tipo firmware, roba che richiede certificazioni SIL/ASIL/ecc. e codice che si interfaccia in modo profondo con l'hardware, arriva il consulente che vi propone un generatore di codice basato su LLM, vi fa una dimostrazione preconfezionata e ...
vedete codice che è stato evidentemente ricavato da un esempio di programmazione per Arduino postato su Stack Overflow.

Niente di male nell'imparare certi concetti con Arduino, sia ben chiaro, ma io devo sviluppare software che quando "comunica con un ADC usando SPI" deve includere anche un buon autodetect dei fault, capacità di ripristino della comunicazione in base al fault identificato e lo switchover a modalità di funzionamento degradato che minimizzino le conseguenze e quello mi genera del codice che implicitamente ipotizza di riciclare le librerie di Arduino ...

[MikTaeTrioR]

Originariamente inviato da LMCH

Il problema è che Microsoft ed il CEB (Chief of Executive Bullshit) di OpenAI da anni cercano di rifilare al grande pubblico l'idea che LLM = AI generalista e che è solo questione di alzare di un tot. la potenza di calcolo per arrivare ad avere una "Skynet amichevole".

Ma quello serve A LORO per fare soldi sul rialzo delle quaotazioni azionarie, sulla vendita di servizi, ecc. ecc. serve ai produttori di hardware per vendere roba "per AI" con margini maggiori, ecc. ecc.
Ma all'utente finale ... Meh! Mica tanto.

Poi si guarda a "dove si fanno i soldi" con i LLM e si vedono:
- chatbot da usare al posto di operatori umani nei call center (specialmente per i call center usati da scammer e simili)
- "generatori di riassunti" (che in realtà sono sfondatori stocastici di testo, non fanno veri riassunti e se non hanno già nel loro modello lo schema corretto sono caXXi per chi ne fa uso pensando che facciano davvero riassunti).
- generatori di immagini così si evita di pagare un illustratore o un disegnatore professionista (che non ci si potrebbe permettere comunque, in precedenza si usavano librerie di immagini stock e cose simili).
- "generatori di codice" (che se in genere se va bene generano uno scheletro di sorgente anche decente su cui costruire il resto, ma se va male .... Muah! Ah! Ah![*] ).

In tutto il resto, o hai dei
PROFESSIONISTI (costano)
FERRATISSIMI NELL'ARGOMENTO O SETTORE DI APPLICAZIONE (costano di più)
E CHE SANNO QUANDO E COME USARE GLI LLM (se non sei una multinazionale non te li puoi permettere, al massimo ti può capitare di trovarne uno che non è stato scovato o notato dagli headhunter, ma sono rari) ...
Beh! Di certo farai fare un sacco di soldi a Microsoft, OpenAI, Nvidia, ecc. ecc. ma per quel che ti riguarda te o per la tua azienda mi sa di no.

- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - [*] = Qui devo aprire una grande parentesi su cose con cui ho a che fare tutti i giorni.

Si parla ALMENO DAGLI ANNI '60 di generatori automatici di codice, ma fino ad ora o sono molto limitati o fanno letteralmente cagare.

Prima ancora che si tirasse in ballo AI ed LLM era evidente a tutti gli sviluppatori di codice decenti che quando scrivi una certa tipologia di applicazione ci sono degli "schemi ricorrenti" in varie forme ( chiamati anche Design Pattern), cosa che succedeva pure da prima in tutti i settori in cui c'e' da fare progettazione (architettura, ingegneria meccanica, ecc. ecc.).

I 4GL, i tool di programmazione visuale, ecc. sono tutti tentativi più o meno riusciti di automatizzare certi ambiti dello sviluppo e produzione di codice.

In questo ambito Microsoft ha avuto in influenza nefasta, per anni ha contribuito attivamente all'enshittification dei tool di sviluppo. Al punto da rendere più semplice e gratificante lo sviluppo di Web Application rispetto a quelle native.

La proliferazione di runtime sviluppati a pene di segugio, con paradigmi diversi, ecc. ecc. ha bloccato lo sviluppo di di tali tool, al punto che ORA un LLM che fa da generatore di codice viene visto come la venuta del MessiaH (con la "H") mentre invece è un aggeggio che non fa altro che proporre scheletri di software pattern estratti stocasticamente dagli esempi di programmazione che sono stati rastrellati da forum vari delle aziende, Stack Overflow, Github, ecc. ecc. ed usati per costruire il modello.

Se siete dei programmatori scarsi, veramente scarsi o semplicemente alle prime armi e cercate di farvi generare spezzoni di codice "molto utilizzati" (quelle parti che dovevano essere già automatizzate 30..40 anni fa) i LLM attualmente utilizzabili sembrano quasi miracolosi.
Solo che poi se cominciate a fare cose per cui serve DAVVERO uno sviluppatore di codice, VI fanno affondare in un bicchiere d'acqua o peggio, pensate di avere un applicazione "quasi completa" quando invece è una gran palla di fango informe in cui non sapete dove mettere le mani e piena di bug e falle che non sarà mai completata.

Non parliamo poi se si opera in settori "vicini al metallo ed al sangue" tipo firmware, roba che richiede certificazioni SIL/ASIL/ecc. e codice che si interfaccia in modo profondo con l'hardware, arriva il consulente che vi propone un generatore di codice basato su LLM, vi fa una dimostrazione preconfezionata e ...
vedete codice che è stato evidentemente ricavato da un esempio di programmazione per Arduino postato su Stack Overflow.

Niente di male nell'imparare certi concetti con Arduino, sia ben chiaro, ma io devo sviluppare software che quando "comunica con un ADC usando SPI" deve includere anche un buon autodetect dei fault, capacità di ripristino della comunicazione in base al fault identificato e lo switchover a modalità di funzionamento degradato che minimizzino le conseguenze e quello mi genera del codice che implicitamente ipotizza di riciclare le librerie di Arduino ...

capisco il punto, ed è vero che il marketing intorno agli LLM a volte promette più di quanto effettivamente realizzabile. Ma se guardiamo agli usi pratici, molte aziende trovano vantaggi concreti dai LLM, anche fuori dai "big". I generatori di codice, ad esempio, sono utili per velocizzare operazioni ripetitive o offrire basi di partenza, pur senza sostituire l'esperienza di un programmatore.

E certo, usi inadeguati possono generare problemi, specie in ambiti critici come firmware e hardware-specific, dove il livello di precisione richiesto va oltre le capacità degli LLM attuali. Detto questo, il valore degli LLM cresce se usati con cognizione: il problema è piuttosto "come" e "dove" vengono applicati, non tanto il modello in sé.