Link alla notizia: https://www.hwupgrade.it/news/scienza-tecnologia/openai-abbandona-il-responsabile-del-progetto-agi-il-mondo-non-e-pronto_132168.html

In un lungo intervento su Substack il responsabile del progetto AGI condivide le sue motivazioni che l'hanno portato ad abbandonare la società. Il desiderio di un impegno più libero e indipendende

Click sul link per visualizzare la notizia.

Quello che mi incuriosisce é che queste preoccupazioni non vengono espresse solo da qualche luddista chee ha visto troppi film, ma anche da esponenti del settore, che conoscono bene lo stato attuale e i prossimi sviluppi...

Ma quale AGI? :rolleyes:
Sono solo generatori di stronzate.
ChatGPT is bullshit (https://link.springer.com/article/10.1007/s10676-024-09775-5)

sono spaventati dal fatto che se l'AI scopre qualcosa di serio le aziende e fondi che hanno sponsorizzato alzaranno i tacchi e ciao.
che se fa se degli enti autonomi, società non controllate quindi società di gentili che non sono collegate alla Borsa.. iniziassero a sfornare idee nuove e scoperte sensazionali a cadenza giornaliera ?
lo sappiamo chi controlla la Borsa no ? Fuld, Fink, Schwarzman e amici non si fanno fottere dal primo pincopallo che mette le mani sulla sfera di cristallo dai..

i primi titoli che saltano sono i farmaceutici, poi gli energetici.
i farmaceutici che campano sui brevetti sono i primi sicuramente, ci sono tantissimi farmaci nel cassetto che non vengono prodotti per questioni commerciali, se l'AI in mano a pincopalli trova alternative gratuite è un disastro per i colossi.
gli energetici e chimica saltano in sei mesi.. vivono di controllo sui brevetti.

dico anche che il mondo sicuramente cambierà nei prossimi 5 anni, o per la guerra mondiale o per l'AI. il mondo asiatico è abituato farsi governare da un Khan, da Mao, Stalin, da un condottiero o dittatore. l'AI super intelligente potrebbe essere un dittatore universale, per loro non è un problema. per noi lo è, anche per la questione commerciale economica, per loro NO, assolutamente.
questo se si avvererà, l'unica alternativa per fermali è lo sterminio atomico, implica una accelerazione del mondo asiatico fuori logica.

Oppure non ci stanno cavando un ragno dal buco e si inventano problemi morali per salvarsi la faccia. NON DO NESSUN CREDITO al senso "morale" di queste aziende che vivono sulla truffa sistematica del pollo di turno (perchè SOLO un pollo ignorante crede alle attuali baggianate propalate sulle AI in quanto tali).

Ma quale AGI? :rolleyes:
Sono solo generatori di stronzate.
ChatGPT is bullshit (https://link.springer.com/article/10.1007/s10676-024-09775-5)

e certo, che ne potrà mai sapere un project leader che ci lavora direttamente da 6 anni rispetto all'utente pachaniti di hwupgrade......

:doh: :rolleyes: :asd:

Questi commenti mi ricordano i contenuti di un manuale di role playing cyberpunk di alcuni anni fa, organizzati dall'autore in post di una ipotetica chat del futuro. Osservazioni ed ipotesi complottiste. Sorprendente. Inutile dirvi che il futuro che disegnava era distopico. :-D

e certo, che ne potrà mai sapere un project leader che ci lavora direttamente da 6 anni rispetto all'utente pachaniti di hwupgrade......

:doh: :rolleyes: :asd:

In realtà il mio riferimento è un articolo peer reviewed che dimostra come funzionioni chatGPT e gli LLM.
In alternativa, se non vuoi leggere, ti consiglio questi tre:
Generatori di stronzate e sciacquoni (https://www.spreaker.com/episode/dk9x05-generatori-di-stronzate-e-sciacquoni--62461791)
Algopirla Verso il Reich Millenario (contro il lungotermismo) (https://www.spreaker.com/episode/dk-7x12-algopirla-verso-il-reich-millenario-contro-il-lungotermismo--52256496)
SALAMI e copyright (https://www.spreaker.com/episode/dk-8x08-salami-e-copyright--57392663)

se i "generatori di stronzate" ci rubano lavoro e sono più efficienti di noi non facciamo una bella figura, dovremmo darci un appellativo peggiore

Per l'mmagine dell'articolo vi siete ispirati alla saga di terminator? (il trionfo di skynet).

se i "generatori di stronzate" ci rubano lavoro e sono più efficienti di noi non facciamo una bella figura, dovremmo darci un appellativo peggiore

Che il genere umano (sedicente razza intelligente) non faccia una bella figura è cosa nota... basta guardarsi intorno per vedere l'autolesionismo dilagante tra il genere umano (tabagismo, alcolismo, tossicodipendenza, obesità, ecc.) per non parlare del pericolo di autodistruzione di massa :rolleyes:

se i "generatori di stronzate" ci rubano lavoro e sono più efficienti di noi non facciamo una bella figura, dovremmo darci un appellativo peggiore

Non ci rubano e non ci ruberanno nulla, solo i fessi ci possono credere ed è quello che vorrebbero coloro che cercano di propagandarli a tutti i costi.
Per fortuna non ne indovinano una...
2016 (ricerca del 2013) 47% of jobs will vanish in the next 25 years, say Oxford University researchers (https://bigthink.com/technology-innovation/47-of-jobs-in-the-next-25-years-will-disappear-according-to-oxford-university/)
2022 Oops: The Predicted 47 Percent of Job Loss From AI Didn’t Happen (https://itif.org/publications/2022/09/30/oops-the-predicted-47-percent-of-job-loss-from-ai-didnt-happen/)
2024 'It hasn't delivered': The spectacular failure of self-checkout technology (https://www.bbc.com/worklife/article/20240111-it-hasnt-delivered-the-spectacular-failure-of-self-checkout-technology)

Basta fare due ricerche per trovare quante profezie siano in realtà dei desideri.

P.S. ecco altri "algopirla" i così detti padri dell'IA (https://web.eecs.umich.edu/~kuipers/opinions/AI-progress.html):
In 1958, Herbert Simon and Allen Newell wrote, “within ten years a digital computer will be the world’s chess champion”, and “within ten years a digital computer will discover and prove an important new mathematical theorem.”

In 1965, Herbert Simon predicted that “machines will be capable, within twenty years, of doing any work a man can do.”

In 1967, Marvin Minsky predicted that “Within a generation . . . the problem of creating `artificial intelligence’ will substantially be solved.”

In 1970, Marvin Minsky, in an interview with Life Magazine, stated “In from three to eight years we will have a machine with the general intelligence of an average human being.”

pachainti ti darei pure credito se non fosse che miei conoscenti effettivamente usano le IA per produttività risparmiando tempo e denaro quindi aimè mi tocca dirti di provare a aprire un pochino ad allargare le tue vedute

pachainti ti darei pure credito se non fosse che miei conoscenti effettivamente usano le IA per produttività risparmiando tempo e denaro quindi aimè mi tocca dirti di provare a aprire un pochino ad allargare le tue vedute

Sinceramente del credito, se non è di tipo bancario, non mi importa nulla :D
I fatti sono evidenti, se una persona studia un minimo il funzionamento dell'attuale presunta IA capisce che di intelligente non c'è niente e anche poco di artificiale.
Grazie vedrò di allargare le vedute per riuscire a comprendere chi si fa abbindolare dai venditori di aria fritta.

Sinceramente del credito, se non è di tipo bancario, non mi importa nulla :D
I fatti sono evidenti, se una persona studia un minimo il funzionamento dell'attuale presunta IA capisce che di intelligente non c'è niente e anche poco di artificiale.
Grazie vedrò di allargare le vedute per riuscire a comprendere chi si fa abbindolare dai venditori di aria fritta.

mi sembra ti soffermi un po' troppo sulla teoria e ignori cosa effettivamente si possa fare con l'IA, questa persona dice da sola di essere riuscita a creare grazie a programmi di IA questo corto di 5 minuti. posso ipotizzare converrai con me come tutto ciò fosse semplicemente impossibile prima

https://www.youtube.com/watch?v=5NZubOOeeV0

mi sembra ti soffermi un po' troppo sulla teoria e ignori cosa effettivamente si possa fare con l'IA, questa persona dice da sola di essere riuscita a creare grazie a programmi di IA questo corto di 5 minuti. posso ipotizzare converrai con me come tutto ciò fosse semplicemente impossibile prima

https://www.youtube.com/watch?v=5NZubOOeeV0

Gli LLM hanno due grandi problemi di fondo:

Non hanno alcuna consapevolezza di quello che stanno facendo. Scelgono la soluzione a maggiore probabilità in base al contesto in cui si trovano.
Non hanno alcun senso di realtà. Questo li porta a inventarsi cose che non esistono.

Il grosso problema è che se una persona non è esperta e si fida degli LLM rischia di prendere per buona una stronzata o allucinazione. Una persona minimamente esperta si accorge subito degli evidenti limiti.

Gli LLM hanno due grandi problemi di fondo:

Non hanno alcuna consapevolezza di quello che stanno facendo. Scelgono la soluzione a maggiore probabilità in base al contesto in cui si trovano.
Non hanno alcun senso di realtà. Questo li porta a inventarsi cose che non esistono.

Il grosso problema è che se una persona non è esperta e si fida degli LLM rischia di prendere per buona una stronzata o allucinazione. Una persona minimamente esperta si accorge subito degli evidenti limiti.

come dicevo prima dai spunti interessanti di riflessioni teorici ma poi ignori i fatti concreti, quei 5 minuti di video erano impossibili da fare invece ora una persona da sola è riuscito. a elencare le criticità di questi sistemi stai praticamente perdendo tempo, ti consiglierei di dedicare tempo a capire per cosa utilizzare l'IA

Gli LLM hanno due grandi problemi di fondo:

Non hanno alcuna consapevolezza di quello che stanno facendo. Scelgono la soluzione a maggiore probabilità in base al contesto in cui si trovano.
Non hanno alcun senso di realtà. Questo li porta a inventarsi cose che non esistono.

Il grosso problema è che se una persona non è esperta e si fida degli LLM rischia di prendere per buona una stronzata o allucinazione. Una persona minimamente esperta si accorge subito degli evidenti limiti.



1. **Consapevolezza e scelta della risposta**:
È vero che i LLM non hanno consapevolezza o intenzionalità; si basano su pattern statistici per produrre risposte. Tuttavia, *la consapevolezza* non è necessaria per l’utilità pratica in molti casi. Ad esempio, strumenti come i LLM possono essere addestrati e ottimizzati per compiti specifici in ambiti tecnici, dove forniscono risposte accurate perché addestrati su dati verificati. Inoltre, la "scelta della risposta a maggiore probabilità" non implica una mancanza di valore, ma piuttosto sfrutta una base di dati vasta e complessa che, con un uso attento, può portare a risposte valide e ben fondate.

2. **Senso di realtà e rischio di errori**:
Anche questa è una critica fondata ma generalizzata: mentre gli LLM possono "allucinare" o inventare fatti, l’entità di queste "allucinazioni" dipende dall’addestramento e dall'uso che ne viene fatto. Molte delle applicazioni di successo degli LLM includono l’integrazione con fonti di dati esterne e aggiornate (come database o motori di ricerca) che mitigano questi rischi. Inoltre, chi crea o usa gli LLM sa che questi modelli sono strumenti, non autorità assolute. Esattamente come qualsiasi altro strumento, vanno usati con discernimento e in contesti adeguati.

3. **Affidabilità e contesto dell’utente finale**:
Qui emerge il discorso della responsabilità dell’utente. Per ogni tecnologia emergente, la formazione dell’utente è essenziale. Se si usa un LLM in un contesto sensibile (medico, legale, ingegneristico), l’utente deve essere a conoscenza dei suoi limiti e verificarne le risposte. Ma questo vale per ogni strumento complesso o tecnologico, come il software statistico, o persino calcolatori avanzati.

4. **Capacità di un esperto e potenziale degli LLM**:
Anche un esperto può beneficiare degli LLM, perché consentono di elaborare grandi volumi di informazioni, aiutare con il brainstorming, offrire risposte rapide e, in alcuni casi, proporre nuovi spunti che possono rivelarsi utili. Un LLM non sostituisce l’esperienza, ma per chi sa come trarne vantaggio, è uno strumento di supporto che può far risparmiare tempo e ampliare le prospettive di lavoro.

5. **Evoluzione e miglioramento continuo degli LLM**:
Gli LLM si stanno evolvendo rapidamente, con aggiornamenti mirati a ridurre il rischio di allucinazioni e migliorare l’accuratezza delle risposte. Molti sviluppatori lavorano proprio per ridurre i difetti evidenziati, facendo uso di tecniche di verifica e di addestramento basate su feedback umano o sull’aggiornamento con dati affidabili.

**In sintesi**: Sì, gli LLM hanno limiti strutturali, ma vanno inquadrati come strumenti di supporto, non come sostituti del pensiero umano. Sta al contesto e alla competenza dell’utente finale sfruttarli al meglio. Per criticare gli LLM in modo equilibrato, è importante considerare anche come questi possano contribuire positivamente, evitando di generalizzare eccessivamente i loro limiti.

**In sintesi**: Sì, gli LLM hanno limiti strutturali, ma vanno inquadrati come strumenti di supporto, non come sostituti del pensiero umano. Sta al contesto e alla competenza dell’utente finale sfruttarli al meglio. Per criticare gli LLM in modo equilibrato, è importante considerare anche come questi possano contribuire positivamente, evitando di generalizzare eccessivamente i loro limiti.

Il problema è che Microsoft ed il CEB (Chief of Executive Bullshit) di OpenAI da anni cercano di rifilare al grande pubblico l'idea che LLM = AI generalista e che è solo questione di alzare di un tot. la potenza di calcolo per arrivare ad avere una "Skynet amichevole".

Ma quello serve A LORO per fare soldi sul rialzo delle quaotazioni azionarie, sulla vendita di servizi, ecc. ecc. serve ai produttori di hardware per vendere roba "per AI" con margini maggiori, ecc. ecc.
Ma all'utente finale ... Meh! Mica tanto.

Poi si guarda a "dove si fanno i soldi" con i LLM e si vedono:
- chatbot da usare al posto di operatori umani nei call center (specialmente per i call center usati da scammer e simili)
- "generatori di riassunti" (che in realtà sono sfondatori stocastici di testo, non fanno veri riassunti e se non hanno già nel loro modello lo schema corretto sono caXXi per chi ne fa uso pensando che facciano davvero riassunti).
- generatori di immagini così si evita di pagare un illustratore o un disegnatore professionista (che non ci si potrebbe permettere comunque, in precedenza si usavano librerie di immagini stock e cose simili).
- "generatori di codice" (che se in genere se va bene generano uno scheletro di sorgente anche decente su cui costruire il resto, ma se va male .... Muah! Ah! Ah! ).

In tutto il resto, o hai dei
PROFESSIONISTI (costano)
FERRATISSIMI NELL'ARGOMENTO O SETTORE DI APPLICAZIONE (costano di più)
E CHE SANNO QUANDO E COME USARE GLI LLM (se non sei una multinazionale non te li puoi permettere, al massimo ti può capitare di trovarne uno che non è stato scovato o notato dagli headhunter, ma sono rari) ...
Beh! Di certo farai fare un sacco di soldi a Microsoft, OpenAI, Nvidia, ecc. ecc. ma per quel che ti riguarda te o per la tua azienda mi sa di no.

- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
= Qui devo aprire una grande parentesi su cose con cui ho a che fare tutti i giorni.

Si parla ALMENO DAGLI ANNI '60 di generatori automatici di codice, ma fino ad ora o sono molto limitati o fanno letteralmente cagare.

Prima ancora che si tirasse in ballo AI ed LLM era evidente a tutti gli sviluppatori di codice decenti che quando scrivi una certa tipologia di applicazione ci sono degli "schemi ricorrenti" in varie forme ( chiamati anche Design Pattern), cosa che succedeva pure da prima in tutti i settori in cui c'e' da fare progettazione (architettura, ingegneria meccanica, ecc. ecc.).

I 4GL, i tool di programmazione visuale, ecc. sono tutti tentativi più o meno riusciti di automatizzare certi ambiti dello sviluppo e produzione di codice.

In questo ambito Microsoft ha avuto in influenza nefasta, per anni ha contribuito attivamente all'enshittification dei tool di sviluppo. Al punto da rendere più semplice e gratificante lo sviluppo di Web Application rispetto a quelle native.

La proliferazione di runtime sviluppati a pene di segugio, con paradigmi diversi, ecc. ecc. ha bloccato lo sviluppo di di tali tool, al punto che ORA un LLM che fa da generatore di codice viene visto come la venuta del MessiaH (con la "H") mentre invece è un aggeggio che non fa altro che proporre scheletri di software pattern estratti stocasticamente dagli esempi di programmazione che sono stati rastrellati da forum vari delle aziende, Stack Overflow, Github, ecc. ecc. ed usati per costruire il modello.

Se siete dei programmatori scarsi, veramente scarsi o semplicemente alle prime armi e cercate di farvi generare spezzoni di codice "molto utilizzati" (quelle parti che dovevano essere già automatizzate 30..40 anni fa) i LLM attualmente utilizzabili sembrano quasi miracolosi.
Solo che poi se cominciate a fare cose per cui serve DAVVERO uno sviluppatore di codice, VI fanno affondare in un bicchiere d'acqua o peggio, pensate di avere un applicazione "quasi completa" quando invece è una gran palla di fango informe in cui non sapete dove mettere le mani e piena di bug e falle che non sarà mai completata.

Non parliamo poi se si opera in settori "vicini al metallo ed al sangue" tipo firmware, roba che richiede certificazioni SIL/ASIL/ecc. e codice che si interfaccia in modo profondo con l'hardware, arriva il consulente che vi propone un generatore di codice basato su LLM, vi fa una dimostrazione preconfezionata e ...
vedete codice che è stato evidentemente ricavato da un esempio di programmazione per Arduino postato su Stack Overflow.

Niente di male nell'imparare certi concetti con Arduino, sia ben chiaro, ma io devo sviluppare software che quando "comunica con un ADC usando SPI" deve includere anche un buon autodetect dei fault, capacità di ripristino della comunicazione in base al fault identificato e lo switchover a modalità di funzionamento degradato che minimizzino le conseguenze e quello mi genera del codice che implicitamente ipotizza di riciclare le librerie di Arduino ... :muro:

Il problema è che Microsoft ed il CEB (Chief of Executive Bullshit) di OpenAI da anni cercano di rifilare al grande pubblico l'idea che LLM = AI generalista e che è solo questione di alzare di un tot. la potenza di calcolo per arrivare ad avere una "Skynet amichevole".

Ma quello serve A LORO per fare soldi sul rialzo delle quaotazioni azionarie, sulla vendita di servizi, ecc. ecc. serve ai produttori di hardware per vendere roba "per AI" con margini maggiori, ecc. ecc.
Ma all'utente finale ... Meh! Mica tanto.

Poi si guarda a "dove si fanno i soldi" con i LLM e si vedono:
- chatbot da usare al posto di operatori umani nei call center (specialmente per i call center usati da scammer e simili)
- "generatori di riassunti" (che in realtà sono sfondatori stocastici di testo, non fanno veri riassunti e se non hanno già nel loro modello lo schema corretto sono caXXi per chi ne fa uso pensando che facciano davvero riassunti).
- generatori di immagini così si evita di pagare un illustratore o un disegnatore professionista (che non ci si potrebbe permettere comunque, in precedenza si usavano librerie di immagini stock e cose simili).
- "generatori di codice" (che se in genere se va bene generano uno scheletro di sorgente anche decente su cui costruire il resto, ma se va male .... Muah! Ah! Ah! ).

In tutto il resto, o hai dei
PROFESSIONISTI (costano)
FERRATISSIMI NELL'ARGOMENTO O SETTORE DI APPLICAZIONE (costano di più)
E CHE SANNO QUANDO E COME USARE GLI LLM (se non sei una multinazionale non te li puoi permettere, al massimo ti può capitare di trovarne uno che non è stato scovato o notato dagli headhunter, ma sono rari) ...
Beh! Di certo farai fare un sacco di soldi a Microsoft, OpenAI, Nvidia, ecc. ecc. ma per quel che ti riguarda te o per la tua azienda mi sa di no.

- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
= Qui devo aprire una grande parentesi su cose con cui ho a che fare tutti i giorni.

Si parla ALMENO DAGLI ANNI '60 di generatori automatici di codice, ma fino ad ora o sono molto limitati o fanno letteralmente cagare.

Prima ancora che si tirasse in ballo AI ed LLM era evidente a tutti gli sviluppatori di codice decenti che quando scrivi una certa tipologia di applicazione ci sono degli "schemi ricorrenti" in varie forme ( chiamati anche Design Pattern), cosa che succedeva pure da prima in tutti i settori in cui c'e' da fare progettazione (architettura, ingegneria meccanica, ecc. ecc.).

I 4GL, i tool di programmazione visuale, ecc. sono tutti tentativi più o meno riusciti di automatizzare certi ambiti dello sviluppo e produzione di codice.

In questo ambito Microsoft ha avuto in influenza nefasta, per anni ha contribuito attivamente all'enshittification dei tool di sviluppo. Al punto da rendere più semplice e gratificante lo sviluppo di Web Application rispetto a quelle native.

La proliferazione di runtime sviluppati a pene di segugio, con paradigmi diversi, ecc. ecc. ha bloccato lo sviluppo di di tali tool, al punto che ORA un LLM che fa da generatore di codice viene visto come la venuta del MessiaH (con la "H") mentre invece è un aggeggio che non fa altro che proporre scheletri di software pattern estratti stocasticamente dagli esempi di programmazione che sono stati rastrellati da forum vari delle aziende, Stack Overflow, Github, ecc. ecc. ed usati per costruire il modello.

Se siete dei programmatori scarsi, veramente scarsi o semplicemente alle prime armi e cercate di farvi generare spezzoni di codice "molto utilizzati" (quelle parti che dovevano essere già automatizzate 30..40 anni fa) i LLM attualmente utilizzabili sembrano quasi miracolosi.
Solo che poi se cominciate a fare cose per cui serve DAVVERO uno sviluppatore di codice, VI fanno affondare in un bicchiere d'acqua o peggio, pensate di avere un applicazione "quasi completa" quando invece è una gran palla di fango informe in cui non sapete dove mettere le mani e piena di bug e falle che non sarà mai completata.

Non parliamo poi se si opera in settori "vicini al metallo ed al sangue" tipo firmware, roba che richiede certificazioni SIL/ASIL/ecc. e codice che si interfaccia in modo profondo con l'hardware, arriva il consulente che vi propone un generatore di codice basato su LLM, vi fa una dimostrazione preconfezionata e ...
vedete codice che è stato evidentemente ricavato da un esempio di programmazione per Arduino postato su Stack Overflow.

Niente di male nell'imparare certi concetti con Arduino, sia ben chiaro, ma io devo sviluppare software che quando "comunica con un ADC usando SPI" deve includere anche un buon autodetect dei fault, capacità di ripristino della comunicazione in base al fault identificato e lo switchover a modalità di funzionamento degradato che minimizzino le conseguenze e quello mi genera del codice che implicitamente ipotizza di riciclare le librerie di Arduino ... :muro:


capisco il punto, ed è vero che il marketing intorno agli LLM a volte promette più di quanto effettivamente realizzabile. Ma se guardiamo agli usi pratici, molte aziende trovano vantaggi concreti dai LLM, anche fuori dai "big". I generatori di codice, ad esempio, sono utili per velocizzare operazioni ripetitive o offrire basi di partenza, pur senza sostituire l'esperienza di un programmatore.

E certo, usi inadeguati possono generare problemi, specie in ambiti critici come firmware e hardware-specific, dove il livello di precisione richiesto va oltre le capacità degli LLM attuali. Detto questo, il valore degli LLM cresce se usati con cognizione: il problema è piuttosto "come" e "dove" vengono applicati, non tanto il modello in sé.

come dicevo prima dai spunti interessanti di riflessioni teorici ma poi ignori i fatti concreti, quei 5 minuti di video erano impossibili da fare invece ora una persona da sola è riuscito. a elencare le criticità di questi sistemi stai praticamente perdendo tempo, ti consiglierei di dedicare tempo a capire per cosa utilizzare l'IA

:D

1. **Consapevolezza e scelta della risposta**:
È vero che i LLM non hanno consapevolezza o intenzionalità; si basano su pattern statistici per produrre risposte. Tuttavia, *la consapevolezza* non è necessaria per l’utilità pratica in molti casi. Ad esempio, strumenti come i LLM possono essere addestrati e ottimizzati per compiti specifici in ambiti tecnici, dove forniscono risposte accurate perché addestrati su dati verificati. Inoltre, la "scelta della risposta a maggiore probabilità" non implica una mancanza di valore, ma piuttosto sfrutta una base di dati vasta e complessa che, con un uso attento, può portare a risposte valide e ben fondate.

2. **Senso di realtà e rischio di errori**:
Anche questa è una critica fondata ma generalizzata: mentre gli LLM possono "allucinare" o inventare fatti, l’entità di queste "allucinazioni" dipende dall’addestramento e dall'uso che ne viene fatto. Molte delle applicazioni di successo degli LLM includono l’integrazione con fonti di dati esterne e aggiornate (come database o motori di ricerca) che mitigano questi rischi. Inoltre, chi crea o usa gli LLM sa che questi modelli sono strumenti, non autorità assolute. Esattamente come qualsiasi altro strumento, vanno usati con discernimento e in contesti adeguati.

3. **Affidabilità e contesto dell’utente finale**:
Qui emerge il discorso della responsabilità dell’utente. Per ogni tecnologia emergente, la formazione dell’utente è essenziale. Se si usa un LLM in un contesto sensibile (medico, legale, ingegneristico), l’utente deve essere a conoscenza dei suoi limiti e verificarne le risposte. Ma questo vale per ogni strumento complesso o tecnologico, come il software statistico, o persino calcolatori avanzati.

4. **Capacità di un esperto e potenziale degli LLM**:
Anche un esperto può beneficiare degli LLM, perché consentono di elaborare grandi volumi di informazioni, aiutare con il brainstorming, offrire risposte rapide e, in alcuni casi, proporre nuovi spunti che possono rivelarsi utili. Un LLM non sostituisce l’esperienza, ma per chi sa come trarne vantaggio, è uno strumento di supporto che può far risparmiare tempo e ampliare le prospettive di lavoro.

5. **Evoluzione e miglioramento continuo degli LLM**:
Gli LLM si stanno evolvendo rapidamente, con aggiornamenti mirati a ridurre il rischio di allucinazioni e migliorare l’accuratezza delle risposte. Molti sviluppatori lavorano proprio per ridurre i difetti evidenziati, facendo uso di tecniche di verifica e di addestramento basate su feedback umano o sull’aggiornamento con dati affidabili.

**In sintesi**: Sì, gli LLM hanno limiti strutturali, ma vanno inquadrati come strumenti di supporto, non come sostituti del pensiero umano. Sta al contesto e alla competenza dell’utente finale sfruttarli al meglio. Per criticare gli LLM in modo equilibrato, è importante considerare anche come questi possano contribuire positivamente, evitando di generalizzare eccessivamente i loro limiti.

Grazie per il lungo elenco, conosco bene come funzionano e per questo li considero sostanzialmente inutili per risolvere problemi seri. Per effetto wow o per cavolate sono ottimi.
Questo articolo oppure questi podcast lo spiegano bene:
ChatGPT is bullshit (https://link.springer.com/article/10.1007/s10676-024-09775-5)
Generatori di stronzate e sciacquoni (https://www.spreaker.com/episode/dk9x05-generatori-di-stronzate-e-sciacquoni--62461791)
Algopirla Verso il Reich Millenario (contro il lungotermismo) (https://www.spreaker.com/episode/dk-7x12-algopirla-verso-il-reich-millenario-contro-il-lungotermismo--52256496)
SALAMI e copyright (https://www.spreaker.com/episode/dk-8x08-salami-e-copyright--57392663)

Il problema è che Microsoft ed il CEB (Chief of Executive Bullshit) di OpenAI da anni cercano di rifilare al grande pubblico l'idea che LLM = AI generalista e che è solo questione di alzare di un tot. la potenza di calcolo per arrivare ad avere una "Skynet amichevole".

Ma quello serve A LORO per fare soldi sul rialzo delle quaotazioni azionarie, sulla vendita di servizi, ecc. ecc. serve ai produttori di hardware per vendere roba "per AI" con margini maggiori, ecc. ecc.
Ma all'utente finale ... Meh! Mica tanto.

Poi si guarda a "dove si fanno i soldi" con i LLM e si vedono:
- chatbot da usare al posto di operatori umani nei call center (specialmente per i call center usati da scammer e simili)
- "generatori di riassunti" (che in realtà sono sfondatori stocastici di testo, non fanno veri riassunti e se non hanno già nel loro modello lo schema corretto sono caXXi per chi ne fa uso pensando che facciano davvero riassunti).
- generatori di immagini così si evita di pagare un illustratore o un disegnatore professionista (che non ci si potrebbe permettere comunque, in precedenza si usavano librerie di immagini stock e cose simili).
- "generatori di codice" (che se in genere se va bene generano uno scheletro di sorgente anche decente su cui costruire il resto, ma se va male .... Muah! Ah! Ah! ).

In tutto il resto, o hai dei
PROFESSIONISTI (costano)
FERRATISSIMI NELL'ARGOMENTO O SETTORE DI APPLICAZIONE (costano di più)
E CHE SANNO QUANDO E COME USARE GLI LLM (se non sei una multinazionale non te li puoi permettere, al massimo ti può capitare di trovarne uno che non è stato scovato o notato dagli headhunter, ma sono rari) ...
Beh! Di certo farai fare un sacco di soldi a Microsoft, OpenAI, Nvidia, ecc. ecc. ma per quel che ti riguarda te o per la tua azienda mi sa di no.


Esatto.

Avete ragione, non usatele, statene alla larga, non cercate di capire come potrebbero esservi utili...che vi posso dire... :D

Grazie per il lungo elenco, conosco bene come funzionano e per questo li considero sostanzialmente inutili per risolvere problemi seri. Per effetto wow o per cavolate sono ottimi.
Questo articolo oppure questi podcast lo spiegano bene:
ChatGPT is bullshit (https://link.springer.com/article/10.1007/s10676-024-09775-5)
Generatori di stronzate e sciacquoni (https://www.spreaker.com/episode/dk9x05-generatori-di-stronzate-e-sciacquoni--62461791)
Algopirla Verso il Reich Millenario (contro il lungotermismo) (https://www.spreaker.com/episode/dk-7x12-algopirla-verso-il-reich-millenario-contro-il-lungotermismo--52256496)
SALAMI e copyright (https://www.spreaker.com/episode/dk-8x08-salami-e-copyright--57392663)

Ti ha risposto gpt, evidentemente quindi non genera solo stronzate, lo stai dicendo anche tu....

O stai cercando di dire che non può darti la formula per la vita eterna con una domanda?...bhe grande scoperta :D

Avete ragione, non usatele, statene alla larga, non cercate di capire come potrebbero esservi utili...che vi posso dire... :D

Io scrivo certe cose proprio perchè continuo a tenermi aggiornato e se mi sono utili non ho problemi ad usare i LLM.

Ma quello che vedo è che la preoccupazione maggiore è pompare le azioni delle aziende coinvolte nel business, attirare investitori con promesse insensate, vendere hardware e ... spacciare fuffa al grande pubblico per continuare a far soldi come descritto sopra.

Non parliamo poi di certi "utilizzi proposti alle masse" che definire loschi è poco.

Mi riferisco ad esempio alla famigerata funzionalità Recall che Microsoft vuole ancora spingere a tutti icosti su Windows.
Roba da far rimuovere Windows da tutti i computer governativi per il rischio alla sicurezza che rappresenta.

Io scrivo certe cose proprio perchè continuo a tenermi aggiornato e se mi sono utili non ho problemi ad usare i LLM.

Ma quello che vedo è che la preoccupazione maggiore è pompare le azioni delle aziende coinvolte nel business, attirare investitori con promesse insensate, vendere hardware e ... spacciare fuffa al grande pubblico per continuare a far soldi come descritto sopra.

Non parliamo poi di certi "utilizzi proposti alle masse" che definire loschi è poco.

Mi riferisco ad esempio alla famigerata funzionalità Recall che Microsoft vuole ancora spingere a tutti icosti su Windows.
Roba da far rimuovere Windows da tutti i computer governativi per il rischio alla sicurezza che rappresenta.

“le immagini vengono crittografate, archiviate e analizzate in locale, usando solo le capacità di AI del dispositivo per comprendere il loro contesto”, Microsoft ha aggiornato le impostazioni di Recall sui Copilot+ PC: la funzione dovrà essere attivata manualmente. Nessuno snapshot all’insaputa dell’utente, insomma.

Bho non mi sembra tutto sto pericolo si può anche spegnere, parte disattivata di default...il computer governativo medio non credo abbia manco installato feature simili..

Io vedo tanto allarmismo, che comunque ci sta anche a differenza di quello che si ostina a dire che sono tutte e solo "bullshits" :asd: ...poi se gli faccio rispondere da gpt le da pure ragione :rotfl:

Ti ha risposto gpt, evidentemente quindi non genera solo stronzate, lo stai dicendo anche tu....

O stai cercando di dire che non può darti la formula per la vita eterna con una domanda?...bhe grande scoperta :D

No era solo un modo gentile per dirti che sei entrato in modalità supercazzola. Mi pareva evidente...

mi sembra ti soffermi un po' troppo sulla teoria e ignori cosa effettivamente si possa fare con l'IA, questa persona dice da sola di essere riuscita a creare grazie a programmi di IA questo corto di 5 minuti. posso ipotizzare converrai con me come tutto ciò fosse semplicemente impossibile prima

https://www.youtube.com/watch?v=5NZubOOeeV0

la prima sequenza è chiaramente ispirata a salvate il soldato Ryan... scommetto che analizzando il filmato si troverebbero tante altre "ispirazioni" per le varie sequenze.

Il problema delle IA generative è questo, i contenuti sono per forza un prodotto dei dati sui cui è stata allenata: ora se per la generazione di un testo, di natura saggistica questo non è un problema (se devi farti scrivere un saggio su Napoleone risulterà sempre e comunque morto il 5 maggio 1821), nella generazione di contenuti "nuovi" come una sceneggiatura o una sequenza di un film il problema c'è.... qui la sensazione di deja-vu con salvate il soldato Ryan è molto forte (ad esempio le inquadrature sott'acqua dove si vedono le scie delle pallottole)

Quindi ad un IA puoi chiedere di creare una sceneggiatura partendo da un libro, probabilmente farà un lavoro più che buono... ma non di scrivere un soggetto ex novo, per come funzionano le IA è impossibile che tiri fuori un un idea veramente originale

PS non è in questi campi che le IA faranno veramente la differenza

farmacologia, scienze dei materiali... li un IA appositamente addestrata può veramente cambiare le cose scremando molecole e proponendo ai ricercatori una selezione di 10 molecole da testare dove prima ne avrebbero dovute testare 1000

la prima sequenza è chiaramente ispirata a salvate il soldato Ryan... scommetto che analizzando il filmato si troverebbero tante altre "ispirazioni" per le varie sequenze.

Il problema delle IA generative è questo, i contenuti sono per forza un prodotto dei dati sui cui è stata allenata: ora se per la generazione di un testo, di natura saggistica questo non è un problema (se devi farti scrivere un saggio su Napoleone risulterà sempre e comunque morto il 5 maggio 1821), nella generazione di contenuti "nuovi" come una sceneggiatura o una sequenza di un film il problema c'è.... qui la sensazione di deja-vu con salvate il soldato Ryan è molto forte (ad esempio le inquadrature sott'acqua dove si vedono le scie delle pallottole)

Quindi ad un IA puoi chiedere di creare una sceneggiatura partendo da un libro, probabilmente farà un lavoro più che buono... ma non di scrivere un soggetto ex novo, per come funzionano le IA è impossibile che tiri fuori un un idea veramente originale

PS non è in questi campi che le IA faranno veramente la differenza

farmacologia, scienze dei materiali... li un IA appositamente addestrata può veramente cambiare le cose scremando molecole e proponendo ai ricercatori una selezione di 10 molecole da testare dove prima ne avrebbero dovute testare 1000

lato medico mi pare sia abbondantemente usata l'IA come supporto, anche lato molecole vedo la si usi
https://www.hwupgrade.it/news/scienza-tecnologia/40000-molecole-tossiche-create-da-una-ia-in-meno-di-6-ore-quando-la-tecnologia-e-usata-a-fin-di-male-come-monito_105789.html

sul discorso "creare qualcosa di nuovo" mi sembra una riflessione inconcludente. le cose "nuove" create dall'uomo si basano sempre su qualcosa di passato o comunque ne sono una diretta conseguenza. se chiedi a una IA di crearti un animale di fantasia te lo creerà nonostante non fosse precedentemente mai creato da nessuno

...
sul discorso "creare qualcosa di nuovo" mi sembra una riflessione inconcludente. le cose "nuove" create dall'uomo si basano sempre su qualcosa di passato o comunque ne sono una diretta conseguenza...

Ma anche no. Ci sono molti cose veramente "innovative".
Giusto per rimanere in tema di film mi viene in mente "Inception" di Christopher Nolan: non ricordo (o comunque non sono a conoscenza) di un precedente. La prima volta che l'ho visto ho pensato subito che fosse un capolavoro sui generis.

Ma anche no. Ci sono molti cose veramente "innovative".
Giusto per rimanere in tema di film mi viene in mente "Inception" di Christopher Nolan: non ricordo (o comunque non sono a conoscenza) di un precedente. La prima volta che l'ho visto ho pensato subito che fosse un capolavoro sui generis.

Ma infatti possono aiutare l'uomo a creare cose nuove, ne aumentano notevolmente la capacità di apprendimento e scoperta...sono strumenti e come tali devono essere utilizzati e o diretti dall' uomo


Un giorno forse si arriverà ad una vera AI che ragiona come un uomo, questo giorno è molto lontano IMHO e sinceramente sono già molto entusiasta di quel che offrono oggi

sinceramente sono già molto entusiasta di quel che offrono oggi

Finché chi ti dà lavoro non si accorge che l'IA può lavorare "al posto tuo"...quindi sarà entusiasta di soppiantarti "gratuitamente", però spesso ste benedette macchine fanno un lavoro di merda, quindi ci vuole il professionista che rimetta a posto le str* fatte dalla macchina, solo che poi ti dicono, eh ma ci ha già lavorato la macchina, quindi il pagamento ora è questo, dove "questo" è metà della metà che ti davano prima, ma tanto devi lavorare uguale...
Quando sarà così, perché ci arriveremo, vedremo quanto sarai entusiasta :D

Ma anche no. Ci sono molti cose veramente "innovative".
Giusto per rimanere in tema di film mi viene in mente "Inception" di Christopher Nolan: non ricordo (o comunque non sono a conoscenza) di un precedente. La prima volta che l'ho visto ho pensato subito che fosse un capolavoro sui generis.

prima dell'IA non si poteva creare un corto di 5 minuti da soli generando tutto materiale ex-novo. ad ogni modo le strade dell'IA sono infinite, potremmo vedere esperienze "impossibili" grazie alla stessa. e magari basterà dire "proponimi una esperienza visiva unica"

Finché chi ti dà lavoro non si accorge che l'IA può lavorare "al posto tuo"...quindi sarà entusiasta di soppiantarti "gratuitamente", però spesso ste benedette macchine fanno un lavoro di merda, quindi ci vuole il professionista che rimetta a posto le str* fatte dalla macchina, solo che poi ti dicono, eh ma ci ha già lavorato la macchina, quindi il pagamento ora è questo, dove "questo" è metà della metà che ti davano prima, ma tanto devi lavorare uguale...
Quando sarà così, perché ci arriveremo, vedremo quanto sarai entusiasta :D

Ehm...non è che avremo la metà da fare....potremo fare il quintuplo... è molto semplice da capire

L' AI non sostituirà l'uomo (forse sui compiti più meccanici e basilari)... sarà l' uomo in grado di sfruttare l'AI per velocizzare e migliorare compiti complessi che sostituirà l' uomo che non sa o non vuole usarla....


Prospettive

Ehm...non è che avremo la metà da fare....potremo fare il quintuplo... è molto semplice da capire

L' AI non sostituirà l'uomo (forse sui compiti più meccanici e basilari)... sarà l' uomo in grado di sfruttare l'AI per velocizzare e migliorare compiti complessi che sostituirà l' uomo che non sa o non vuole usarla....


Prospettive

Questo in un mondo ipotetico. Nel mondo vero appena potranno daranno un bel calcio nel sedere anche a te, non dubitarne

Questo in un mondo ipotetico. Nel mondo vero appena potranno daranno un bel calcio nel sedere anche a te, non dubitarne

Mi sa che sei tu che vivi nel mondo dei sogni... sai cosa faccio io? No ... Sai di cosa stiamo parlando? Dubito

Mi sa che sei tu che vivi nel mondo dei sogni... sai cosa faccio io? No ... Sai di cosa stiamo parlando? Dubito

Quanta aggressività...ti auguro sinceramente che il tuo lavoro sia uno dei pochi che non verranno mai toccati dall'IA, ma devi però a questo punto ammettere che si tratta di della minoranza della minoranza...e che all'interno del macrodiscorso il singolo caso è irrilevante

Quanta aggressività...ti auguro sinceramente che il tuo lavoro sia uno dei pochi che non verranno mai toccati dall'IA, ma devi però a questo punto ammettere che si tratta di della minoranza della minoranza...e che all'interno del macrodiscorso il singolo caso è irrilevante

Sei troppo pessimista, quasi auspichi che "a un certo punto mi daranno un calcio in culo"...e io sarei aggressivo? :asd:

Verranno sostituiti lavori quali data entry, supporto clienti di primo livello, segretari base, reception forse, camerieri forse....lavori di questo tipo...pensare che possa andare oltre significa non aver capito molto bene di cosa si tratta...

Sarà un problema? Forse si forse no, nella storia ci siamo sempre adattati...il passaggio all' aratro meccanico ha generato un apocalisse?...non mi pare...

Troppo pessimismo unito a troppo ottimismo su quello che possono realmente fare

Sei troppo pessimista, quasi auspichi che "a un certo punto mi daranno un calcio in culo"...e io sarei aggressivo? :asd:


Beh, le aziende, soprattutto quelle grandi, non è che si facciano molte remore a dare il famoso calcio in culo ai dipendenti...intendevo in quel senso.

Sarà un problema? Forse si forse no, nella storia ci siamo sempre adattati...il passaggio all' aratro meccanico ha generato un apocalisse?...non mi pare...


In primis erano altri tempi...quindi già per questo fare un confronto diretto mi sembra piuttosto inutile. Secundum, c'è una netta differenza nella velocità con cui avvengono i cambiamenti, purtroppo a nostro svantaggio.
Troppo pessimista io? Lo spero, ma la tendenza è quella ormai...

In primis erano altri tempi...quindi già per questo fare un confronto diretto mi sembra piuttosto inutile. Secundum, c'è una netta differenza nella velocità con cui avvengono i cambiamenti, purtroppo a nostro svantaggio.
Troppo pessimista io? Lo spero, ma la tendenza è quella ormai...

Bhe nel dubbio meglio farsela amica .. :)

Ehm...non è che avremo la metà da fare....potremo fare il quintuplo... è molto semplice da capire

L' AI non sostituirà l'uomo (forse sui compiti più meccanici e basilari)... sarà l' uomo in grado di sfruttare l'AI per velocizzare e migliorare compiti complessi che sostituirà l' uomo che non sa o non vuole usarla....


Prospettive

Sei troppo pessimista, quasi auspichi che "a un certo punto mi daranno un calcio in culo"...e io sarei aggressivo? :asd:

Verranno sostituiti lavori quali data entry, supporto clienti di primo livello, segretari base, reception forse, camerieri forse....lavori di questo tipo...pensare che possa andare oltre significa non aver capito molto bene di cosa si tratta...

Sarà un problema? Forse si forse no, nella storia ci siamo sempre adattati...il passaggio all' aratro meccanico ha generato un apocalisse?...non mi pare...

Troppo pessimismo unito a troppo ottimismo su quello che possono realmente fare

Prova a leggere il seguente interessante articolo (https://it.euronews.com/my-europe/2024/10/29/i-posti-di-lavoro-europei-a-rischio-quali-i-settori-piu-minacciati-dallautomazione?utm_source=pocket-newtab-it-it).

Prova a leggere il seguente interessante articolo (https://it.euronews.com/my-europe/2024/10/29/i-posti-di-lavoro-europei-a-rischio-quali-i-settori-piu-minacciati-dallautomazione?utm_source=pocket-newtab-it-it).

Esattamente quello che dicevo, ho elencato i lavori che andranno probabilmente a morire, coincidono più o meno con quanto dicono nell' articolo...ne sono consapevole e non penso che sia per forza un male..

Mi spiego, se uno sportellista bancario trova un lavoro che non può essere sostituito da un AI farà sicuramente un lavoro molto più appagante di prima.

Se perde il lavoro e non riesce a trovare altro è chiaramente un problema ma quindi cosa dovremmo fare? Blocchiamo tutto???

Ci penseranno gli stati a mettere dei limiti legali su licenziamenti, ammortizzatori sociali, tutto quello che serve...

Il pessimismo non serve a nulla e il progresso non si può fermare.

Ma state a discutere con qualcuno che vita Walter Vannini?

Fate un attimo una ricerca su che personaggio è e capite subito che è talmente estremo e schierato che se anche domani inventassero veramente una AI senziente avrebbe da ridire.

Fate un attimo una ricerca su che personaggio è e capite subito che è talmente estremo e schierato che se anche domani inventassero veramente una AI senziente avrebbe da ridire.

vannini è uno dei pochi per cui l'argomento ad hominem non costituisce fallacia.

vannini è uno dei pochi per cui l'argomento ad hominem non costituisce fallacia.

Mah... io invece che abbia posizioni troppo estremiste. Va bene la tutela della privacy e va bene gestire le AI e non buttarcisi a capofitto ma farne una crociata anche no.

Le argomentazioni vanno trattate con un giusto compromesso e non come fossero dogmi religiosi.

Ad esempio trovo più che corretto il diritto alla privacy anche online, trovo scorretto creare una paranoia sulla cosa con gente che ormai va a sezionare windows e disattivare il minimo processo che potrebbe condividere il minimo dato.

Mah... io invece che abbia posizioni troppo estremiste. Va bene la tutela della privacy e va bene gestire le AI e non buttarcisi a capofitto ma farne una crociata anche no.

Le argomentazioni vanno trattate con un giusto compromesso e non come fossero dogmi religiosi.

Ad esempio trovo più che corretto il diritto alla privacy anche online, trovo scorretto creare una paranoia sulla cosa con gente che ormai va a sezionare windows e disattivare il minimo processo che potrebbe condividere il minimo dato.

per quello che mi riguarda vannini sarebbe insulso anche qualora si limitasse a dare l'ora esatta.

per quello che mi riguarda vannini sarebbe insulso anche qualora si limitasse a dare l'ora esatta.

Ah scusami... allora avevo mail interpretato la tua risposta... :D