OpenAI, abbandona il responsabile del progetto AGI: "il mondo non è pronto"

[pachainti]

Originariamente inviato da TorettoMilano

come dicevo prima dai spunti interessanti di riflessioni teorici ma poi ignori i fatti concreti, quei 5 minuti di video erano impossibili da fare invece ora una persona da sola è riuscito. a elencare le criticità di questi sistemi stai praticamente perdendo tempo, ti consiglierei di dedicare tempo a capire per cosa utilizzare l'IA

[pachainti]

Originariamente inviato da MikTaeTrioR

1. **Consapevolezza e scelta della risposta**:
È vero che i LLM non hanno consapevolezza o intenzionalità; si basano su pattern statistici per produrre risposte. Tuttavia, *la consapevolezza* non è necessaria per l’utilità pratica in molti casi. Ad esempio, strumenti come i LLM possono essere addestrati e ottimizzati per compiti specifici in ambiti tecnici, dove forniscono risposte accurate perché addestrati su dati verificati. Inoltre, la "scelta della risposta a maggiore probabilità" non implica una mancanza di valore, ma piuttosto sfrutta una base di dati vasta e complessa che, con un uso attento, può portare a risposte valide e ben fondate.

2. **Senso di realtà e rischio di errori**:
Anche questa è una critica fondata ma generalizzata: mentre gli LLM possono "allucinare" o inventare fatti, l’entità di queste "allucinazioni" dipende dall’addestramento e dall'uso che ne viene fatto. Molte delle applicazioni di successo degli LLM includono l’integrazione con fonti di dati esterne e aggiornate (come database o motori di ricerca) che mitigano questi rischi. Inoltre, chi crea o usa gli LLM sa che questi modelli sono strumenti, non autorità assolute. Esattamente come qualsiasi altro strumento, vanno usati con discernimento e in contesti adeguati.

3. **Affidabilità e contesto dell’utente finale**:
Qui emerge il discorso della responsabilità dell’utente. Per ogni tecnologia emergente, la formazione dell’utente è essenziale. Se si usa un LLM in un contesto sensibile (medico, legale, ingegneristico), l’utente deve essere a conoscenza dei suoi limiti e verificarne le risposte. Ma questo vale per ogni strumento complesso o tecnologico, come il software statistico, o persino calcolatori avanzati.

4. **Capacità di un esperto e potenziale degli LLM**:
Anche un esperto può beneficiare degli LLM, perché consentono di elaborare grandi volumi di informazioni, aiutare con il brainstorming, offrire risposte rapide e, in alcuni casi, proporre nuovi spunti che possono rivelarsi utili. Un LLM non sostituisce l’esperienza, ma per chi sa come trarne vantaggio, è uno strumento di supporto che può far risparmiare tempo e ampliare le prospettive di lavoro.

5. **Evoluzione e miglioramento continuo degli LLM**:
Gli LLM si stanno evolvendo rapidamente, con aggiornamenti mirati a ridurre il rischio di allucinazioni e migliorare l’accuratezza delle risposte. Molti sviluppatori lavorano proprio per ridurre i difetti evidenziati, facendo uso di tecniche di verifica e di addestramento basate su feedback umano o sull’aggiornamento con dati affidabili.

**In sintesi**: Sì, gli LLM hanno limiti strutturali, ma vanno inquadrati come strumenti di supporto, non come sostituti del pensiero umano. Sta al contesto e alla competenza dell’utente finale sfruttarli al meglio. Per criticare gli LLM in modo equilibrato, è importante considerare anche come questi possano contribuire positivamente, evitando di generalizzare eccessivamente i loro limiti.

Grazie per il lungo elenco, conosco bene come funzionano e per questo li considero sostanzialmente inutili per risolvere problemi seri. Per effetto wow o per cavolate sono ottimi.
Questo articolo oppure questi podcast lo spiegano bene:
ChatGPT is bullshit
Generatori di stronzate e sciacquoni
Algopirla Verso il Reich Millenario (contro il lungotermismo)
SALAMI e copyright

[pachainti]

Originariamente inviato da LMCH

Il problema è che Microsoft ed il CEB (Chief of Executive Bullshit) di OpenAI da anni cercano di rifilare al grande pubblico l'idea che LLM = AI generalista e che è solo questione di alzare di un tot. la potenza di calcolo per arrivare ad avere una "Skynet amichevole".

Ma quello serve A LORO per fare soldi sul rialzo delle quaotazioni azionarie, sulla vendita di servizi, ecc. ecc. serve ai produttori di hardware per vendere roba "per AI" con margini maggiori, ecc. ecc.
Ma all'utente finale ... Meh! Mica tanto.

Poi si guarda a "dove si fanno i soldi" con i LLM e si vedono:
- chatbot da usare al posto di operatori umani nei call center (specialmente per i call center usati da scammer e simili)
- "generatori di riassunti" (che in realtà sono sfondatori stocastici di testo, non fanno veri riassunti e se non hanno già nel loro modello lo schema corretto sono caXXi per chi ne fa uso pensando che facciano davvero riassunti).
- generatori di immagini così si evita di pagare un illustratore o un disegnatore professionista (che non ci si potrebbe permettere comunque, in precedenza si usavano librerie di immagini stock e cose simili).
- "generatori di codice" (che se in genere se va bene generano uno scheletro di sorgente anche decente su cui costruire il resto, ma se va male .... Muah! Ah! Ah![*] ).

In tutto il resto, o hai dei
PROFESSIONISTI (costano)
FERRATISSIMI NELL'ARGOMENTO O SETTORE DI APPLICAZIONE (costano di più)
E CHE SANNO QUANDO E COME USARE GLI LLM (se non sei una multinazionale non te li puoi permettere, al massimo ti può capitare di trovarne uno che non è stato scovato o notato dagli headhunter, ma sono rari) ...
Beh! Di certo farai fare un sacco di soldi a Microsoft, OpenAI, Nvidia, ecc. ecc. ma per quel che ti riguarda te o per la tua azienda mi sa di no.

Esatto.

[MikTaeTrioR]

Avete ragione, non usatele, statene alla larga, non cercate di capire come potrebbero esservi utili...che vi posso dire...

[MikTaeTrioR]

Originariamente inviato da pachainti

Grazie per il lungo elenco, conosco bene come funzionano e per questo li considero sostanzialmente inutili per risolvere problemi seri. Per effetto wow o per cavolate sono ottimi.
Questo articolo oppure questi podcast lo spiegano bene:
ChatGPT is bullshit
Generatori di stronzate e sciacquoni
Algopirla Verso il Reich Millenario (contro il lungotermismo)
SALAMI e copyright

Ti ha risposto gpt, evidentemente quindi non genera solo stronzate, lo stai dicendo anche tu....

O stai cercando di dire che non può darti la formula per la vita eterna con una domanda?...bhe grande scoperta

[LMCH]

Originariamente inviato da MikTaeTrioR

Avete ragione, non usatele, statene alla larga, non cercate di capire come potrebbero esservi utili...che vi posso dire...

Io scrivo certe cose proprio perchè continuo a tenermi aggiornato e se mi sono utili non ho problemi ad usare i LLM.

Ma quello che vedo è che la preoccupazione maggiore è pompare le azioni delle aziende coinvolte nel business, attirare investitori con promesse insensate, vendere hardware e ... spacciare fuffa al grande pubblico per continuare a far soldi come descritto sopra.

Non parliamo poi di certi "utilizzi proposti alle masse" che definire loschi è poco.

Mi riferisco ad esempio alla famigerata funzionalità Recall che Microsoft vuole ancora spingere a tutti icosti su Windows.
Roba da far rimuovere Windows da tutti i computer governativi per il rischio alla sicurezza che rappresenta.

[MikTaeTrioR]

Originariamente inviato da LMCH

Io scrivo certe cose proprio perchè continuo a tenermi aggiornato e se mi sono utili non ho problemi ad usare i LLM.

Ma quello che vedo è che la preoccupazione maggiore è pompare le azioni delle aziende coinvolte nel business, attirare investitori con promesse insensate, vendere hardware e ... spacciare fuffa al grande pubblico per continuare a far soldi come descritto sopra.

Non parliamo poi di certi "utilizzi proposti alle masse" che definire loschi è poco.

Mi riferisco ad esempio alla famigerata funzionalità Recall che Microsoft vuole ancora spingere a tutti icosti su Windows.
Roba da far rimuovere Windows da tutti i computer governativi per il rischio alla sicurezza che rappresenta.

“le immagini vengono crittografate, archiviate e analizzate in locale, usando solo le capacità di AI del dispositivo per comprendere il loro contesto”, Microsoft ha aggiornato le impostazioni di Recall sui Copilot+ PC: la funzione dovrà essere attivata manualmente. Nessuno snapshot all’insaputa dell’utente, insomma.

Bho non mi sembra tutto sto pericolo si può anche spegnere, parte disattivata di default...il computer governativo medio non credo abbia manco installato feature simili..

Io vedo tanto allarmismo, che comunque ci sta anche a differenza di quello che si ostina a dire che sono tutte e solo "bullshits" ...poi se gli faccio rispondere da gpt le da pure ragione

[pachainti]

Originariamente inviato da MikTaeTrioR

Ti ha risposto gpt, evidentemente quindi non genera solo stronzate, lo stai dicendo anche tu....

O stai cercando di dire che non può darti la formula per la vita eterna con una domanda?...bhe grande scoperta

No era solo un modo gentile per dirti che sei entrato in modalità supercazzola. Mi pareva evidente...

[An.tani]

Originariamente inviato da TorettoMilano

mi sembra ti soffermi un po' troppo sulla teoria e ignori cosa effettivamente si possa fare con l'IA, questa persona dice da sola di essere riuscita a creare grazie a programmi di IA questo corto di 5 minuti. posso ipotizzare converrai con me come tutto ciò fosse semplicemente impossibile prima

https://www.youtube.com/watch?v=5NZubOOeeV0

la prima sequenza è chiaramente ispirata a salvate il soldato Ryan... scommetto che analizzando il filmato si troverebbero tante altre "ispirazioni" per le varie sequenze.

Il problema delle IA generative è questo, i contenuti sono per forza un prodotto dei dati sui cui è stata allenata: ora se per la generazione di un testo, di natura saggistica questo non è un problema (se devi farti scrivere un saggio su Napoleone risulterà sempre e comunque morto il 5 maggio 1821), nella generazione di contenuti "nuovi" come una sceneggiatura o una sequenza di un film il problema c'è.... qui la sensazione di deja-vu con salvate il soldato Ryan è molto forte (ad esempio le inquadrature sott'acqua dove si vedono le scie delle pallottole)

Quindi ad un IA puoi chiedere di creare una sceneggiatura partendo da un libro, probabilmente farà un lavoro più che buono... ma non di scrivere un soggetto ex novo, per come funzionano le IA è impossibile che tiri fuori un un idea veramente originale

PS non è in questi campi che le IA faranno veramente la differenza

farmacologia, scienze dei materiali... li un IA appositamente addestrata può veramente cambiare le cose scremando molecole e proponendo ai ricercatori una selezione di 10 molecole da testare dove prima ne avrebbero dovute testare 1000

[TorettoMilano]

Originariamente inviato da An.tani

la prima sequenza è chiaramente ispirata a salvate il soldato Ryan... scommetto che analizzando il filmato si troverebbero tante altre "ispirazioni" per le varie sequenze.

Il problema delle IA generative è questo, i contenuti sono per forza un prodotto dei dati sui cui è stata allenata: ora se per la generazione di un testo, di natura saggistica questo non è un problema (se devi farti scrivere un saggio su Napoleone risulterà sempre e comunque morto il 5 maggio 1821), nella generazione di contenuti "nuovi" come una sceneggiatura o una sequenza di un film il problema c'è.... qui la sensazione di deja-vu con salvate il soldato Ryan è molto forte (ad esempio le inquadrature sott'acqua dove si vedono le scie delle pallottole)

Quindi ad un IA puoi chiedere di creare una sceneggiatura partendo da un libro, probabilmente farà un lavoro più che buono... ma non di scrivere un soggetto ex novo, per come funzionano le IA è impossibile che tiri fuori un un idea veramente originale

PS non è in questi campi che le IA faranno veramente la differenza

farmacologia, scienze dei materiali... li un IA appositamente addestrata può veramente cambiare le cose scremando molecole e proponendo ai ricercatori una selezione di 10 molecole da testare dove prima ne avrebbero dovute testare 1000

lato medico mi pare sia abbondantemente usata l'IA come supporto, anche lato molecole vedo la si usi
https://www.hwupgrade.it/news/scienz...to_105789.html

sul discorso "creare qualcosa di nuovo" mi sembra una riflessione inconcludente. le cose "nuove" create dall'uomo si basano sempre su qualcosa di passato o comunque ne sono una diretta conseguenza. se chiedi a una IA di crearti un animale di fantasia te lo creerà nonostante non fosse precedentemente mai creato da nessuno

[euscar]

Originariamente inviato da TorettoMilano

...
sul discorso "creare qualcosa di nuovo" mi sembra una riflessione inconcludente. le cose "nuove" create dall'uomo si basano sempre su qualcosa di passato o comunque ne sono una diretta conseguenza...

Ma anche no. Ci sono molti cose veramente "innovative".
Giusto per rimanere in tema di film mi viene in mente "Inception" di Christopher Nolan: non ricordo (o comunque non sono a conoscenza) di un precedente. La prima volta che l'ho visto ho pensato subito che fosse un capolavoro sui generis.

[MikTaeTrioR]

Originariamente inviato da euscar

Ma anche no. Ci sono molti cose veramente "innovative".
Giusto per rimanere in tema di film mi viene in mente "Inception" di Christopher Nolan: non ricordo (o comunque non sono a conoscenza) di un precedente. La prima volta che l'ho visto ho pensato subito che fosse un capolavoro sui generis.

Ma infatti possono aiutare l'uomo a creare cose nuove, ne aumentano notevolmente la capacità di apprendimento e scoperta...sono strumenti e come tali devono essere utilizzati e o diretti dall' uomo


Un giorno forse si arriverà ad una vera AI che ragiona come un uomo, questo giorno è molto lontano IMHO e sinceramente sono già molto entusiasta di quel che offrono oggi

[Ratavuloira]

Originariamente inviato da MikTaeTrioR

sinceramente sono già molto entusiasta di quel che offrono oggi

Finché chi ti dà lavoro non si accorge che l'IA può lavorare "al posto tuo"...quindi sarà entusiasta di soppiantarti "gratuitamente", però spesso ste benedette macchine fanno un lavoro di merda, quindi ci vuole il professionista che rimetta a posto le str* fatte dalla macchina, solo che poi ti dicono, eh ma ci ha già lavorato la macchina, quindi il pagamento ora è questo, dove "questo" è metà della metà che ti davano prima, ma tanto devi lavorare uguale...
Quando sarà così, perché ci arriveremo, vedremo quanto sarai entusiasta

[TorettoMilano]

Originariamente inviato da euscar

Ma anche no. Ci sono molti cose veramente "innovative".
Giusto per rimanere in tema di film mi viene in mente "Inception" di Christopher Nolan: non ricordo (o comunque non sono a conoscenza) di un precedente. La prima volta che l'ho visto ho pensato subito che fosse un capolavoro sui generis.

prima dell'IA non si poteva creare un corto di 5 minuti da soli generando tutto materiale ex-novo. ad ogni modo le strade dell'IA sono infinite, potremmo vedere esperienze "impossibili" grazie alla stessa. e magari basterà dire "proponimi una esperienza visiva unica"

[MikTaeTrioR]

Originariamente inviato da Ratavuloira

Finché chi ti dà lavoro non si accorge che l'IA può lavorare "al posto tuo"...quindi sarà entusiasta di soppiantarti "gratuitamente", però spesso ste benedette macchine fanno un lavoro di merda, quindi ci vuole il professionista che rimetta a posto le str* fatte dalla macchina, solo che poi ti dicono, eh ma ci ha già lavorato la macchina, quindi il pagamento ora è questo, dove "questo" è metà della metà che ti davano prima, ma tanto devi lavorare uguale...
Quando sarà così, perché ci arriveremo, vedremo quanto sarai entusiasta

Ehm...non è che avremo la metà da fare....potremo fare il quintuplo... è molto semplice da capire

L' AI non sostituirà l'uomo (forse sui compiti più meccanici e basilari)... sarà l' uomo in grado di sfruttare l'AI per velocizzare e migliorare compiti complessi che sostituirà l' uomo che non sa o non vuole usarla....


Prospettive

[Ratavuloira]

Originariamente inviato da MikTaeTrioR

Ehm...non è che avremo la metà da fare....potremo fare il quintuplo... è molto semplice da capire

L' AI non sostituirà l'uomo (forse sui compiti più meccanici e basilari)... sarà l' uomo in grado di sfruttare l'AI per velocizzare e migliorare compiti complessi che sostituirà l' uomo che non sa o non vuole usarla....


Prospettive

Questo in un mondo ipotetico. Nel mondo vero appena potranno daranno un bel calcio nel sedere anche a te, non dubitarne

[MikTaeTrioR]

Originariamente inviato da Ratavuloira

Questo in un mondo ipotetico. Nel mondo vero appena potranno daranno un bel calcio nel sedere anche a te, non dubitarne

Mi sa che sei tu che vivi nel mondo dei sogni... sai cosa faccio io? No ... Sai di cosa stiamo parlando? Dubito

[Ratavuloira]

Originariamente inviato da MikTaeTrioR

Mi sa che sei tu che vivi nel mondo dei sogni... sai cosa faccio io? No ... Sai di cosa stiamo parlando? Dubito

Quanta aggressività...ti auguro sinceramente che il tuo lavoro sia uno dei pochi che non verranno mai toccati dall'IA, ma devi però a questo punto ammettere che si tratta di della minoranza della minoranza...e che all'interno del macrodiscorso il singolo caso è irrilevante

[MikTaeTrioR]

Originariamente inviato da Ratavuloira

Quanta aggressività...ti auguro sinceramente che il tuo lavoro sia uno dei pochi che non verranno mai toccati dall'IA, ma devi però a questo punto ammettere che si tratta di della minoranza della minoranza...e che all'interno del macrodiscorso il singolo caso è irrilevante

Sei troppo pessimista, quasi auspichi che "a un certo punto mi daranno un calcio in culo"...e io sarei aggressivo?

Verranno sostituiti lavori quali data entry, supporto clienti di primo livello, segretari base, reception forse, camerieri forse....lavori di questo tipo...pensare che possa andare oltre significa non aver capito molto bene di cosa si tratta...

Sarà un problema? Forse si forse no, nella storia ci siamo sempre adattati...il passaggio all' aratro meccanico ha generato un apocalisse?...non mi pare...

Troppo pessimismo unito a troppo ottimismo su quello che possono realmente fare

[Ratavuloira]

Originariamente inviato da MikTaeTrioR

Sei troppo pessimista, quasi auspichi che "a un certo punto mi daranno un calcio in culo"...e io sarei aggressivo?

Beh, le aziende, soprattutto quelle grandi, non è che si facciano molte remore a dare il famoso calcio in culo ai dipendenti...intendevo in quel senso.