L'intelligenza artificiale generale? Illusione e fumo negli occhi: parla una pioniera dell'AI etica

[mik77]

l'IA attuale non ragiona
è una specie di pappagallo che usa un concentrato di contenuti prendendo i più probabili per dare una risposta alla domanda fatta

secondo me l'approccio non è quello giusto, dovrebbero prima creare un vero cervello artificiale che apprende e ragiona

e poi scalarlo in grandezza e numero di contenuti

qui invece buttano dentro un calderone tutto lo scibile e poi ritoccano l'algoritmo del pappagallo

[Haran Banjo]

Originariamente inviato da popye

nessuno lo sa

In origine erano nove fratelli: Satere, Manago, Patagaio, Sgragghiu, Patagherro, Sonnigaru, Barrago, Businno, e naturalmente Franco.

Per la donna non so dirvi

[euscar]

Originariamente inviato da Fantapollo

Che sciocchezze,
che l'IA ragioni è evidente, basta provarla.

Chiaramente alcune IA sono meglio di altre,
e Google è partita in ritardo

Te lo hanno già scritto, ma l'IA NON ragiona.
L'attuale IA è semplicemente statistica applicata.

Ragionare significa applicare conoscenze acquisite per rispondere a nuovi quesiti.
L'IA è in grado solo di "dare risposte" a problemi già risolsti che il 99% delle persone non sono in grado di risolvere da soli, ti fornisce semplicemente la risposta più plausibile già ottenuta.

Nel momento un cui una IA riuscirà a dimostrare uno dei Problemi per il millennio non ancora risolti, allora si potrà parlare di vera IA

[randorama]

Originariamente inviato da popye

direi che è la risposta che ti darebbe un umano CATTOLICO (forse) intelligente, uno realmente intelligente ti direbbe: secondo la mia religione (o filosofia) sono stati....ma in realtà non si sa.

apperò! un cattolico che disconosce adamo ed eva.

[xxxyyy]

La vedo male questa signora nell'attuale Ammeriga.

[omerook]

Originariamente inviato da euscar

Nel momento un cui una IA riuscirà a dimostrare uno dei Problemi per il millennio non ancora risolti, allora si potrà parlare di vera IA

Ma vale anche per gli umani?

[Fantapollo]

Io ve lo ripeto, l'IA ragiona.
Gli hater dovranno farsene una ragione.

Qualunque test dimostra che l'IA ragiona.

Vero che i filosofi ci devono ancora arrivare,
e che per chi mette l'uomo al centro dell'universo sia difficile accettarlo,
ma presto cambierete TUTTI idea, io sono semplicemente il primo a dirlo.

Ragionare significa risolvere problemi,
e non ci sono problemi che il cervello umano sappia risolvere meglio di quanto l'IA possa fare.

Vi invito a trovare un TEST che dimostri che l'IA non ragiona.
In bocca al lupo

[zancle]

Originariamente inviato da Fantapollo

Perche', il nostro cervello non ragiona in termini di probabilità?
Non trasforma affermazioni in altre affermazioni?
Io ve l'ho detto, nel regno dei detrattori dell'IA regna la vaghezza piu' totale.

Dimostratemi che l'IA non ragiona... vedrete che cadrà il silenzio.
Ragionare significa rispondere correttamente a dei problemi. Tutto qui.

L'IA ragiona eccome, e lo fa pure in modo molto simile a quello che fa il cervello umano

Originariamente inviato da Piedone1113

No, il nostro cervello non ragiona per probabilità.
Nessuna invenzione sarebbe esistita se non ragionasssimo.
L'uomo basa il suo ragionamento non sulle probabilità come alla lotteria, ma secondo la logica causa-effetto.
Quando un'azione non produce l'effetto che ci aspettiamo ( tramite ragionamento) cerchiamo di capire dove abbiamo sbagliato nel ipotizzare l'effetto e se ci sono concause non prese in considerazione se non del tutto sconosciute ( cose che l'IA non fa).
Parimente quando abbiamo un effetto cerchiamo di andare a ritroso per risalire alle cause.
Un IA non è in grado di farlo, a meno che questo non sia stato fatto gia da un'inteligenza reale e trovarne i dati.

Originariamente inviato da mik77

l'IA attuale non ragiona
è una specie di pappagallo che usa un concentrato di contenuti prendendo i più probabili per dare una risposta alla domanda fatta

secondo me l'approccio non è quello giusto, dovrebbero prima creare un vero cervello artificiale che apprende e ragiona

e poi scalarlo in grandezza e numero di contenuti

qui invece buttano dentro un calderone tutto lo scibile e poi ritoccano l'algoritmo del pappagallo

I.A. non deve essere onnisciente, diventerebbe lenta e non servirebbe a niente, A.I. deve essere settoriale.
se la uso per fare traduzioni tra due lingue mi serve che faccia bene solo quello, non che faccia dissertazioni se è nato prima l'uovo o la gallina.
se la uso per realizzare spezzoni di video con attori inesistenti mi basta che il risultato del lavoro sia realistico.
se ecc...

[Notturnia]

Originariamente inviato da megamitch

ma ti capita davvero che ti dica "non so rispondere" ? a me tutte le volte piuttosto che cedere e dire che non lo sa mi dice una cosa a caso. Infatti non ragiona perchè non sa che sta dicendo una castroneria.

chi dice che le IA ragionano non le hanno mai usate sul serio..
a volte dice di quelle castronerie che sembra un bambino di 5 anni con le mani piene di marmellata che ti dice di non averla vista la marmellata..

continuo a chiederle di disegnarmi un triangolo rettangolo mettendo l'ipotenusa come base e di tracciarmi l'altezza relativa all'ipotenusa..

fa di quelle schifezze che quando le fai notare che ha sbagliato si scusa, dice che ho ragione io e poi disegna a casaccio altro.. o cambia le lettere per far finta che il cateto di base sia l'ipotenusa

è ovvio che non ragiona e per questo bisogna stare attenti a come lavora perchè serve qualcuno attento alle risposte e che conosca la materia prima di poter usare quello che fa..

noi la usiamo in affiancamento alla programmazione solo per vedere se ha delle "idee" diverse da quelle applicate e per sperimentare strade differenti per soluzioni che abbiamo già trovato proprio perchè sbaglia molto spesso

[Notturnia]

Originariamente inviato da Fantapollo

Io ve lo ripeto, l'IA ragiona.
Gli hater dovranno farsene una ragione.

Qualunque test dimostra che l'IA ragiona.

Vero che i filosofi ci devono ancora arrivare,
e che per chi mette l'uomo al centro dell'universo sia difficile accettarlo,
ma presto cambierete TUTTI idea, io sono semplicemente il primo a dirlo.

Ragionare significa risolvere problemi,
e non ci sono problemi che il cervello umano sappia risolvere meglio di quanto l'IA possa fare.

Vi invito a trovare un TEST che dimostri che l'IA non ragiona.
In bocca al lupo

dimostraci che ragiona
sei tu quello che crede che la IA ragioni..
noi ne usiamo due in ufficio e nessuna delle due sa fare ragionamenti logici..
sanno fare "cose" che non sanno spiegare.. ho appena chiesto delle percentuali di licenziamenti al liceo.. 8,5% .. 11,8% al ITIS.. quando poi però gli ho chiesto un confronto mi ha detto che nei licei passa al primo anno il 94,5% .. ora.. anche un bambino capisce l'incoerenza di 8,5% bocciati ma 94,5 % passati.. se ragionasse si sarebbe accorta dell'errore ma nello stesso discorso ha detto cose incoerenti fra loro

tanto per dirne una delle tante lacune che ha.. il ragionamento analitico di certo non lo hanno.. il ragionamento credo neanche visto che lavoriamo con le IA da oltre un anno.. ma tu. che le conosci bene, spiegaci come dimostri che RAGIONANO le IA..

[AlexSwitch]

Originariamente inviato da Fantapollo

Perche', il nostro cervello non ragiona in termini di probabilità?
Non trasforma affermazioni in altre affermazioni?
Io ve l'ho detto, nel regno dei detrattori dell'IA regna la vaghezza piu' totale.

Dimostratemi che l'IA non ragiona... vedrete che cadrà il silenzio.
Ragionare significa rispondere correttamente a dei problemi. Tutto qui.

L'IA ragiona eccome, e lo fa pure in modo molto simile a quello che fa il cervello umano

No... Il nostro cervello non ragiona in termini probabilistici se non ci imponiamo di farlo. Principalmente il nostro modo di ragionare è basato sull'istinto e sull'esperienza. Abbiamo la capacità di astrarre un pensiero, un concetto, una idea osservando un fenomeno e/o richiamandoli dalla nostra memoria senza eseguire nessun " codice " senza la necessità di qualche algoritmo. La nostra memoria, inoltre, funziona in maniera completamente diversa da quella di un computer digitale.
Una IA non potrà mai " desiderare ", provare rabbia, amore, malinconia, felicità e quant'altro e comportarsi ed analizzare le cose in base a questi sentimenti.
Forse una IA generalista potrà diventare abbastanza brava a mimarli ma non potrà mai comprenderli a fondo e mai provarli di sua sponte.
Ti faccio un esempio: una IA generalista se dovrà aiutarti o dovrà scegliere spontaneamente un veicolo valuterà per prima cosa a cosa servirà e determinate qualità oggettive come prezzo, dotazioni, consumi ed in base a questi magari poi valuterà l'estetica in base a come è stato regolato il suo algoritmo.
Gli esseri umani, assodata la necessità di un veicolo per spostarsi, per prima cosa seleziona cosa gli piace o meno in base ai suoi gusti e poi valuta il resto. Addirittura ci sarà qualcuno che invece di una macchina, più comoda e flessibile, magari sceglierà una motocicletta perchè è sempre stata il suo sogno e la sua passione e al primo posto metterà la felicità di sentire il fruscio del vento e il rombo del motore quando accelera. La differenza? Il primo è un ragionamento indotto attraverso un algoritmo che alla fine farà compiere le stesse operazioni su una marea di dati digitalizzati e classificati in base ad altri algoritmi ; il secondo è un ragionamento che è stato indotto e dominato da un desiderio corrispondente ad una passione che insita ed istintiva nell'umano.

[CrapaDiLegno]

Originariamente inviato da Fantapollo

Io ve lo ripeto, l'IA ragiona.
Gli hater dovranno farsene una ragione.

Qualunque test dimostra che l'IA ragiona.

Vero che i filosofi ci devono ancora arrivare,
e che per chi mette l'uomo al centro dell'universo sia difficile accettarlo,
ma presto cambierete TUTTI idea, io sono semplicemente il primo a dirlo.

Ragionare significa risolvere problemi,
e non ci sono problemi che il cervello umano sappia risolvere meglio di quanto l'IA possa fare.

Vi invito a trovare un TEST che dimostri che l'IA non ragiona.
In bocca al lupo

O sei un AI anche tu o stai trollando allegramente.
Ragionare non significa assolutamente dare risposte ad un problema.
Un libro di meccanica contiene soluzioni a decine di problemi. Il libro ragiona?
Il libro riporta solo un messaggio su come ottenere un certo risultato date certe premesse.
Chi ha pensato a come affrontare il problema e risolvere è colui che ha scritto il messaggio.
Le AI di oggi non sono altro che dei manuali (intesi come libri pieni di nozioni) che non sono mai stati scritti realmente ma che attingono a tutto lo scibile già scritto per dare una risposta più o meno valida.
Se sottoponi ad una AI un problema mai descritto (o che non è parte del dataset dell'addestramento) non saprà neanche di cosa parli e si inventerà risposte a caso. Non c'è alcun ragionamento dietro, solo la statistica di mettere la parola successiva migliore seguendo un modello che le ha detto quali sono le parole che si combinano meglio per un determinato argomento.

Se insegno a un cerebroleso 4 nozioni e questo le ripete a pappagallo quando lo stimolo con una parola chiave, non è che lui ad un certo punto si è messo a ragionare. Semplicemente sputa fuori quello che gli è stato messo dentro.
Può anche aver memorizzato che per cuocere un uovo sodo servono 10 minuti di bollitura, ma poi non è detto che sappia cosa è un uovo, dove reperirlo e come far bollire l'acqua.
Lui sa solo che va bollito per 10 minuti come una ricetta ripetuta.

Ragionare è qualcosa di diverso.
Ma uno che insiste andando nella direzione opposta al ragionamento, non può ovviamente capire la questione.

[Piedone1113]

Originariamente inviato da zancle

I.A. non deve essere onnisciente, diventerebbe lenta e non servirebbe a niente, A.I. deve essere settoriale.
se la uso per fare traduzioni tra due lingue mi serve che faccia bene solo quello, non che faccia dissertazioni se è nato prima l'uovo o la gallina.
se la uso per realizzare spezzoni di video con attori inesistenti mi basta che il risultato del lavoro sia realistico.
se ecc...

Prendiamo un nobel per la fisica e gli chiediamo di spiegarci l'ultima scoperta fatta da un team separato dal suo è che ha anticipato la scoperta senza ancor aver pubblicato nulla.
Prendiamo per buona la scoperta ( per semplificare la logica del ragionamento).
Il nobel ti dirà:
il team x in un esperimento al Cern dichiara che accellerando mesoni e bombardandoli con mioni si creano i presupposti per creare uno squarcio nello spazio tempo e poter inviare i mesoni nel passato.
Aspettiamo i dati rilasciati e le verifiche del caso prima di parlare di nuova scoperta.

Un IA addestrata solo in Fisica ti Dirà:
è stato aperto un portale spazio tempo accellerando particelle subatomiche nel tunnel che collega il laboratorio del Gran Sasso al Cern di Ginevra e dimostrato che grazie a questo effetto fisico è possibile il teletrasporto istantaneo.
Aggiungendo formule e calcoli a caso senza criterio.

[An.tani]

Originariamente inviato da Fantapollo

Vi invito a trovare un TEST che dimostri che l'IA non ragiona.
In bocca al lupo

Nessun LLM riesce a risolvere il rompicapo della Torre di Hanoi, neanche dopo che gli viene spiegato come fare

https://it.wikipedia.org/wiki/Torre_di_Hanoi

allo stesso tempo un gruppo di matematici ha ideato una serie di test a difficoltà crescente dialogando esclusivamente su telegram per evitare che qualche email venisse usata per addestrare gli LLM e gli hanno sottoposti ai vari LLM: i risultati sono stupefacenti, al livello dei matematici stessi

TUTTA la differenza la fa la capacità di astrazione che gli LLM non hanno e gli umani si

[abbatheking]

Originariamente inviato da Fantapollo

Io ve lo ripeto, l'IA ragiona.
Gli hater dovranno farsene una ragione.

Qualunque test dimostra che l'IA ragiona.

Vero che i filosofi ci devono ancora arrivare,
e che per chi mette l'uomo al centro dell'universo sia difficile accettarlo,
ma presto cambierete TUTTI idea, io sono semplicemente il primo a dirlo.

Ragionare significa risolvere problemi,
e non ci sono problemi che il cervello umano sappia risolvere meglio di quanto l'IA possa fare.

Vi invito a trovare un TEST che dimostri che l'IA non ragiona.
In bocca al lupo

Fallacia logica.
Tu sostieni che l'IA ragione e a te spetta l'onere della prova.
Come ha scritto Notturnia, probabilmente non l'hai mai usata seriamente una IA.
Io la uso quotidianamente per programmare e non sai quante volte si incarta da sola.

[randorama]

Originariamente inviato da An.tani

Nessun LLM riesce a risolvere il rompicapo della Torre di Hanoi, neanche dopo che gli viene spiegato come fare

https://it.wikipedia.org/wiki/Torre_di_Hanoi

allo stesso tempo un gruppo di matematici ha ideato una serie di test a difficoltà crescente dialogando esclusivamente su telegram per evitare che qualche email venisse usata per addestrare gli LLM e gli hanno sottoposti ai vari LLM: i risultati sono stupefacenti, al livello dei matematici stessi

TUTTA la differenza la fa la capacità di astrazione che gli LLM non hanno e gli umani si

provato un attimo fa, con 5 dischi, l'ha risolto nel numero minimo sindacale di mosse (31).

per meglio dire; l'ha OVVIAMENTE risolto visto che si tratta di un algoritmo "semplice" che non prevede l'interazione con una "sorgente esterna" come potrebbe essere il gioco degli scacchi o della dama (dove effettivamente scazza in modo imbarazzante).

tu hai provato o sta roba l'hai letta da qualche parte?

[aqua84]

Ho capito e risolto il problema di Fantapollo, da solo, senza l aiuto della IA.
Dobbiamo tutti, ma proprio TUTTI, dire che l IA ragiona, così lui dirà il contrario.

[An.tani]

Originariamente inviato da randorama

provato un attimo fa, con 5 dischi, l'ha risolto nel numero minimo sindacale di mosse (31).

per meglio dire; l'ha OVVIAMENTE risolto visto che si tratta di un algoritmo "semplice" che non prevede l'interazione con una "sorgente esterna" come potrebbe essere il gioco degli scacchi o della dama (dove effettivamente scazza in modo imbarazzante).

tu hai provato o sta roba l'hai letta da qualche parte?

Letta ed è quindi probabile che nel frattempo sia stata appositamente patchata

[Fantapollo]

Originariamente inviato da abbatheking

Fallacia logica.
Tu sostieni che l'IA ragione e a te spetta l'onere della prova.

La prova? Ne puoi avere quante ne vuoi,
basta che vai su chatgpt.com o simili.

Io vi ho detto cosa voglia dire "ragionare": rispondere a delle domande/risolvere problemi (senza pippe sul "come").

L'IA lo fa, e domande alle quali l'IA non sappia rispondere (nemmeno potenzialmente) e l'uomo sì le devo ancora trovare...

Guardate che la corrente di pensiero che dirà
"L'IA ragiona come un uomo" è imminente... arriverà presto.
Al momento c'è semplicemente un po' di timidezza sulla cosa.
Entro breve tutti la penserete come me.

Il nostro cervello ragiona SEMPRE per probabilità, senza che ce ne accorgiamo.
Secondo voi, come funziona la traduzione di un suono in parola?
Il cervello prende il suono e guarda a quale parola somigli di piu', magari tenendo conto del contesto... ma è sempre probabilità.
Anche se non ve ne accorgete

[randorama]

Originariamente inviato da An.tani

Letta ed è quindi probabile che nel frattempo sia stata appositamente patchata

direi proprio di sì; non solo l'ha "risolta" (e lo virgoletto perchè la torre di hanoi è un algoritmo iterativo davvero banale, non diverso da cubo magico o spaccaquindici) ma, bontà sua, mi ha generato anchela soluzione grafica



davvero mi stupisce che si sia stato un momento in cui non l'abbia risolto correttamente.