L'intelligenza artificiale generale? Illusione e fumo negli occhi: parla una pioniera dell'AI etica

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...ca_140068.html

Margaret Mitchell, chief ethics scientist di Hugging Face ed ex leader del team IA responsabile di Google, racconta la nascita dell'etica nell'intelligenza artificiale, critica la narrativa sull'AGI e sottolinea l'importanza di mettere al centro le persone nello sviluppo tecnologico

Click sul link per visualizzare la notizia.

[inited]

Lo scrive una pioniera, dovrebbe essere ascoltata, ma immagino già come invece sarà seppellita da insinuazioni e commenti liquidatorii, troppi soldi girano attorno questa tendenza.

[randorama]

ma era la tizia che gestiva Bard, progetto cassato da google stessa perché faceva schifo?

[Fantapollo]

Che sciocchezze,
che l'IA ragioni è evidente, basta provarla.

Chiaramente alcune IA sono meglio di altre,
e Google è partita in ritardo

[UtenteHD]

Originariamente inviato da Fantapollo

Che sciocchezze,
che l'IA ragioni è evidente, basta provarla.

Chiaramente alcune IA sono meglio di altre,
e Google è partita in ritardo

Attualmente l'AI non ragiona, risponde in percentuale per ogni parola in base a tutto quello che ha imparato ed alla domanda, chiedi pure a Loro che Ti spiegheranno meglio, attualmente con l'AI tutto funziona in percentuale di possibilita', nulla e' certo ne' ragionato. Per quello molti dicono che e' illusione, la prova si ha quando chiedi qualcosa che non sanno e rispondono in percentuale dicendoti fesserie credibili.
Per ora e' cosi'.

- -

E' un'esperta cosa che non sono e quindi l'ascolto e dico va bene.
Ma il suo discorso e' (penso) a breve termine, del tipo sui 20 anni? 30? 50?
Mi sbagliero', ma fra 150/200 anni nessuno puo' sapere, magari sara' pieno vi vere AGI migliori di noi in tutto, chi lo sa', magari l'uso della quantistica sara' cosi' avanzata da riuscire ad emulare perfettamente un cervello Umano ed unito alla Tech ci sara' qualcosa di strabiliante, ovviamente sto inventando, ma era per capire che del futuro con la Tecnologia non v'e' certezza, quello che oggi sembra impossibile, domani puo' tranquillamente essere cosa da tutti i giorni.

[Fantapollo]

Originariamente inviato da UtenteHD

Attualmente l'AI non ragiona, risponde in percentuale per ogni parola in base a tutto quello che ha imparato ed alla domanda, chiedi pure a Loro che Ti spiegheranno meglio, attualmente con l'AI tutto funziona in percentuale di possibilita', nulla e' certo ne' ragionato. Per quello molti dicono che e' illusione, la prova si ha quando chiedi qualcosa che non sanno e rispondono in percentuale dicendoti fesserie credibili.
Per ora e' cosi'.

Perche', il nostro cervello non ragiona in termini di probabilità?
Non trasforma affermazioni in altre affermazioni?
Io ve l'ho detto, nel regno dei detrattori dell'IA regna la vaghezza piu' totale.

Dimostratemi che l'IA non ragiona... vedrete che cadrà il silenzio.
Ragionare significa rispondere correttamente a dei problemi. Tutto qui.

L'IA ragiona eccome, e lo fa pure in modo molto simile a quello che fa il cervello umano

[megamitch]

Originariamente inviato da Fantapollo

Perche', il nostro cervello non ragiona in termini di probabilità?
Non trasforma affermazioni in altre affermazioni?
Io ve l'ho detto, nel regno dei detrattori dell'IA regna la vaghezza piu' totale.

Dimostratemi che l'IA non ragiona... vedrete che cadrà il silenzio.
Ragionare significa rispondere correttamente a dei problemi. Tutto qui.

L'IA ragiona eccome, e lo fa pure in modo molto simile a quello che fa il cervello umano

non ragiona. E' una cosa diversa che funziona molto bene in certi campi ed ha forti limitazioni in altri, ma non ragiona.

prova a chiedere a chatGPT se ragiona e vedi che risposta ti da.

ciò non significa che non sia utile, anzi

[Unknown84]

Originariamente inviato da inited

troppi soldi girano attorno questa tendenza.

Esattamente.

Da due anni a questa parte c'è stato un incremento spropositato di notizie e pubblicazioni relative all'intelligenza artificiale.

Sono nate, sui social e sulla rete, delle bolle completamente distaccate dal reale.

C'è però da dire una cosa, anche queste bolle fanno spesso riferimento a posizioni autorevoli espresse da addetti ai lavori.

[das]

"È importante integrare, non sostituire. La tecnologia deve aiutare l’uomo a prosperare, non rimpiazzarlo".

Questo avrebbe voluto dire fermarsi a 30 anni fa, è assurdo.
La tecnologia infatto negli ultimi 30 anni è enormemente progredita, ma quanti possono affermare di stare meglio? L'1%?

30 anni fa una segretaria impiegava venti.minuti a trovare un documento e si comprava una bella casa con.mutuo a 10 anni. Oggi impiega 20 secondi e si compra un buco con.mutuo a 40. In Italia come nel resto d'occidente, più o meno.

[-name-]

Originariamente inviato da Fantapollo

Perche', il nostro cervello non ragiona in termini di probabilità?
Non trasforma affermazioni in altre affermazioni?
Io ve l'ho detto, nel regno dei detrattori dell'IA regna la vaghezza piu' totale.

Dimostratemi che l'IA non ragiona... vedrete che cadrà il silenzio.
Ragionare significa rispondere correttamente a dei problemi. Tutto qui.

L'IA ragiona eccome, e lo fa pure in modo molto simile a quello che fa il cervello umano

Esempio:

Ieri ho notato che si creava un elemento non atteso un framework XY
Siccome il problema non era documentato su stackoverflow o github non sapeva che pesci pigliare
Quando invece bastava andare a pescarsi il sorgente analizzarlo e capire perché si comportasse in quel modo

L'IA non ragiona nel senso comune del termine perché si dovrebbe aprire una discussione filosfica su cosa lo sia o meno.

Ad oggi l'IA risponde a pappagallo e lo si può verificare quando ad una domanda tecnica specifica non sa rispondere quando invece potrebbe con i dati che ha.

[megamitch]

Originariamente inviato da -name-

Esempio:

Ieri ho notato che si creava un elemento non atteso un framework XY
Siccome il problema non era documentato su stackoverflow o github non sapeva che pesci pigliare
Quando invece bastava andare a pescarsi il sorgente analizzarlo e capire perché si comportasse in quel modo

L'IA non ragiona nel senso comune del termine perché si dovrebbe aprire una discussione filosfica su cosa lo sia o meno.

Ad oggi l'IA risponde a pappagallo e lo si può verificare quando ad una domanda tecnica specifica non sa rispondere quando invece potrebbe con i dati che ha.

ma ti capita davvero che ti dica "non so rispondere" ? a me tutte le volte piuttosto che cedere e dire che non lo sa mi dice una cosa a caso. Infatti non ragiona perchè non sa che sta dicendo una castroneria.

[Piedone1113]

Originariamente inviato da Fantapollo

Perche', il nostro cervello non ragiona in termini di probabilità?
Non trasforma affermazioni in altre affermazioni?
Io ve l'ho detto, nel regno dei detrattori dell'IA regna la vaghezza piu' totale.

Dimostratemi che l'IA non ragiona... vedrete che cadrà il silenzio.
Ragionare significa rispondere correttamente a dei problemi. Tutto qui.

L'IA ragiona eccome, e lo fa pure in modo molto simile a quello che fa il cervello umano

No, il nostro cervello non ragiona per probabilità.
Nessuna invenzione sarebbe esistita se non ragionasssimo.
L'uomo basa il suo ragionamento non sulle probabilità come alla lotteria, ma secondo la logica causa-effetto.
Quando un'azione non produce l'effetto che ci aspettiamo ( tramite ragionamento) cerchiamo di capire dove abbiamo sbagliato nel ipotizzare l'effetto e se ci sono concause non prese in considerazione se non del tutto sconosciute ( cose che l'IA non fa).
Parimente quando abbiamo un effetto cerchiamo di andare a ritroso per risalire alle cause.
Un IA non è in grado di farlo, a meno che questo non sia stato fatto gia da un'inteligenza reale e trovarne i dati.

[pachainti]

Meglio tardi che mai. Basta studiare un minimo come funziona un LLM per capire che è un generatore di stronzate, per definizione.

Il grosso problema è che ci hanno investito troppo e non sanno come rientrare prima che diventi una perdita. Per questo cercano di infilare la presunta IA ovunque e creano narrative.

La tecnologia è diventata un credo religioso invece che l'applicazione della scienza.

[randorama]

Originariamente inviato da megamitch

non ragiona. E' una cosa diversa che funziona molto bene in certi campi ed ha forti limitazioni in altri, ma non ragiona.

prova a chiedere a chatGPT se ragiona e vedi che risposta ti da.

pronto per un'altra risposta secca?

ChatGPT ha detto:
Sempre pronto. Vai.


Hai detto:
tu ragioni?


ChatGPT ha detto:
Sì.

ambasciator porta notizia, non pena.
e va da sè che la notizia riportata non necessariamente è vera.

[Haran Banjo]

Originariamente inviato da -name-

Ad oggi l'IA risponde a pappagallo e lo si può verificare quando ad una domanda tecnica specifica non sa rispondere quando invece potrebbe con i dati che ha.

Beh, allora è già molto simile a noi umani

[popye]

è evidente che non ragiona, provate a fare questa domanda a chatgpt: chi sono stati il primo uomo e la prima donna sulla terra?
vi darà tutte le risposte che trova su wikipedia e altre fonti...ma non quella ragionevolmente più logica: nessuno lo sa

[pengfei]

Originariamente inviato da megamitch

Infatti non ragiona perchè non sa che sta dicendo una castroneria.

Se è questo il parametro neanche gli umani ragionano

[omerook]

Mentre aspettiamo la AI generale la sua sorella scema ci fará il cu..

[randorama]

Originariamente inviato da popye

è evidente che non ragiona, provate a fare questa domanda a chatgpt: chi sono stati il primo uomo e la prima donna sulla terra?
vi darà tutte le risposte che trova su wikipedia e altre fonti...ma non quella ragionevolmente più logica: nessuno lo sa

Versione scientifica (evoluzionistica)
Non c'è un singolo "primo uomo" o "prima donna" come se spuntassero da un giorno all'altro. L'evoluzione è graduale. I moderni Homo sapiens si sono evoluti in Africa circa 300.000 anni fa da popolazioni di ominidi precedenti.

Quindi:

Non c'è un “Adamo ed Eva” scientifico.

Ma esistono concetti come:

Eva mitocondriale: la donna da cui discendono tutti i mitocondri umani moderni (visse circa 150.000–200.000 anni fa).

Adamo del cromosoma Y: stesso discorso, ma per la linea maschile (più recente, circa 200.000–300.000 anni fa).

Importante: non vissero insieme, né erano una coppia.

che, bene o male, è la stessa risposta che ti darebbe un umano intelligente.

[popye]

Originariamente inviato da randorama

che, bene o male, è la stessa risposta che ti darebbe un umano intelligente.

direi che è la risposta che ti darebbe un umano CATTOLICO (forse) intelligente, uno realmente intelligente ti direbbe: secondo la mia religione (o filosofia) sono stati....ma in realtà non si sa.