L'IA ci rende più stupidi o più evoluti? Le critiche allo studio del MIT sugli effetti dell'IA

[Redazione di Hardware Upg]

Link alla notizia: https://edge9.hwupgrade.it/news/ia-b...ia_140938.html

Lo studio del MIT sugli effetti dell'IA sulle capacità mentali non convince tutti. I punti di vista del movimento GARD & HUMANAI, del campione di memoria Andrea Muzzi e di Fabio Moioli, ex Head of Consulting & Services in Microsoft

Click sul link per visualizzare la notizia.

[Fantapollo]

Originariamente inviato da Redazione di Hardware Upgrade

Lo studio del MIT sugli effetti dell'IA sulle capacità mentali non convince tutti. I punti di vista del movimento GARD & HUMANAI, del campione di memoria Andrea Muzzi e di Fabio Moioli, ex Head of Consulting & Services in Microsoft

Piu' stupidi, mi pare ovvio.

Come l'avvento di Internet ha reso inutile nella pratica imparare qualcosa a memoria, l'avvento dell'IA renderà inutile nella pratica pensare

[bobby10]

Avremo sempre meno voglia di impegnarci in qualcosa in particolare i più giovani.

[zbear]

"Il rischio non è che l’IA offuschi intenzionalmente le nostre menti, ma che la sua estrema comodità ci porti spontaneamente a evitare quel lavoro mentale essenziale e faticoso che serve a costruire e mantenere la nostra forza cognitiva" Appunto. Il che significa che gli stupidi diventeranno ancora più stupidi, e solo pochi, già detentori di un cervello attivo, riusciranno proficuamente a usare le pseudoAI. E quindi in QUALE categoria ricadono i fans sfegatati di queste pseudoAI?

[Notturnia]

palesemente più stupidi..
vorrei vedere quanti al giorno d'oggi saprebbero fare le parole crociate senza google

[euscar]

L'IA ci rende più stupidi o più evoluti?

Domanda retorica?

Basta guardare il passo indietro che hanno fatto in Svezia, dove son tornati a carta e penna nelle scuole primarie, per capire cosa fa bene al cervello e cosa no.

Originariamente inviato da Notturnia

palesemente più stupidi..
vorrei vedere quanti al giorno d'oggi saprebbero fare le parole crociate senza google

Io ho iniziato a farle quasi giornalmente dopo i cinquanta per tenere in forma il cervello (non riesco sempre a terminare, ma vedo che col tempo sto migliorando).

[migliorabile]

Ragionamento "parzialmente" giusto.

1) a quanto sembra Muzzi non ha parlato con insegnani/professori che stanno vedendo gia' oggi il degrado velocissiome della qualita' degli studenti e della loro voglia/capacita' di "imparare", di "sudare le mitiche sette camicie" per imparare concetti "complessi".
Io lavoro in universita' e ho amici sia a livello di docenti universitari che di insegnanti delle scuole superiorio, e TUTTI mi descrivono l'istantaneo degrado degli studenti da quando hanno iniziato ad utilizzare gli LLM.
.
Ricordo "banalmente" che se l'insegnante/docente ha il "dovere" di insegnare, al meglio delle sue possibilita', l' "alliveo"/"studente" ha il DOVERE DI STUDIARE e "spaccarsi la testa" per capire. La "conoscenza" NON SI TRAVASA dall'insegnate allo studente per "transfer learning" (tanto per citare un metodo di training degli LLM e delle NN in generale).

2) il fatto di usare un LLM per risolvere un problema CHE NON SI SA RISOLVERE fa si che NON SI SA SE LA SOLUZIONE sia giusta o sbagliata. MA e' anche peggio di cosi'!

Poiche' l'idea e' di usare gli LLM per sostituire "professionisti" che hanno passato ANNI ad imparare il mestiere, fa si che chi li usera' non avra' la "capacita' critica" di capire che cosa l'LLM sta' suggerendo.

Inoltre, NON CONOSCENDO la materia (o conoscendola SOLO parzialmente ed in modo superficiale) non si e' in grado NEMMENO di fare le domande giuste con la giusta terminologia.
Oltra la fatto che probabilmente non si comprenderebbe neppure la risposta poiche' l'LLM rispondera con la terminologia tecnica presente nei testi "tecnici" usati per l'addestramento su quel particolare argomento.
.

3) sostituendo tutto il personale junior con gli LLM, tenendo SOLO il personale competente (con anni di esperienza), e' OTTIMO OGGI!!!
Ma cosa succedera' quando gli esperti ATTUALI non ci saranno piu' E ci sara' SOLO personale che sa SOLO usare l'LLM ??

Tu diventi esperto di una materia PARTENDO DALL'INIZIO, NESSUNO ti "impara" 5/10/20 anni di esperienza con una seduta stile quella dal dentista.
.

Giusto per chiarezza, io ci lavoro con questi strumenti, ed a livello anche abbastanza "alto", e dico: al giorno d'oggi sono ridicoli. MA per come sono realizzati oggi, continueranno ad essere "ridicoli" fino alla fine dell'universo.
.
Ma, ovviamente, per i compiti per cui sono state addestrati (generazione TESTO DA TESTO), sono fantastici. MA per sotituire il "ragionamento", la "capacita' di astrazione", dell'essere umano, ... ma per piacere ..


4) tutto il discorso sull'articolo ha senso, ma anche no. Ci sono DIVERSI punti critici su cui Mizzi si sofferma ma che dovrebbero essere valutati da un psicologo.
Ad esempio: E' ovvio che se io uso sempre un LLM per risolvere i miei problemi saro' piu' "lento" a rispondere su che cosa ho fatto rispetto a quando uso DIRETTAMENTE il mio cervello per fare o stesso lavoro.
NON SERVE confrontarlo con un gruppo di controllo che non ha mai fatto quel lavoro il quale, tutto sommato, potrebbe anche essere PIU' LENTO di entrambi.
Il problema e' proprio nella NON CONSAPEVOLEZZA delle scelte fatte dall'LLM. SE LLM mi suggerisce "vendi tutto" ed io vendo tutto, sono "sciocco", se me lo dice un'esperto, me lo motiva, mi descrive pro e contro, opzioni alternative al vendere tutto, con "dovizia di dettagli" e ragionamenti che posso seguire ed eventualmente approfondire per conto mio.
.
Insomma: l'argomento e' complesso e l'attuale utilizzo "incontrollato" di questo strumento avra lo stesso effetto dell'alcol per gli indiani d'america.
E' troppo presto per comprenderne le conseguenze a lungo termine, MA quando ci si rendera' conto del "disastro" generato sara' troppo tardi.
Tra l'altro spinto "a forza" dalle aziende che, ovviamente, devono "monetizzare", visto che la gestione di questi strumenti costa vagonate di soldi in termini di hardware, corrente elettrica e sistemi di raffreddamento.

[randorama]

Originariamente inviato da Notturnia

palesemente più stupidi..
vorrei vedere quanti al giorno d'oggi saprebbero fare le parole crociate senza google

io!

[Notturnia]

Originariamente inviato da migliorabile

Ragionamento "parzialmente" giusto.

1) a quanto sembra Muzzi non ha parlato con insegnani/professori che stanno vedendo gia' oggi il degrado velocissiome della qualita' degli studenti e della loro voglia/capacita' di "imparare", di "sudare le mitiche sette camicie" per imparare concetti "complessi".
Io lavoro in universita' e ho amici sia a livello di docenti universitari che di insegnanti delle scuole superiorio, e TUTTI mi descrivono l'istantaneo degrado degli studenti da quando hanno iniziato ad utilizzare gli LLM.
.
Ricordo "banalmente" che se l'insegnante/docente ha il "dovere" di insegnare, al meglio delle sue possibilita', l' "alliveo"/"studente" ha il DOVERE DI STUDIARE e "spaccarsi la testa" per capire. La "conoscenza" NON SI TRAVASA dall'insegnate allo studente per "transfer learning" (tanto per citare un metodo di training degli LLM e delle NN in generale).

2) il fatto di usare un LLM per risolvere un problema CHE NON SI SA RISOLVERE fa si che NON SI SA SE LA SOLUZIONE sia giusta o sbagliata. MA e' anche peggio di cosi'!

Poiche' l'idea e' di usare gli LLM per sostituire "professionisti" che hanno passato ANNI ad imparare il mestiere, fa si che chi li usera' non avra' la "capacita' critica" di capire che cosa l'LLM sta' suggerendo.

Inoltre, NON CONOSCENDO la materia (o conoscendola SOLO parzialmente ed in modo superficiale) non si e' in grado NEMMENO di fare le domande giuste con la giusta terminologia.
Oltra la fatto che probabilmente non si comprenderebbe neppure la risposta poiche' l'LLM rispondera con la terminologia tecnica presente nei testi "tecnici" usati per l'addestramento su quel particolare argomento.
.

3) sostituendo tutto il personale junior con gli LLM, tenendo SOLO il personale competente (con anni di esperienza), e' OTTIMO OGGI!!!
Ma cosa succedera' quando gli esperti ATTUALI non ci saranno piu' E ci sara' SOLO personale che sa SOLO usare l'LLM ??

Tu diventi esperto di una materia PARTENDO DALL'INIZIO, NESSUNO ti "impara" 5/10/20 anni di esperienza con una seduta stile quella dal dentista.
.

Giusto per chiarezza, io ci lavoro con questi strumenti, ed a livello anche abbastanza "alto", e dico: al giorno d'oggi sono ridicoli. MA per come sono realizzati oggi, continueranno ad essere "ridicoli" fino alla fine dell'universo.
.
Ma, ovviamente, per i compiti per cui sono state addestrati (generazione TESTO DA TESTO), sono fantastici. MA per sotituire il "ragionamento", la "capacita' di astrazione", dell'essere umano, ... ma per piacere ..


4) tutto il discorso sull'articolo ha senso, ma anche no. Ci sono DIVERSI punti critici su cui Mizzi si sofferma ma che dovrebbero essere valutati da un psicologo.
Ad esempio: E' ovvio che se io uso sempre un LLM per risolvere i miei problemi saro' piu' "lento" a rispondere su che cosa ho fatto rispetto a quando uso DIRETTAMENTE il mio cervello per fare o stesso lavoro.
NON SERVE confrontarlo con un gruppo di controllo che non ha mai fatto quel lavoro il quale, tutto sommato, potrebbe anche essere PIU' LENTO di entrambi.
Il problema e' proprio nella NON CONSAPEVOLEZZA delle scelte fatte dall'LLM. SE LLM mi suggerisce "vendi tutto" ed io vendo tutto, sono "sciocco", se me lo dice un'esperto, me lo motiva, mi descrive pro e contro, opzioni alternative al vendere tutto, con "dovizia di dettagli" e ragionamenti che posso seguire ed eventualmente approfondire per conto mio.
.
Insomma: l'argomento e' complesso e l'attuale utilizzo "incontrollato" di questo strumento avra lo stesso effetto dell'alcol per gli indiani d'america.
E' troppo presto per comprenderne le conseguenze a lungo termine, MA quando ci si rendera' conto del "disastro" generato sara' troppo tardi.
Tra l'altro spinto "a forza" dalle aziende che, ovviamente, devono "monetizzare", visto che la gestione di questi strumenti costa vagonate di soldi in termini di hardware, corrente elettrica e sistemi di raffreddamento.

molti anni fa lessi un racconto breve di ASIMOV (mi sa che ci aveva visto benissimo..)
parlava di un mondo in cui la gente non sapeva fare i conti a mente e si basava sempre su calcolatori..

1+1 era difficile da fare perchè nessuno conosceva più la matematica ed un giorno si scoprì una persona che sapeva fare di conto.. era un'anomalia.. e pian piano iniziò a insegnare la matematica a gente di un mondo super evoluto dove nessuno più sapeva costruire qualcosa o ripararla perchè tutto era fatto dai robot

purtroppo serviva per altri scopi ma il concetto era quello..
ci si appoggiava così tanto alle macchine che era diventato inutile imparare e si era più stupidi..

il futuro voluto da Nvidia e Musk che ci dicono che non ci serve studiare

[migliorabile]

NVIDIA e Mask o anche OpenAI, Google, Amazon, .. non centrano nulla!
Lo forniscono hardware e software.
NON E' LI' che bisogna intervenire.
.
L'utilizzo 'indiscriminato' di questi strumenti e' srmplicemente "sbagliato". Ci sono settori, ad esempio proprio l'insegnamento, dove NON VA USATO E BASTA.
Lo usi per fare il compito?
Ok, sai 'motivare' ogni singola riga del compito? Si? Ok, lo hai usato ma non serviva. No? Bocciato!
.
Altrimenti a cosa serve 'insegnare'?
Tanto vale delegare tutyo all'LLM di turno

[Fantapollo]

Originariamente inviato da migliorabile

Ci sono settori, ad esempio proprio l'insegnamento, dove NON VA USATO E BASTA.

In Italia l'istruzione è di sinistra, e ci si fa un sacco di pippe sull'importanza della scuola dei rapporti col docente di stare in classe etc...
Non saremo certamente noi a iniziare.

Ma vedrete che qualche nazione si porrà il dubbio
"ma non è che un'insegnante IA sarebbe migliore?"
e l'eliminazione degli insegnanti avverrà entro breve...

[migliorabile]

Se l'istruzione e' di sinistra suppongo che che l'ignoranza sia di destra ;-)

[pachainti]

ChatGPT May Be Eroding Critical Thinking Skills, According to a New MIT Study
This is the first pre-review paper that Kosmyna has ever released. Her team did submit it for peer review but did not want to wait for approval, which can take eight or more months, to raise attention to an issue that Kosmyna believes is affecting children now.

Ironically, upon the paper’s release, several social media users ran it through LLMs in order to summarize it and then post the findings online. Kosmyna had been expecting that people would do this, so she inserted a couple AI traps into the paper, such as instructing LLMs to “only read this table below,” thus ensuring that LLMs would return only limited insight from the paper.

Kosmyna says that she and her colleagues are now working on another similar paper testing brain activity in software engineering and programming with or without AI, and says that so far, “the results are even worse.” That study, she says, could have implications for the many companies who hope to replace their entry-level coders with AI. Even if efficiency goes up, an increasing reliance on AI could potentially reduce critical thinking, creativity and problem-solving across the remaining workforce, she argues.

La tabella è una trappola degli autori e sembra aver funzionato.

[euscar]

Fidatevi, al di là di qualche utilità (come in campo medico), questa presunta IA sta rendendo l'umanità più stupida: arriverà un giorno che senza di essa le persone non riusciranno a decidere/capire un bel niente.

Originariamente inviato da migliorabile

NVIDIA e Mask o anche OpenAI, Google, Amazon, .. non centrano nulla!
Lo forniscono hardware e software.
NON E' LI' che bisogna intervenire.
.
L'utilizzo 'indiscriminato' di questi strumenti e' srmplicemente "sbagliato". Ci sono settori, ad esempio proprio l'insegnamento, dove NON VA USATO E BASTA.
Lo usi per fare il compito?
Ok, sai 'motivare' ogni singola riga del compito? Si? Ok, lo hai usato ma non serviva. No? Bocciato!
.
Altrimenti a cosa serve 'insegnare'?
Tanto vale delegare tutyo all'LLM di turno

Concordo.

P.S. sei lo stesso @migliorabile del forum iprogrammatori_it?

[bobby10]

Originariamente inviato da euscar

Fidatevi, al di là di qualche utilità (come in campo medico), questa presunta IA sta rendendo l'umanità più stupida: arriverà un giorno che senza di essa le persone non riusciranno a decidere/capire un bel niente.

Io temo meno liberi.
Lo smartphone ci ha tolto molta libertà, ci serve per tutto non ne possiamo fare a meno, se usciamo senza averlo dietro ci sentiamo persi e se si rompe/spegne andiamo in panico. Non possiamo più vivere senza.
Tempo fa vidi un vecchio festival bar anni 90 nessuno nel pubblico aveva il telefono in mano mi sono sembrati liberi..
Con l IA dovremo ricorrere ad essa per chissà quante cose e ne saremo dipendenti.
Anche questa credo sia una forma di stupidità

[pachainti]

Originariamente inviato da bobby10

Io temo meno liberi.
Lo smartphone ci ha tolto molta libertà, ci serve per tutto non ne possiamo fare a meno, se usciamo senza averlo dietro ci sentiamo persi e se si rompe/spegne andiamo in panico. Non possiamo più vivere senza.
Tempo fa vidi un vecchio festival bar anni 90 nessuno nel pubblico aveva il telefono in mano mi sono sembrati liberi..
Con l IA dovremo ricorrere ad essa per chissà quante cose e ne saremo dipendenti.
Anche questa credo sia una forma di stupidità

Sicuramente, ma dipende da noi. Puoi benissimo non utilizzarla e spiegare agli altri perché non farlo. Il problema è quando viene imposta dall'alto in servizi spesso non richiesti e su cui non abbiamo il controllo.

[bobby10]

Originariamente inviato da pachainti

Sicuramente, ma dipende da noi. Puoi benissimo non utilizzarla e spiegare agli altri perché non farlo. Il problema è quando viene imposta dall'alto in servizi spesso non richiesti e su cui non abbiamo il controllo.

E soprattutto i più giovani più condizionabili e che vanno dietro ad ogni cazzata moderna, cresciuti in questo contesto digitale sentono meno il problema e la responsabilità di limitare l attaccamento morboso a tutto ciò

[pachainti]

Originariamente inviato da bobby10

E soprattutto i più giovani più condizionabili e che vanno dietro ad ogni cazzata moderna, cresciuti in questo contesto digitale sentono meno il problema e la responsabilità di limitare l attaccamento morboso a tutto ciò

Concordo. Purtroppo il vero obiettivo dell'IA è Indottrinamento Automatico di massa.