Kentucky, la scuola fa strappare 17 pagine dell'agenda IA: erano già a casa degli studenti

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/ke...ti_157919.html

Il fascicolo consegnato il primo giorno a Farnsley Middle School, a Louisville, conteneva mappe con stati inesistenti, l'Avana spostata in Messico e una tavola periodica con il magnesio a massa negativa. La scuola ha chiesto di strappare 17 pagine

Click sul link per visualizzare la notizia.

[Fantapollo]

Il segreto e' usare piu' IA e non una sola

[Axios2006]

Perche' ovviamente fa figo usare una ia per disegnare una cartina geografica...

Prossimamente: "Persona se la fa addosso perche' la ia sbaglia a dargli le istruzioni su come usare il bagno."

[Unax]

e vabbè per qualche refuso non vorrete mica disattivare l'AI come HAL 9000?

[LMCH]

Con tutto il materiale didattico corretto e di pubblico dominio, avevano proprio bisogno di usare un LLM ?

[sbaffo]

e soprattutto, in tutta la catena di produzione NESSUNO lo ha non dico letto ma almeno sfogliato prima di mandarlo in stampa? Il problema qui non è l'ai, sono gli idioti che l'hanno usata.
Andrebbero crocifissi in sala mensa, e poi fustigati dagli insegnati e studenti di tutto il kentucky.

[Qarboz]

Originariamente inviato da LMCH

Con tutto il materiale didattico corretto e di pubblico dominio, avevano proprio bisogno di usare un LLM ?

Originariamente inviato da sbaffo

e soprattutto, in tutta la catena di produzione NESSUNO lo ha non dico letto ma almeno sfogliato prima di mandarlo in stampa? Il problema qui non è l'ai, sono gli idioti che l'hanno usata.
Andrebbero crocifissi in sala mensa, e poi fustigati dagli insegnati e studenti di tutto il kentucky.

Avete ragione; però, con i progressi dell'IA non si spiegano queste allucinazioni su argomenti così statici e "banali" come la geografia o la tavola periodica, IMHO

[Fantapollo]

Originariamente inviato da Qarboz

Avete ragione; però, con i progressi dell'IA non si spiegano queste allucinazioni su argomenti così statici e "banali" come la geografia o la tavola periodica, IMHO

La mia idea è che abbiano chiesto di generare l'intera agenda in un unico prompt, anziche' pezzo per pezzo.

Quindi i token disponibili sono stati distribuiti sui vari pezzi, e qualche controllo è venuto meno perché la richiesta era troppo complessa.

[Proteo71]

Originariamente inviato da Fantapollo

Il segreto e' usare piu' IA e non una sola

Il segreto è non usarla.

Originariamente inviato da Unax

e vabbè per qualche refuso non vorrete mica disattivare l'AI come HAL 9000?

No comment

Originariamente inviato da sbaffo

e soprattutto, in tutta la catena di produzione NESSUNO lo ha non dico letto ma almeno sfogliato prima di mandarlo in stampa? Il problema qui non è l'ai, sono gli idioti che l'hanno usata.
Andrebbero crocifissi in sala mensa, e poi fustigati dagli insegnati e studenti di tutto il kentucky.

A casa a calci in culo con effetto immediato !!

Originariamente inviato da Fantapollo

La mia idea è che abbiano chiesto di generare l'intera agenda in un unico prompt, anziche' pezzo per pezzo.

Quindi i token disponibili sono stati distribuiti sui vari pezzi, e qualche controllo è venuto meno perché la richiesta era troppo complessa.

Non mi sembra proprio così intelligente questa ia.. se non gli chiedi le cose nella forma giusta spara cazzate e inventa paesi inesistenti ?!?


... L'ia è bellissima, l'ia è utilissima, l'ia ci aiuta ad essere più produttivi, l'ia ci rende il lavoro più facile, ecc, ecc...

[Fantapollo]

Originariamente inviato da Proteo71

Non mi sembra proprio così intelligente questa ia.. se non gli chiedi le cose nella forma giusta spara cazzate e inventa paesi inesistenti ?...

Come ho gia' scritto, verificare il tutto con un'altra ia e' la via

[bio82]

Originariamente inviato da Proteo71

Non mi sembra proprio così intelligente questa ia.. se non gli chiedi le cose nella forma giusta spara cazzate e inventa paesi inesistenti ?!?

il problema è usarla senza controllare il risultato...ad inizio mondiali ho chiesto i pronostici delle partite dei gironi (c'è un campionato aziendale su questo) e nel girone H mi dava vincente l'italia di spalletti, grande favorita anche per il titolo..



le allucinazioni ci sono, bisogna controllare l'output...sempre..

bio

[Saturn]

Però l'idea dell'IA di sostituire il sale con il bromuro non era così malvagia...

[raxas]

potrebbe essere successo che chi ha preparato il testo per l' "agenda AI" o libretto abbia scritto in fretta e ancora peggio non abbia revisionato,

ma questo è ancora poco: il controllo di informazioni più elaborate necessita una revisione da parte dei professori che:
magari infastiditi per una revisione di un altro alunno: l'AI, abbiano delegato la revisione ai modernizzanti il processo di apprendimento, pedante

ma non è ancora il peggio: quando non si potrà più fare tabulae rasae delle menti degli inoculati con l'AI senza controllo...

[Proteo71]

Originariamente inviato da Fantapollo

Come ho gia' scritto, verificare il tutto con un'altra ia e' la via

... come ho già scritto, NON usarla è la via

[Qarboz]

Originariamente inviato da Fantapollo

Come ho gia' scritto, verificare il tutto con un'altra ia e' la via

Ma veramente? Per cose così banali? Come se in un foglio di calcolo ci sono formule tipo =(A1*B1) ma poi bisogna controllare il risultato con una calcolatrice...

[mmorselli]

Originariamente inviato da Qarboz

Avete ragione; però, con i progressi dell'IA non si spiegano queste allucinazioni su argomenti così statici e "banali" come la geografia o la tavola periodica, IMHO

Si spiegano con il fatto che usare l'AI non è scrivere un prompt stringato e fatto male "tanto di solito capisce", usare l'AI è una nuova competenza e diventerà una nuova professione. Ci sono decine di tecniche nel prompt engineering e nel workflow consolidate, più tutte quelle che sviluppa con l'esperienza una persona che la usa 10 ore al giorno in uno specifico ambito rispetto a chi ne fa un uso saltuario e senza un background adatto.

Poi andrebbe visto il modello usato e la profondità di ragionamento scelto, usare un GPT, Gemini, ecc... gratuito oppure un GPT 5.6 Sol in Ultra vuol dire usare due oggetti totalmente diversi, è come chiedere di disegnare una mela a me piuttosto che a Marcello Barenghi

[mmorselli]

Originariamente inviato da Qarboz

Ma veramente? Per cose così banali? Come se in un foglio di calcolo ci sono formule tipo =(A1*B1) ma poi bisogna controllare il risultato con una calcolatrice...

Quando una AI crea un foglio di calcolo quasi certamente non sarà l'AI a produrla, l'AI scriverà un pezzo di codice, molto probabilmente in Python, che crea il foglio di calcolo e verifica la correttezza formale. Anche il più moderno degli LLM alla domanda "quanto fa 2+2" potrebbe rispondere solo "mi sembra che sia circa 4, così, a occhio"

Validare la correttezza di una formula con strumenti deterministici è molto facile, mentre per validare la correttezza di un'immagine richiede strumenti sofisticati.

[Qarboz]

Originariamente inviato da mmorselli

Si spiegano con il fatto che usare l'AI non è scrivere un prompt stringato e fatto male "tanto di solito capisce", usare l'AI è una nuova competenza e diventerà una nuova professione. Ci sono decine di tecniche nel prompt engineering e nel workflow consolidate, più tutte quelle che sviluppa con l'esperienza una persona che la usa 10 ore al giorno in uno specifico ambito rispetto a chi ne fa un uso saltuario e senza un background adatto.

Poi andrebbe visto il modello usato e la profondità di ragionamento scelto, usare un GPT, Gemini, ecc... gratuito oppure un GPT 5.6 Sol in Ultra vuol dire usare due oggetti totalmente diversi, è come chiedere di disegnare una mela a me piuttosto che a Marcello Barenghi

Stai dicendo che è colpa del prompt se l'IA ha prodotto una cartina sballata e con i nomi sbagliati?

Originariamente inviato da mmorselli

Quando una AI crea un foglio di calcolo quasi certamente non sarà l'AI a produrla, l'AI scriverà un pezzo di codice, molto probabilmente in Python, che crea il foglio di calcolo e verifica la correttezza formale. Anche il più moderno degli LLM alla domanda "quanto fa 2+2" potrebbe rispondere solo "mi sembra che sia circa 4, così, a occhio"

Validare la correttezza di una formula con strumenti deterministici è molto facile, mentre per validare la correttezza di un'immagine richiede strumenti sofisticati.

Forse non sono stato chiaro nel post precedente. Intendevo dire che mi sembra assurdo dover controllare le risposte su argomenti così banali. Come (esempio) se in un foglio excell o calc in C1 scrivo (io, non l'IA) =A1*B1 e poi devo controllare il risultato con la calcolatrice (io, non l'IA)

[Fantapollo]

Originariamente inviato da Qarboz

Stai dicendo che è colpa del prompt se l'IA ha prodotto una cartina sballata e con i nomi sbagliati?

Proprio cosi'. Esattamente come per gli umani, se dai alle IA poco tempo per rispondere sbagliano di piu'.

Le IA sono probabilistiche, dove servono certezze ripetono i passaggi piu' volte per diminuire gli errori. Ma servono tempo e tokens

[mmorselli]

Originariamente inviato da Qarboz

Stai dicendo che è colpa del prompt se l'IA ha prodotto una cartina sballata e con i nomi sbagliati?

E' colpa dell'umano che se vuole evitare questi problemi deve saperlo fare. Più che di prompt è un problema di workflow, a partire dal modello che scegli, non sono tutti uguali a fare queste cose, la profondità di ragionamento che scegli, poi certamente il prompt e infine come è strutturato l'intero processo. Non per forza devi controllare a mano ogni cosa, anche se prima di pubblicare un grafico mi sembra palese che vada controllato.

Forse non sono stato chiaro nel post precedente. Intendevo dire che mi sembra assurdo dover controllare le risposte su argomenti così banali. Come (esempio) se in un foglio excell o calc in C1 scrivo (io, non l'IA) =A1*B1 e poi devo controllare il risultato con la calcolatrice (io, non l'IA)

Ma infatti con Excel non lo fai, ti puoi fidare, ma chi conosce gli LLM sa che non funzionano nemmeno lontanamente nel modo in cui funziona Excel, non importa quanto nuovi e potenti siano. Quando vuoi la stessa consistenza di Excel da un LLM devi avere uno involucro attorno al LLM che ad un certo punto esce dal dominio del modello ed entra in quello deterministico di programmi come Excel