Quando l'IA allucina nei campi: il modello sbaglia dosaggio e un agricoltore perde oltre 10 ettari di raccolto

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/qu...to_157708.html

Un agricoltore ha perso oltre 10 ettari di raccolto dopo aver seguito i suggerimenti forniti da un algoritmo di intelligenza artificiale, che nelle fasi iniziali dell'utilizzo aveva mostrato un'accuratezza impeccabile sollevando dubbi sulla sicurezza dei modelli generativi

Click sul link per visualizzare la notizia.

[monkey island]

Bisognerebbe sempre incrociare i dati con altre IA, non affidandosi solo ed esclusivamente ad un solo modello... e, non ultimo, verificare in prima persona come si faceva prima delle IA.

[Saturn]

300.000 anni di evoluzione buttati nel cesso.

MAH !

[mozzarello]

La cazzata come al solito la fa l'uomo.


L'IA serve a velocizzare i lavori, a fare i lavori ripetitivi e alienanti, è un fottuto strumento, non può sostituire l'uomo, deve solo rendergli il lavoro più semplice e permettegli di farlo più velocemente.

[Saturn]

Originariamente inviato da mozzarello

La cazzata come al solito la fa l'uomo.


L'IA serve a velocizzare i lavori, a fare i lavori ripetitivi e alienanti, è un fottuto strumento, non può sostituire l'uomo, deve solo rendergli il lavoro più semplice e permettergli di farlo più velocemente.

Il problema è che qualcuno ancora non l'ha afferrato e pensa di delegare tutto, anche le più basiche attività celebrali, appunto ad uno strumento.

Che nel 99% dei casi è pur sempre un upgrade ma ogni tanto ci scappa l'arrosto...

[Axios2006]

Meno male che la ia non gli ha suggerito di cospargere di benzina la fattoria... Altrimenti, dava fuoco a tutto e poi dava la colpa alla ia...

Comunque, spero che abbia imparato la lezione... Poi, se uno vive nel mondo fatato dove la ia e' come Jarvis dei film Marvel, si merita questo e altro...

[agonauta78]

"Mi dispiace, ho fatto un errore."
"Scusa, non ho capito bene."
"Purtroppo ho risposto male."
"Ti chiedo scusa per la confusione

[barzokk]

caxxi suoi è già stato detto ?

[supertigrotto]

Non è possibile,è una fake news,i superstalloni della IA ci hanno garantito che la IA è perfetta,fa tutto,sa tutto ed è onnipotente,in pratica è la nostra nuova divinità,quindi quello che abbiamo letto non è vero.
Dobbiamo mettere tutti i nostri risparmi e stipendi nel loro sistema,anche i soldi di stato,smettiamola di pensare,solo loro sanno pensare e hanno la ragione e la verità assoluta in mano.
Naturalmente sono sarcastico

[gnappoman]

se invece di far scrivere fli articoli all'AI verificaste prima (quale pesticida? Quale dosaggio? Dove? Quando? Chi? e anche Come e Perchè, oer completare le 5 W) evitereste di far circolare inutili bufale.

[popye]

mi vengono alla mente quegli incidenti causati dai navigatori satellitari che davano indicazioni sbagliate.
se la strada è finita e hai davanti solo il mare forse è il caso di fermarsi...ma il navigatore diceva "proseguire dritto per 1 km"

[Unax]

e anche il proverbio "Contadino, scarpe grosse e cervello fino" lo possiamo accantonare

[barzokk]

Originariamente inviato da gnappoman

se invece di far scrivere fli articoli all'AI verificaste prima (quale pesticida? Quale dosaggio? Dove? Quando? Chi? e anche Come e Perchè, oer completare le 5 W) evitereste di far circolare inutili bufale.

ehm c'è il link

https://www.tomshardware.com/tech-in...cessful-advice
Wu asked the AI for advice on weed and pest control, after which it came up with “Hundred Acres of Sesame Grass Control + Pest Control,” and recommended that they use “high-efficiency flupyrimethalin” and “flusulfasulfaether” to kill weeds and mixed it with “thiamethoxazine” and “methyl salt.” The farmer followed the AI’s advice to the letter without confirming the information via agricultural technicians (or even just counter-checking its answers online).

e questo l'originale in cinese
https://www.ctwant.com/article/492735/

Dicicamo che in un thread di critica alla AI, il tuo post invece gli fa fare bella figura

[Notturnia]

Originariamente inviato da mozzarello

La cazzata come al solito la fa l'uomo.


L'IA serve a velocizzare i lavori, a fare i lavori ripetitivi e alienanti, è un fottuto strumento, non può sostituire l'uomo, deve solo rendergli il lavoro più semplice e permettegli di farlo più velocemente.

hai ragione e torto (sei un umano d'altro canto)

vero.. l'errore lo ha fatto l'uomo di oggi che si è affidato ad una tecnologia incapace senza supervisionare.. lo sperimentiamo anche noi di continuo lavorando ormai a fianco delle IA.. le "allucinazioni", come a tanti piace chiamarle, sono molto più frequenti di quello che possa sembrare.. noi usiamo da tempo due IA in competizione in modo da avere qualche dato in più.. rallenta molto i lavori avere una IA che smonta l'operato dell'altra ma trova anche molti errori o strade lasciate aperte perchè noi umani non le vedevamo..

ma domani.. l'uomo di domani che non avrà più le capacità di capire cosa fa l'IA perchè non avrà studiato agraria perchè è inutile ma avrà studiato altro perchè gli è stato detto che era inutile studiare, tanto c'è l'IA.. come farà a capire se l'IA sta sbagliando o facendo giusto ? dovrà fidarsi ? avere FEDE nella IA ?..

e quando l'IA sbaglierà.. perchè tutti sono fallibili.. che succederà ?

l'uomo di oggi sbaglia.. ma non perchè supervisiona male le IA ma perchè crede di poter sostituire esperienza e studio con le IA e smettere di imparare e crescere perchè è "troppo faticoso" da fare visto che lo fa "meglio" la IA.. questo è l'errore

[Abalfor]

uso molto poco l'IA, mi riferisco a quella integrata nel motore di ricerca google. nelle ricerche di argomenti in cui sono esperto mi ha quasi sempre dato risposte sbagliate, salvo scusarsi e correggersi dopo che l'ho "incalzata". forse quella di altri fornitori è migliore.
ieri per la prima volta mi è stata utile. ho un modem ur32 della milesight con antenna gps e volevo sfruttare questo segnale per vedere la mia posizione su map point della microsoft. il modem invierebbe il segnale su porta seriale o via ethernet e ho scelto questa strada visto che il modem è già collegato via ethernet per inviare i dati e non ho cavi e porte seriali sul pc. map point però nella parte gps accetta solo periferiche seriali, quindi avevo bisogno di un'applicazione che ricevesse i dati del gps via ip e li inoltrasse su una porta COM virtuale. l'IA mi ha suggerito un po' di software. a un certo punto mi sono bloccato perché pur impostando tutto correttamente map point continuava a non rilevare la porta COM come un dispositivo gps. il problema l'ho individuato proprio grazie all'IA che mi ha spiegato che il modem probabilmente inviava le coordinate in stringhe di dati formattate in maniera diversa da come si aspettano i sistemi microsoft. con un software ho potuto verificare appunto che mancava un tag esadecimale di cui aveva bisogno map point per riconoscere il flusso come dati di tipo nmea. l'IA ha cercato di farmi usare dei software che promettevano di ricevere il flusso, correggerlo e inoltrarlo sulla porta COM virtuale in modo che map point funzionasse ma tra sw a pagamento spacciati come freeware e altri problemi non ce l'ha fatta. il modem nella parte gps permette di aggiungere prefissi e suffissi ai dati inviati ma vengono aggiunti come testo semplice, non come tag esadecimali, quindi la cosa non ha funzionato. al che mi sono accorto che il modem aveva un modulo interno nel quale inserire script in codice pyton e gli ho chiesto se fosse stato possibile fare uno script che correggesse il flusso in tempo reale inserendo il tag mancante. tralasciando i vari tentativi con i quali mi faceva gli script e il modem non li accettava, mi ha tirato fuori 100 scuse, prima perché devono essere zippati, poi perché mancano files con metadati e via dicendo, alla fine abbiamo abbandonato la strada dello scripting interno al modem e mi ha dato il codice per uno script pyton da caricare in windows e che ha funzionato!
con questo voglio dire che l'IA, almeno quella obsoleta che i militari hanno dismesso e che ci concedono per trastullarci, non ti risolve ogni problema da sola. il processo di risoluzione deve essere guidato dalla persona e l'IA deve velocizzarlo e fornirgli gli strumenti che non ha a disposizione. non so programmare in pyton e non sapevo che il flusso di dati che spara il gps di quel modem non è uno standard per tutti i software, che basta un tag esadecimale perché un'altra piattaforma non lo riconosca. in questo l'IA è stata essenziale, ha colmato le mie lacune e a forza di scusarsi alla fine mi ha aiutato a risolvere un problema al quale non ci sarei venuto a capo da solo. 20 anni fa avrei cercato aiuto sul forum, oggi ci sono questi strumenti. ben vengano, ma non abbiate cieca fiducia e non smettete mai di pensare a come risolvere da soli i vostri problemi. le generazioni che nascono con questi strumenti in mano facciano attenzione.

[ngrtt]

Originariamente inviato da Notturnia

... l'uomo di domani che non avrà più le capacità di capire cosa fa l'IA perchè non avrà studiato agraria perchè è inutile ma avrà studiato altro perchè gli è stato detto che era inutile studiare, tanto c'è l'IA.. come farà a capire se l'IA sta sbagliando o facendo giusto ? dovrà fidarsi ? avere FEDE nella IA ?..

e quando l'IA sbaglierà.. perchè tutti sono fallibili.. che succederà ?

l'uomo di oggi sbaglia.. ma non perchè supervisiona male le IA ma perchè crede di poter sostituire esperienza e studio con le IA e smettere di imparare e crescere perchè è "troppo faticoso" da fare visto che lo fa "meglio" la IA.. questo è l'errore

praticamente "Nove volte sette" scritto da Asimov attorno al 1958

https://www.racconticon.it/racconti-...e-volte-sette/

[mozzarello]

Originariamente inviato da Notturnia

hai ragione e torto (sei un umano d'altro canto)

vero.. l'errore lo ha fatto l'uomo di oggi che si è affidato ad una tecnologia incapace senza supervisionare.. lo sperimentiamo anche noi di continuo lavorando ormai a fianco delle IA.. le "allucinazioni", come a tanti piace chiamarle, sono molto più frequenti di quello che possa sembrare.. noi usiamo da tempo due IA in competizione in modo da avere qualche dato in più.. rallenta molto i lavori avere una IA che smonta l'operato dell'altra ma trova anche molti errori o strade lasciate aperte perchè noi umani non le vedevamo..

ma domani.. l'uomo di domani che non avrà più le capacità di capire cosa fa l'IA perchè non avrà studiato agraria perchè è inutile ma avrà studiato altro perchè gli è stato detto che era inutile studiare, tanto c'è l'IA.. come farà a capire se l'IA sta sbagliando o facendo giusto ? dovrà fidarsi ? avere FEDE nella IA ?..

e quando l'IA sbaglierà.. perchè tutti sono fallibili.. che succederà ?

l'uomo di oggi sbaglia.. ma non perchè supervisiona male le IA ma perchè crede di poter sostituire esperienza e studio con le IA e smettere di imparare e crescere perchè è "troppo faticoso" da fare visto che lo fa "meglio" la IA.. questo è l'errore

E' successo con tutto eh,
metti un uomo moderno nel 1926 in uno dei tanti paesini agricoli italiani e muore di fame, se non sbranato prima da animali selvatici.

[zephyr83]

Ha innaffiato con Brawndo al posto dell'acqua?

[Notturnia]

Originariamente inviato da ngrtt

praticamente "Nove volte sette" scritto da Asimov attorno al 1958

https://www.racconticon.it/racconti-...e-volte-sette/

uno dei racconti brevi suoi che mi è rimasto più impresso e che adesso fa vedere che non era fantascienza ma futuro reale per noi purtroppo..

stiamo facendo di tutto per perdere la capacità di usare il cervello..

[mozzarello]

Originariamente inviato da Notturnia

uno dei racconti brevi suoi che mi è rimasto più impresso e che adesso fa vedere che non era fantascienza ma futuro reale per noi purtroppo..

stiamo facendo di tutto per perdere la capacità di usare il cervello..

Ni, considera che il cervello è questo da 200mila anni, l'IA ci sostituirebbe a fare cose che sino a 50 anni fa erano fantascienza.

Primo nessuno ti vieta di usare il cervello nel tempo libero, allenarlo e migliorarlo, secondo se l'IA è uno strumento, il cervello ti serve ancora e tanto per gestire e indirizzare l'IA, e non è detto sia più banale.

Il mio cruccio è che tutti i lavori diverranno lavori di prompt engineering, e creare prompt è una rottura di palle pazzesca rispetto al lavoro che si faceva prima (che so, programmare).

Diventeremo tutti più frustrati, perché tutti dovremo fare lavori di cacca basati sul saper come chiedere le cose alla ia