ChatGPT è in difficoltà sulle diagnosi di casi medici pediatrici: il tasso di errore è dell'83%

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...83_123058.html

Un'IA generica non è ancora capace di effettuare diagnosi con un soddisfacente tasso di precisione, ed ancor peggio si comporta quando si trova a che fare con casi medici pediatrici

Click sul link per visualizzare la notizia.

[silvanotrevi]

Ah si? Ma che sorpresa

Ma veramente Bard e Chatgpt non sono stati in grado di risolvermi nemmeno un problema di matematica di terza elementare preso dal sussidiario di quando ero piccolo

Dai su siamo seri, questa mania di IA che ci propinate insistentemente ogni giorno è solo un grande enorme business da parte delle poche potenti lobbies che ci stanno dietro. In pratica è tutta fuffa, aria fritta, come aria fritta erano le ossessioni degli ultimi anni sulla realtà virtuale e poi sul metaverso

Soldi, soldi, soldi e lavaggio del cervello alla gente. Voglio vedere quando finirà questa fissa per la IA che ci sta devastando le menti da oltre un anno e una gran rottura di c ( ) ( ) ni

[Mo42]

Originariamente inviato da silvanotrevi

Ah si? Ma che sorpresa

Ma veramente Bard e Chatgpt non sono stati in grado di risolvermi nemmeno un problema di matematica di terza elementare preso dal sussidiario di quando ero piccolo

Dai su siamo seri, questa mania di IA che ci propinate insistentemente ogni giorno è solo un grande enorme business da parte delle poche potenti lobbies che ci stanno dietro. In pratica è tutta fuffa, aria fritta, come aria fritta erano le ossessioni degli ultimi anni sulla realtà virtuale e poi sul metaverso

Soldi, soldi, soldi e lavaggio del cervello alla gente. Voglio vedere quando finirà questa fissa per la IA che ci sta devastando le menti da oltre un anno e una gran rottura di c ( ) ( ) ni

Hai fatto benissimo a citare VR e metaverso, perché in risposta a coloro che vedono nell'IA il loro nuovo messia, mi viene proprio in mente questo genere di tecnologia "futuristica" che, ben lungi dallo scomparire completamente, resterà relegata ad una nicchia di ostinati utilizzatori che negano e sempre negheranno (fino al loro eventuale decesso corporeo) le limitazioni, la scarsa qualità, o l'inaffidabilità intrinseca delle suddette soluzioni. Indipendentemente dal quesito, io non metterei mai la mia vita in mano ad un responso generato da una tastiera predittiva glorificata. E dover ricontrollare tutto ogni santa volta... beh, non mi sembra un gran salto di efficienza.

P.S. "Eh, ma sai, è presto, ci vuole tempo, deve affinarsi. Migliorarsi..." Bene, allora chiudete tutto, lavorateci su, e fatevi risentire quando questa tecnologia sarà finalmente pronta (... per il bidone ).

[the_joe]

Originariamente inviato da silvanotrevi

Ah si? Ma che sorpresa

Ma veramente Bard e Chatgpt non sono stati in grado di risolvermi nemmeno un problema di matematica di terza elementare preso dal sussidiario di quando ero piccolo

Dai su siamo seri, questa mania di IA che ci propinate insistentemente ogni giorno è solo un grande enorme business da parte delle poche potenti lobbies che ci stanno dietro. In pratica è tutta fuffa, aria fritta, come aria fritta erano le ossessioni degli ultimi anni sulla realtà virtuale e poi sul metaverso

Soldi, soldi, soldi e lavaggio del cervello alla gente. Voglio vedere quando finirà questa fissa per la IA che ci sta devastando le menti da oltre un anno e una gran rottura di c ( ) ( ) ni

Originariamente inviato da Mo42

Hai fatto benissimo a citare VR e metaverso, perché in risposta a coloro che vedono nell'IA il loro nuovo messia, mi viene proprio in mente questo genere di tecnologia "futuristica" che, ben lungi dallo scomparire completamente, resterà relegata ad una nicchia di ostinati utilizzatori che negano e sempre negheranno (fino al loro eventuale decesso corporeo) le limitazioni, la scarsa qualità, o l'inaffidabilità intrinseca delle suddette soluzioni. Indipendentemente dal quesito, io non metterei mai la mia vita in mano ad un responso generato da una tastiera predittiva glorificata. E dover ricontrollare tutto ogni santa volta... beh, non mi sembra un gran salto di efficienza.

P.S. "Eh, ma sai, è presto, ci vuole tempo, deve affinarsi. Migliorarsi..." Bene, allora chiudete tutto, lavorateci su, e fatevi risentire quando questa tecnologia sarà finalmente pronta (... per il bidone ).

Non sapete quante volte la vostra salute potrebbe essere nelle mani di un algoritmo, ma pontificate, poi domandiamoci perchè nella nostra italietta siamo ai margini dell'occidente.

Nell'elaborazione dei codici genetici dei tumori ormai il software fa il 100% del lavoro, poi il medico o biologo da la conferma e firma il referto, ma se fossimo ancora nelle mani dell'analisi visiva dei tracciati da parte del personale umano, potremmo elaborare una frazione infinitesimale dei dati che vengono elaborati dal software.

E chissà in quanti altri settori il software ha già preso il posto del personale umano, ma naturalmente i Silvano & Co. sono i più meglio perchè "l'intelligenza artificiale è caccapupu"

[Mo42]

Originariamente inviato da the_joe

Non sapete quante volte la vostra salute potrebbe essere nelle mani di un algoritmo, ma pontificate, poi domandiamoci perchè nella nostra italietta siamo ai margini dell'occidente.

Nell'elaborazione dei codici genetici dei tumori ormai il software fa il 100% del lavoro, poi il medico o biologo da la conferma e firma il referto, ma se fossimo ancora nelle mani dell'analisi visiva dei tracciati da parte del personale umano, potremmo elaborare una frazione infinitesimale dei dati che vengono elaborati dal software.

E chissà in quanti altri settori il software ha già preso il posto del personale umano, ma naturalmente i Silvano & Co. sono i più meglio perchè "l'intelligenza artificiale è caccapupu"

Innanzitutto si scrive "perché" e non "perchè". Poi, abbassiamo la cresta da gallo cedrone e impariamo a leggere bene i commenti ed i relativi argomenti di partenza. Qui nessuno mette in dubbio l'utilità dell'analisi computerizzata in ambito sanitario, tanto meno ne s'ignora la sua presenza pluridecennale all'interno della sanità mondiale. Quello che qui si contesta è l'affidabilità/abilità di ChatGPT. Punto. È un indice di altissima incompetenza accomunare terminologie generiche come "software" e "algoritmo" a ciò che un machine learning ricorsivo ad alto apprendimento basato su architettura neurale come ChatGPT rappresenta. Forse (e sottolineo forse) quell'Italietta dobbiamo iniziare ad epurarla guardandoci allo specchio prima di postare certe fesserie qualunquiste da "tech bro".

Ci tengo a precisare che l'uso continuato del riflessivo nel mio presente messaggio è destinato solo ad indicare un'empatia grammaticale, e non un'implicita inclusione della mia persona al discorso enunciato.

[the_joe]

Originariamente inviato da Mo42

Innanzitutto si scrive "perché" e non "perchè". Poi, abbassiamo la cresta da gallo cedrone e impariamo a leggere bene i commenti ed i relativi argomenti di partenza. Qui nessuno mette in dubbio l'utilità dell'analisi computerizzata in ambito sanitario, tanto meno ne s'ignora la sua presenza pluridecennale all'interno della sanità mondiale. Quello che qui si contesta è l'affidabilità/abilità di ChatGPT. Punto. È un indice di altissima incompetenza accomunare terminologie generiche come "software" e "algoritmo" a ciò che un machine learning ricorsivo ad alto apprendimento basato su architettura neurale come ChatGPT rappresenta. Forse (e sottolineo forse) quell'Italietta dobbiamo iniziare ad epurarla guardandoci allo specchio prima di postare certe fesserie qualunquiste da "tech bro".

Ci tengo a precisare che l'uso continuato del riflessivo nel mio presente messaggio è destinato solo ad indicare un'empatia grammaticale, e non un'implicita inclusione della mia persona al discorso enunciato.

Perfetto, torniamo qua fra qualche anno per vedere se la IA sarà stato un bluff o meno e grazie per le correzioni.

[alfredaino]

Originariamente inviato da Mo42

Innanzitutto si scrive "perché" e non "perchè". Poi, abbassiamo la cresta da gallo cedrone e impariamo a leggere bene i commenti ed i relativi argomenti di partenza. Qui nessuno mette in dubbio l'utilità dell'analisi computerizzata in ambito sanitario, tanto meno ne s'ignora la sua presenza pluridecennale all'interno della sanità mondiale. Quello che qui si contesta è l'affidabilità/abilità di ChatGPT. Punto. È un indice di altissima incompetenza accomunare terminologie generiche come "software" e "algoritmo" a ciò che un machine learning ricorsivo ad alto apprendimento basato su architettura neurale come ChatGPT rappresenta. Forse (e sottolineo forse) quell'Italietta dobbiamo iniziare ad epurarla guardandoci allo specchio prima di postare certe fesserie qualunquiste da "tech bro".

[Piedone1113]

Originariamente inviato da Mo42

Hai fatto benissimo a citare VR e metaverso, perché in risposta a coloro che vedono nell'IA il loro nuovo messia, mi viene proprio in mente questo genere di tecnologia "futuristica" che, ben lungi dallo scomparire completamente, resterà relegata ad una nicchia di ostinati utilizzatori che negano e sempre negheranno (fino al loro eventuale decesso corporeo) le limitazioni, la scarsa qualità, o l'inaffidabilità intrinseca delle suddette soluzioni. Indipendentemente dal quesito, io non metterei mai la mia vita in mano ad un responso generato da una tastiera predittiva glorificata. E dover ricontrollare tutto ogni santa volta... beh, non mi sembra un gran salto di efficienza.

P.S. "Eh, ma sai, è presto, ci vuole tempo, deve affinarsi. Migliorarsi..." Bene, allora chiudete tutto, lavorateci su, e fatevi risentire quando questa tecnologia sarà finalmente pronta (... per il bidone ).

Invece l'IA è il futuro della medicina:
Se un essere umano ( anche il miglior medico del mondo) si trova a diagnosticare qualcosa di impreciso, l'IA ( a fronte di un database immenso e quindi con esperienza sempre crescente) potrebbe suggerire tranquillamente ulteriori esami, o analizzare sintomi lievi, in modo da poter migliorare la precisione dello stesso.
L'IA deve essere intesa come coadiuvante dello specialista e non certo come suo sostituto, un po come la guida autonoma che considero pericolosa se usata in modo superficiale, mentre se coadiuvante potrebbe ridurre di molto gli incidentti sia lievi che gravi.

[Notturnia]

ma non erano migliori dei dottori qualche mese fa ?

in medicina, come hanno sempre asserito i medici veri, si va per tentativi perchè non ci sono esami per qualsiasi malattia.. le AI vanno a tentoni a quanto leggo qua..

ma vedo che ci sono comunque persone che ritengono siano migliori.. io resto dell'idea che servano da affiancamento ma che sia indispensabile l'esperienza dell'uomo

[cresg82]

Originariamente inviato da Piedone1113

Invece l'IA è il futuro della medicina:
Se un essere umano ( anche il miglior medico del mondo) si trova a diagnosticare qualcosa di impreciso, l'IA ( a fronte di un database immenso e quindi con esperienza sempre crescente) potrebbe suggerire tranquillamente ulteriori esami, o analizzare sintomi lievi, in modo da poter migliorare la precisione dello stesso.
L'IA deve essere intesa come coadiuvante dello specialista e non certo come suo sostituto, un po come la guida autonoma che considero pericolosa se usata in modo superficiale, mentre se coadiuvante potrebbe ridurre di molto gli incidentti sia lievi che gravi.

Condivido ma userei il termine "informatica e algoritmi" invece di "AI" che è talmente inflazionato come termine da non avere più un significato.

[WarSide]

Solo un ignorante userebbe ChartGPT per fare diagnosi.

ChatGPT usa un LLM (large language model). In pratica costruisce frasi e paragrafi basandosi su quale parola è più probabile che vada dopo quelle che scrivete voi. Si, è così tanto stupido, solo che un modello del genere allenato con MILIARDI di parole può dare risultati soprendenti in alcuni ambiti e da barzelletta in tanti altri.
Inoltre un LLM è ottimo per trovare correlazioni tra argomenti / tesi, ma non è creativo per nulla. Un LLM non può creare concetti nuovi ed evolvere, quindi AI staceppa...

[Doraneko]

Originariamente inviato da Mo42

Innanzitutto si scrive "perché" e non "perchè". Poi, abbassiamo la cresta da gallo cedrone e impariamo a leggere bene i commenti ed i relativi argomenti di partenza. Qui nessuno mette in dubbio l'utilità dell'analisi computerizzata in ambito sanitario, tanto meno ne s'ignora la sua presenza pluridecennale all'interno della sanità mondiale. Quello che qui si contesta è l'affidabilità/abilità di ChatGPT. Punto. È un indice di altissima incompetenza accomunare terminologie generiche come "software" e "algoritmo" a ciò che un machine learning ricorsivo ad alto apprendimento basato su architettura neurale come ChatGPT rappresenta. Forse (e sottolineo forse) quell'Italietta dobbiamo iniziare ad epurarla guardandoci allo specchio prima di postare certe fesserie qualunquiste da "tech bro".

Ci tengo a precisare che l'uso continuato del riflessivo nel mio presente messaggio è destinato solo ad indicare un'empatia grammaticale, e non un'implicita inclusione della mia persona al discorso enunciato.

Sai vero che il gallo cedrone non ha neanche la cresta?

[demon77]

Originariamente inviato da Notturnia

ma non erano migliori dei dottori qualche mese fa ?

in medicina, come hanno sempre asserito i medici veri, si va per tentativi perchè non ci sono esami per qualsiasi malattia.. le AI vanno a tentoni a quanto leggo qua..

ma vedo che ci sono comunque persone che ritengono siano migliori.. io resto dell'idea che servano da affiancamento ma che sia indispensabile l'esperienza dell'uomo

L'argomento trattato non consente asolutismi di alcun genere.
Partiamo dal fatto che (purtroppo) la medicina non è una scienza esatta per via della estrema complessità unita alla mostruosa quantità di variabili che oltretutto differisce da paziente a paziente.

il processo di diagnosi di una malattia su un determinato paziente è dal punto di vista logico abbastanza semplice:
partendo da un bagaglio culturale dato da studio + esperienza sul campo il medico osserva i sintomi e ipotizza il danno.
Poi effettua esami per verificare l'ipotesi ed al contempo ottenere altre informazioni.
Il tutto a ripetersi a ciclo fino ad evidenziare con la massima accuratezza possibile la malattia.
Quindi per capirci.. anche il "luminare" va a tentoni. Se è bravo gli basta poco, se è una sega ci vuole di più. O se la situazione è tosta se è bravo arriva a beccare il problema, se è una sega il problema non lo becca proprio.

Questo tipo di processo può farlo anche una AI dedicata? Assolutamente si.
Può farlo bene quanto un medico umano? Assolutamente si.
Ed aggiungo che in un futuro non certo lontano lo saprà fare meglio di qualsiasi medico umano.. ed il motivo è evidente: una AI pensata per tale scopo studia tutto, assimila tutto, non dimentica niente, si evolve di continuo 24 ore su 24 365 giorni all'anno e cresce in esperienza ad un ritmo che nessun umano può sognare.

Oggi la AI sbaglia 9 su 10? Probabilmente tra dieci anni azzeccherà 999 su 1000.

[randorama]

Originariamente inviato da silvanotrevi

Ah si? Ma che sorpresa

Ma veramente Bard e Chatgpt non sono stati in grado di risolvermi nemmeno un problema di matematica di terza elementare preso dal sussidiario di quando ero piccolo

cortesemente, ci posti il testo del problema?
altrimenti qualche malpensate potrebbe insinuare che spari minchiate.

[Piedone1113]

Originariamente inviato da demon77

L'argomento trattato non consente asolutismi di alcun genere.
Partiamo dal fatto che (purtroppo) la medicina non è una scienza esatta per via della estrema complessità unita alla mostruosa quantità di variabili che oltretutto differisce da paziente a paziente.

il processo di diagnosi di una malattia su un determinato paziente è dal punto di vista logico abbastanza semplice:
partendo da un bagaglio culturale dato da studio + esperienza sul campo il medico osserva i sintomi e ipotizza il danno.
Poi effettua esami per verificare l'ipotesi ed al contempo ottenere altre informazioni.
Il tutto a ripetersi a ciclo fino ad evidenziare con la massima accuratezza possibile la malattia.
Quindi per capirci.. anche il "luminare" va a tentoni. Se è bravo gli basta poco, se è una sega ci vuole di più. O se la situazione è tosta se è bravo arriva a beccare il problema, se è una sega il problema non lo becca proprio.

Questo tipo di processo può farlo anche una AI dedicata? Assolutamente si.
Può farlo bene quanto un medico umano? Assolutamente si.
Ed aggiungo che in un futuro non certo lontano lo saprà fare meglio di qualsiasi medico umano.. ed il motivo è evidente: una AI pensata per tale scopo studia tutto, assimila tutto, non dimentica niente, si evolve di continuo 24 ore su 24 365 giorni all'anno e cresce in esperienza ad un ritmo che nessun umano può sognare.

Oggi la AI sbaglia 9 su 10? Probabilmente tra dieci anni azzeccherà 999 su 1000.

Veramente da diversi anni viene sviluppata una IA da IBM proprio in ambito medico:
https://www.malattie-rare.org/watson...al-humanities/
In quest'articolo viene spiegato anche (in modo implicito) perchè si parla di IA, ma sopratutto perchè l'ia deve essere addestrata in modo specialistico.
Limite molto grande dell'IA è il non poter in alcun modo capire una bugia, o un'imprecisazione detta del paziente per questo è fondamentale la figura del medico.

[Mo42]

Originariamente inviato da Doraneko

Sai vero che il gallo cedrone non ha neanche la cresta?

Perfettamente.

[h.rorschach]

Originariamente inviato da WarSide

Solo un ignorante userebbe ChartGPT per fare diagnosi.

ChatGPT usa un LLM (large language model). In pratica costruisce frasi e paragrafi basandosi su quale parola è più probabile che vada dopo quelle che scrivete voi. Si, è così tanto stupido, solo che un modello del genere allenato con MILIARDI di parole può dare risultati soprendenti in alcuni ambiti e da barzelletta in tanti altri.
Inoltre un LLM è ottimo per trovare correlazioni tra argomenti / tesi, ma non è creativo per nulla. Un LLM non può creare concetti nuovi ed evolvere, quindi AI staceppa...

Il mio commento in questo thread sarebbe partito con questo concetto come preambolo, ma vedo che è già stato esposto a dovere.

Il secondo punto del mio commento è che, partendo da quanto sopra citato, c'è anche il fattore lobotomia che questi modelli hanno subìto nell'ultimo anno, per dozzine di volte, sotto il comando puritano delle corp e VC, alla ricerca delle risposte più apologetiche, neutre, diverse e inclusive; col risultato che anche quell'efficienza nella correlazione e nel falso intuito è stato regolamentato e castrato, e dove prima c'erano spunti interessanti o coerenti, ora ci sono vagonate di "I'm sorry but as a large language model..." "... it is important to consider that..."

[TorettoMilano]

mi fanno sorridere i commenti di chi denigra chatgpt, nessuno vuole prenda il posto dei medici ma semplicemente sia da supporto. ora è di aiuto in 2 casi su 10, domani 3 su 10, dopodomani 4 su 10 e via dicendo. i primi aerei volavano 100 metri.
ad ogni modo già OGGI le varie IA ci stanno togliendo molti posti di lavoro, se davvero oggi fanno "schifo" figuriamoci cosa succederà domani quando saranno perfezionate

[TorettoMilano]

Originariamente inviato da Uccellopredicatore

Questo è molto preoccupante. Se la "società" in futuro, amplierà lo spettro di cura su cui una ia potrà intervenire o consigliare, nonostante l'inaffidabilità, quanti di voi andranno in ospedale(se ci saranno ancora) o dal medico a chiedere consigli o per una visita?

Immaginate questo: andate in ospedale o dal medico, nell'ufficio il dottore scrive sul computer, interagisce con questa ia per ottenere una risposta in base al caso. Il detto "povero a chi va a mettersi nelle mani dei medici" è veramente adatto, solo che qui ciò che è peggio è che c'è altro al posto del medico, o peggio, ci sono entrambi.

Fortunatamente, non tutti i medici sono uguali, ma quelli veramente saggi, coscienziosi è difficile trovarli e vengono rimpiazzati da figure che sono tutto fuorchè saggi e coscienziosi.

molto interessante il tutto! mi puoi approfondire l'ultima parte magari con un elenco di 10 (se ne hai di più meglio) medici saggi e coscienzosi rimpiazzati da 10 medici non saggi e non coscienziosi?

[hereiam]

Da me il ps ha una così alta percentuale di cause per diagnosi sbagliate (in realtà superficiali e approssimative ) che usiamo veramente Google e ci azzecca di più .
Così come il medico di famiglia , ormai non ti sente più nemmeno i polmoni se hai la tosse cattiva , 3 giorni di antibiotico e fuori dai coglioni