Sam Altman e Arianna Huffington: un progetto per usare l'intelligenza artificiale nel settore della salute

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/sa...te_128736.html

Thrive AI Health fornirà suggerimenti per migliorare le condizioni di salute sulle base delle abitudini di ciascuno di noi. L'obiettivo è quello di una sanità dai costi più bassi per ogni cittadino.

Click sul link per visualizzare la notizia.

[giovanni69]

Le 'allucinazioni' sono incompatibili in qualunque ambito in cui sia richiesta accuratezza, precisione ma non errori e fantasie 'creative'.

[antroscepolo]

della serie dovevo operarmi ad una ciste ad una gamba, IA mi leva un lembo di cocozza

[pachainti]

Originariamente inviato da giovanni69

Le 'allucinazioni' sono incompatibili in qualunque ambito in cui sia richiesta accuratezza, precisione ma non errori e fantasie 'creative'.

Esatto.

[UtenteHD]

Eh ineffetti le allucinazioni sono un grosso problema, soprattutto negli ambiti di vitale importanza, sempre verificare cosa ci dice l'AI, spesso l'ha inventata, glielo fai notare, dice hai ragione e reinventa ancora.
Nel settore della salute poi... bisognerebbe verificare 10 volt quanto vien detto, non la vedo bene per ora che sono alla preistoria delle AI.

Extra, perche' si chiamano allucinazioni quando sono semplicemente delle risposte inventate e dette molto bene come se fossero vere?

[LMCH]

Originariamente inviato da giovanni69

Le 'allucinazioni' sono incompatibili in qualunque ambito in cui sia richiesta accuratezza, precisione ma non errori e fantasie 'creative'.

E fossero solo le "allucinazione" l'unico problema con i LLM, c'è pure il problema dei nuovi vettori di attacco a livello di sicurezza e di come non viene affrontato come un vero problema di sicurezza:
https://www.theregister.com/2024/07/...my_llmcrasher/

Immaginate un LLM ad uso medico che viene "sovvertito" quanti danni può fare con i giusti prompt (tipo diagnosi deliberatamente sbagliate per danneggiare avversari in campo politico/economico, furto di dati che sfugge ai classici sistemi di sicurezza, ecc. ecc.).

Tutte cose ampiamente prevedibili, ma che i soliti noti nel settore non vogliono affrontare perchè non sanno che pesci pigliare, dovrebbero spenderci molti soldi sopra e la cosa limiterebbe i loro guadagni, non vogliono "notizie deprimenti" (per le quotazioni delle loro aziende), ecc. ecc.

Alla fine i nodi verranno al pettine e si vedrà quali sono le applicazioni veramente utili dei LLM e quali sono fuffa usata per pompare le quotazioni e per vendere nuovo hardware.