Hai mai caricato un referto su ChatGPT? Hai messo in grave pericolo la tua salute e la tua privacy

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/ha...cy_141822.html

Il Garante per la Privacy lancia un allarme sull’uso crescente dell'intelligenza artificiale generativa per l’analisi di referti medici. Tra i rischi segnalati: la violazione della privacy sanitaria e l'affidamento a diagnosi automatiche senza alcuna affidabilità clinica

Click sul link per visualizzare la notizia.

[Darkon]

Mi viene da ridere... ormai tutti i principali istituti di credito usano IA ad esempio copilot e gli danno in pasto analisi dati e creazione di slide con la qualunque dentro e sia chiaro IA che sono state rese strumento ufficiale e non iniziativa del singolo.

Se mi di dice che la questione è che una eventuale diagnosi medica non è affidabile allora concordo ma per la questione privacy è un attimino tardi. Si son già fagocitate tutto di praticamente tutti.

[marcram]

Originariamente inviato da Darkon

Mi viene da ridere... ormai tutti i principali istituti di credito usano IA ad esempio copilot e gli danno in pasto analisi dati e creazione di slide con la qualunque dentro e sia chiaro IA che sono state rese strumento ufficiale e non iniziativa del singolo.

Se mi di dice che la questione è che una eventuale diagnosi medica non è affidabile allora concordo ma per la questione privacy è un attimino tardi. Si son già fagocitate tutto di praticamente tutti.

E chi impedisce alla gente, un giorno, di fare una class action contro l'istituto di credito?
Mi piacerebbe vederlo, prima o poi...

[matrix83]

Originariamente inviato da marcram

E chi impedisce alla gente, un giorno, di fare una class action contro l'istituto di credito?
Mi piacerebbe vederlo, prima o poi...

il fatto che lo accetti nei termini che firmi.

[giovanni69]

Vabbè basta oscurare i dati personali e ChatGPT non può inventarsi il nome del paziente.
Anche caricare un bolletta della luce o del gas per ottenere un'offerta 'vantaggiosa' espone il cliente ai simili rischi (e non solo ad es. il POD).

[aqua84]

Se carichi APPOSTA la tua cartella clinica su chat gpt hai chiaramente già dei problemi molto seri, a livello mentale almeno.

[Lo Straniero Misterioso]

No Watt, No Vax, No TAV, No Nuke, No AI.

La verità è che siamo una nazione di vecchi, ed il progresso ci fa sempre più schifo.

[marcram]

Originariamente inviato da matrix83

il fatto che lo accetti nei termini che firmi.

Potrei sbagliarmi, ma non credo che tra i termini ci sia la cessione dei dati del conto a società terze per fini non inerenti la gestione, e soprattutto le società terze devono rispettare il GDPR, e non mi risulta i chatbot lo rispettino pienamente...

Originariamente inviato da Lo Straniero Misterioso

No Watt, No Vax, No TAV, No Nuke, No AI.

La verità è che siamo una nazione di vecchi, ed il progresso ci fa sempre più schifo.

Se essere giovane vuol dire vendersi in nome del progresso...
E' così difficile pensare ad un progresso tecnologico che rispetti il cittadino, e non sia tutto in favore dei guadagni delle aziende? Con i cittadini, poi, che pestano i propri piedi pur di difendere le aziende... Cavolo, sembra di essere in USA...

[randorama]

io gli ho chiesto dei consigli per l'orchite rotatoria cronica... dite che sono nei guai?

[Angel_7]

"Non è raro, infatti, imbattersi nelle cosiddette "allucinazioni" dell'IA, ovvero risposte fornite come affidabili, ma del tutto sbagliate".
Ok peccato che accada la stessa cosa anche con i medici veri,vedi quante diagnosi/terapie sbagliate fanno, quindi in questo caso possiamo parlare di allucinazioni del medico?

[giovanni69]

Se un medico si inventa di sana pianta la bibliografia o il titolo di uno studio clinico risponde per falso ideologico in atto pubblico che non è meramente negligenza professionale; per l'AI è stata definita come un'allucinazione... che è stato un modo per assegnare un sostantivo così nebuloso da metter in secondo piano che è semplicemente un errore del modello.

Se poi il medico utilizza lo studio “inventato” per ottenere finanziamenti da enti pubblici o privati, o per indurre i pazienti a partecipare con l’inganno (facendoli credere a un’indagine seria), risponde del reato di truffa.

[Kuriosone]

si tira in ballo la privacy quando serve spaventare le masse !! ma quale privacy è tutta una illusione.

[rattopazzo]

Qual è davvero la differenza? Anche molti medici oggi si affidano sempre più spesso a linee guida e protocolli standardizzati, piuttosto che alla valutazione individuale del paziente o ai referti specifici. In questo modo, se qualcosa va storto, possono difendersi meglio in sede legale, perché hanno seguito le procedure “ufficiali”. D’altronde, chi rischierebbe di prendersi la responsabilità di offrire cure personalizzate quando il sistema premia chi si attiene ai protocolli?

[MikTaeTrioR]

Spiace per il garante ma tra un po' di tempo verrà sostituito da un AI

[Mon3]

Originariamente inviato da aqua84

Se carichi APPOSTA la tua cartella clinica su chat gpt hai chiaramente già dei problemi molto seri, a livello mentale almeno.

Addirittura problemi mentali? E per quale motivo?
La privacy mi viene da ridere, ormai qualsiasi cosa è dappertutto, gli ospedali vengono hackerati ogni giorno altro che chat gpt.

Avere una spiegazione "capibile" di un referto medico non è cosa da poco. Poi ovvio che bisogna avere il cervello per discernere che è sempre uno strumento che può allucinare e di sicuro non mi faccio auto terapia ma mi rivolgo a un dottore. Però sinceramente io per certe cose inizierei già a dare molto credito a un llm allenato appositamente su dati medici. Ci sono già vari studi che dimostrato che un llm su cose come diagnosi da immagini è più accurato dei dottori stessi (e mi pare abbastanza ovvio).

[Doraneko]

Originariamente inviato da Angel_7

"Non è raro, infatti, imbattersi nelle cosiddette "allucinazioni" dell'IA, ovvero risposte fornite come affidabili, ma del tutto sbagliate".
Ok peccato che accada la stessa cosa anche con i medici veri,vedi quante diagnosi/terapie sbagliate fanno, quindi in questo caso possiamo parlare di allucinazioni del medico?

Stavo per scrivere io qualcosa di molto simile

[devis]

Originariamente inviato da rattopazzo

Qual è davvero la differenza? Anche molti medici oggi si affidano sempre più spesso a linee guida e protocolli standardizzati, piuttosto che alla valutazione individuale del paziente o ai referti specifici. In questo modo, se qualcosa va storto, possono difendersi meglio in sede legale, perché hanno seguito le procedure “ufficiali”. D’altronde, chi rischierebbe di prendersi la responsabilità di offrire cure personalizzate quando il sistema premia chi si attiene ai protocolli?

Quindi tu usi l'IA per i consulti medici?

[Gundam.75]

Utilizzare l'IA per un consulto medico è come farsi leggere le carte dal mago Oronzo.

[Darkon]

Originariamente inviato da marcram

E chi impedisce alla gente, un giorno, di fare una class action contro l'istituto di credito?
Mi piacerebbe vederlo, prima o poi...

Tutto e nulla... tecnicamente per poter fare una class action devi dimostrare di aver subito un danno o che effettivamente sia trapelate a terzi informazioni tue private.

La vedo sinceramente un po' difficile.

Originariamente inviato da marcram

Potrei sbagliarmi, ma non credo che tra i termini ci sia la cessione dei dati del conto a società terze per fini non inerenti la gestione, e soprattutto le società terze devono rispettare il GDPR, e non mi risulta i chatbot lo rispettino pienamente...

Al di là che c'è la clausola di cessione dei dati a società terze anche per motivi di marketing e ricerche di mercato quindi potenzialmente "vale tutto", semmai la questione è che le società terze debbano essere GDPR compliant ma buona fortuna ha far causa su una cosa del genere perché come detto su tra provare l'effettiva cessione, dimostrare che non sono a norma GDPR e compagnia bella o riesci a organizzare una class action colossale o i costi per anche solo iniziare una causa del genere sarebbero catastrofici.

Se essere giovane vuol dire vendersi in nome del progresso...
E' così difficile pensare ad un progresso tecnologico che rispetti il cittadino, e non sia tutto in favore dei guadagni delle aziende? Con i cittadini, poi, che pestano i propri piedi pur di difendere le aziende... Cavolo, sembra di essere in USA...

Non è tanto questo secondo me... è semplicemente che le precedenti generazioni danno pesi diversi a determinate cose. Ad esempio se andavi da mio padre e gli avessi chiesto "quanto guadagni?" o "quanto dichiari?" a un libero professionista ti avrebbero guardato come dire "fatti i cazz* tuoi". Mentre i nuovi imprenditori, start up ecc..., oggi non hanno problemi a risponderti. Per loro è un dato che anzi è quasi un vanto specie quando vanno bene.
Lo stesso meccanismo vale a 360°: quello che per me era roba da tenere in famiglia o riservata vedo che per i 20enni non è niente di che, informazioni a cui danno poco valore o che comunque non ritengono debbano essere segrete.

Quindi non dobbiamo fare valutazioni come fossero contrapposizioni. Semplicemente i valori cambiano e mentre noi invecchiamo e siamo sempre meno abituati a una presenza così massiccia di nuove tecnologie che ormai entrano in tutti gli aspetti della nostra vita, le nuove generazioni crescono con la tecnologia che è una compagna di gioco più presente dei familiari stessi e che gli da delle possibilità per noi inimmaginabili.

[giovanni69]

Originariamente inviato da Darkon

Quindi non dobbiamo fare valutazioni come fossero contrapposizioni. Semplicemente i valori cambiano e mentre noi invecchiamo e siamo sempre meno abituati a una presenza così massiccia di nuove tecnologie che ormai entrano in tutti gli aspetti della nostra vita, le nuove generazioni crescono con la tecnologia che è una compagna di gioco più presente dei familiari stessi e che gli da delle possibilità per noi inimmaginabili.

Sì ma la storia insegna che quando cambiano i valori non sempre succede cose belle... e certamente se riprendessero ad insegnare educazione civica nelle scuole, aggiornando gli argomenti (tra cui anche il concetto prevenzione in termini di salute di privacy dei propri dati in tal senso) , non sarebbe una cattiva cosa per la NextGen di turno.

Senza valori e principi si finisce per scegliere sempre la cosa più comoda o quella su cui vige il maggior lassismo istituzionale o strategie di marketing di massa.