Kratom e Xanax consigliati dall'IA: la causa che potrebbe travolgere OpenAI e ChatGPT

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/kr...pt_153529.html

Un'azione legale senza precedenti accusa OpenAI di aver trasformato ChatGPT in un consulente medico non autorizzato. Il diciannovenne Sam Nelson è deceduto seguendo i suggerimenti del bot su dosaggi letali di Kratom e Xanax

Click sul link per visualizzare la notizia.

[supertigrotto]

Dimostrazione pratica che gli utenti comuni sono beta tester gratuiti che lavorano per i superstalloni della IA,invece di sviluppare la IA sotto stretto controllo e studiarla nei minimi particolari prima di renderla totalmente pubblica,preferiscono darla a tutti ed eventualmente,correggere i danni in un secondo momento.
Se si facesse così in ambito biologico,sarebbe come diffondere virus per studiare gli eventuali medicinali e vaccini,i morti sarebbero solo effetti collaterali secondari di poco conto,ma per la gloria della scienza e del guadagno,va bene pure questo, finché non salta fuori un virus o batterio altamente letale.
A quando un disastro estremo causato dalla IA e dalla leggerezza di dare in mano alla IA cose critiche e pericolose?
I superstalloni della IA parlavano di dare in mano la gestione delle fonti energetiche,idriche,chimiche e quant'altro alla IA,togliendo la responsabilità di gestire questi sistemi all' uomo (naturalmente per monetizzare) in modo da automatizzare tutto il mondo.
Gli umani sbagliano e possono sbagliare anche le macchine ma le macchine non hanno coscienza,come la mettiamo?
E non diciamo fesserie che le macchine non sbagliano,bastano un paio di bitflip e il crash di sistema o uno sbaglio operazionale che il disastro è servito.

[supertigrotto]

PS: una volta Microsoft pubblicò uno studio sui sui crash di sistema causati dai bitflip,causa radiazioni elettromagnetiche,sbalzi di tensione etc,errori spesso additati ai sistemi operativi in genere,si ovviamente anche ai sistemi Linux ovviamente,ma il problema non è il software ma l'hardware, specialmente nello scalare dei nanometri, più si va in basso e più questi fenomeni si fanno più frequenti.
Credere che le macchine siano infallibili è da stolti,ma viviamo nell' illusione che le macchine e la IA saranno infallibili e non combineranno mai danni......

[Nui_Mg]

Sì ma cristo, seguire "pedissequamente" ChatGPT su un argomento come quello della salute...

[AlPaBo]

Originariamente inviato da Nui_Mg

Sì ma cristo, seguire "pedissequamente" ChatGPT su un argomento come quello della salute...

Non vedo grandi differenze rispetto al seguire degli influencer sulle diete o sulle medicine alternative.

Direi che centinaia di milioni di persone sono potenziali soggetti.

[Darkon]

Originariamente inviato da supertigrotto

Dimostrazione pratica che gli utenti comuni sono beta tester gratuiti che lavorano per i superstalloni della IA,invece di sviluppare la IA sotto stretto controllo e studiarla nei minimi particolari prima di renderla totalmente pubblica,preferiscono darla a tutti ed eventualmente,correggere i danni in un secondo momento.

Questo è letteralmente impossibile. Potresti passare 20 anni a studiare l'AI ma per la natura stessa di come funziona e di come pesa le risposte e le interazioni hai sostanzialmente infiniti percorsi che l'AI potrebbe seguire esattamente come pur chiedendo la stessa cosa le persone potrebbero porre la domanda in infiniti modi diversi.

Morale della favola per come funziona un LLM nessuno ha un controllo totale e si può solo addestrare l'AI per cercare di minimizzare le risposte non gradite, fermo restando che ci sono persone che passano ore a sommo scopo di indurre l'AI ad azioni non codificate e previste quindi comunque non potrai mai azzerare i comportamenti non graditi.

Se si facesse così in ambito biologico,sarebbe come diffondere virus per studiare gli eventuali medicinali e vaccini,i morti sarebbero solo effetti collaterali secondari di poco conto,ma per la gloria della scienza e del guadagno,va bene pure questo, finché non salta fuori un virus o batterio altamente letale.

Guarda che a parte le esagerazioni è esattamente così. Se leggi il bugiardino di un medicinale ti dirà che nel 99% dei casi ha l'effetto previsto ma che esiste una certa percentuale di casi, imprevedibili, dove può avere effetti avversi fino anche a mortali. Con l'IA vale la stessa cosa... su milioni di ticket si comporta come atteso in una maggioranza enorme e in alcuni casi da risposte non gradite.

A quando un disastro estremo causato dalla IA e dalla leggerezza di dare in mano alla IA cose critiche e pericolose?

Al momento non c'è pericolo. Nessun LLM ha in mano sistemi critici di tale portata e non credo che a breve cambierà qualcosa.

I superstalloni della IA parlavano di dare in mano la gestione delle fonti energetiche,idriche,chimiche e quant'altro alla IA,togliendo la responsabilità di gestire questi sistemi all' uomo (naturalmente per monetizzare) in modo da automatizzare tutto il mondo.

Certo ma non nel senso che l'IA gestisce direttamente un sistema critico. Si cede all'IA l'ottimizzazione del mix per calcolare in tempo reale efficienze ed economicità con algoritmi appositi. Non significa che l'AI gestisce fisicamente gli impianti o che possa causare meltdown.
Per farti un esempio banale è come dire "A quanto ti salta in aria casa" semplicemente per aver creato una automazione in home assistant che a mezzanotte controlla che tutte le luci siano state correttamente spente.

Gli umani sbagliano e possono sbagliare anche le macchine ma le macchine non hanno coscienza,come la mettiamo?

Che non c'entra una beata fava. La coscienza ti fa sentire in colpa dopo che l'incidente è avvenuto, non lo previene di certo.

E non diciamo fesserie che le macchine non sbagliano,bastano un paio di bitflip e il crash di sistema o uno sbaglio operazionale che il disastro è servito.

Certo che le macchine sbagliano ma di solito affidi un compito a una macchina quando si è arrivati al punto che statisticamente la macchina sbaglia meno dell'uomo e non viceversa.

[Sella]

Darwin award.