Sindaco australiano diffamato da ChatGPT, OpenAI potrebbe finire alla sbarra

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/si...ra_115714.html

OpenAI potrebbe essere citata in giudizio per diffamazione: ChatGPT riporta che un sindaco australiano, appena eletto, è stato in carcere per corruzione. L'informazione però è totalmente sbagliata e arreca un danno reputazionale al neo sindaco.


Click sul link per visualizzare la notizia.

[agonauta78]

Questo è solo uno dei miliardi di problemi che vengono alla luce un po' alla volta . Chi risponde quando la IA sbaglia ?

[cignox1]

--Chi risponde quando la IA sbaglia ?

Penso che sulla carta andrebbe affrontato come un qualsiasi altro errore in un servizio fornito: paga chi fornisce il servizio.
Solo che la vedo dura accertarsi che una AI come quella non faccia questo tipo di errori...

Mi viene peró anche da pensare a quello che diceva qualche mese fa uno dei ricercatori AI di Meta: sosteneva che sia FB che Google avevano giá AI migliori di ChatGpt, ma che non le rilasciavano perché non aveva senso farlo finché l'affidabilitá non fosse stata alta. All'epoca molti commentarono che era una balla per non ammettere di essersi fatti battere, ma direi che potrebbe essere stato vero invece....

[giuliop]

Originariamente inviato da cignox1

--Chi risponde quando la IA sbaglia ?

Penso che sulla carta andrebbe affrontato come un qualsiasi altro errore in un servizio fornito: paga chi fornisce il servizio.
Solo che la vedo dura accertarsi che una AI come quella non faccia questo tipo di errori...

Ma anche qui il problema può essere affrontato come qualsiasi altro errore: se è un errore innocuo può essere ignorato; se causa, o è possibile che causi, danni allora deve essere corretto, ed eventualmente i danni pagati.
Del resto lo stesso accade con molte delle informazioni errate che si trovano su Internet, con la differenza che l'AI, la maggior parte delle volte (se non tutte) le darà in "buona fede", mentre non infrequentemente dare informazioni fuorvianti da parte di persone è fatto in malafede.

Piuttosto credo che un problema fondamentale sia quello delle chiarezza su cosa questa AI possa e non possa fare, mi sembra che alcuni (e forse anche molti) si siano convinti che ChatGPT non solo possa sostituire in tutto e per tutto un motore di ricerca, ma essendo "intelligente" sia anche in grado di scremare le informazioni buone da quelle cattive, mentre invece l'inaffidabilità sembra sia intrinseca, e forse questo dovrebbe essere comunicato in modo più diretto.

[silvanotrevi]

a me ChatGPT ha dato delle risposte terribili, ad esempio specificandomi esplicitamente che i neri sono inferiori e non c'è rimedio a questo. Mi ha anche detto che l'omosessualità è una malattia e va curata

Inoltre, giorni fa parlando di istruzione mi ha detto che le scuole italiane sono inferiori e sfornano studenti impreparati.

Ok, ammetto di essere rimasto perplesso più volte di fronte a certe risposte e non so se questo si può migliorare in futuro (forse no perché l'IA ha un livello di sincerità assoluto mentre noi umani tendiamo ad essere "diplomatici" sulle cose o a nasconderle in parte o ad addolcire la pillola, ecc...). Però per molte altre cose mi ha sorpreso e ritengo sia una tecnologia importante per il futuro, e che sarebbe un peccato se altri Stati lo oscurassero seguendo le orme del nostro paese. Ad esempio mi ha dato una dimostrazione impeccabile del Teorema di Fermat, presentandomi il valore della stazionarietà in maniera precisa. E persino in materia sentimentale mi ha dato dei consigli da vero "psicologo", con tanto di spiegazioni sul linguaggio non verbale delle donne, sugli shit test, sul ghosting e sull'orbiting. Sono rimasto senza parole. La IA veramente può arrivare lontano fino a dove noi non possiamo immaginare. Bisogna investire su questa tecnologia, è importantissimo

[Shirov]

Si tratta di una tecnologia allo stato molto primitivo e l'unico problema è che andrebbe scritto a caratteri cubitali che i risultati possono essere errati e devono essere sottoposti a verifica. La tecnologia però è un passo avanti che diventerà una valanga in futuro. Già adesso in alcuni ambiti è utile e preziosa ma, ripeto, siamo solo agli inizi di una rivoluzione. Il vero dilemma è se saremo capaci di farne un buon uso. Francamente questo è l'unico aspetto che mi perplime molto.

[nick091]

Non ho mai usato questa roba ma penso che sarebbe meglio indicare la risposta con: "L'Irresponsabile dice:".
Uno che capisce cosa ha di fronte continuerà ad utilizzarlo come uno strumento utile.

[sbaffo]

basterebbe mettere in fondo una clausola di scarico responsabilità in stile autopilot...

[pachainti]

Chi conosce il funzionamento di tali algoritmi sa bene che di intelligente non c'è niente e che il clamore attuale è dato dal marketing, aria fritta,

• DK 7x10 Stronzate Artificiali
• IA: fabbriche di informazioni false
• DK 7x15 - Intelligenze supposte
• DK 7x21 - Il Garante è vivo e lotta insieme a noi

[giuliop]

Originariamente inviato da pachainti

Chi conosce il funzionamento di tali algoritmi sa bene che di intelligente non c'è niente e che il clamore attuale è dato dal marketing, aria fritta,

• DK 7x10 Stronzate Artificiali
• IA: fabbriche di informazioni false
• DK 7x15 - Intelligenze supposte
• DK 7x21 - Il Garante è vivo e lotta insieme a noi

Va be', abbiamo capito che sei un gran fa di te stesso questo tizio, però adesso è anche l'ora che tu smetta di spammare ogni thread con 'sta spazzatura.

[the_joe]

Originariamente inviato da pachainti

Chi conosce il funzionamento di tali algoritmi sa bene che di intelligente non c'è niente e che il clamore attuale è dato dal marketing, aria fritta,

• DK 7x10 Stronzate Artificiali
• IA: fabbriche di informazioni false
• DK 7x15 - Intelligenze supposte
• DK 7x21 - Il Garante è vivo e lotta insieme a noi

Probabilmente diceva lo stesso di Internet, dei motori di ricerca ecc. ecc.

Siamo all'alba, ai primordi di una tecnologia nuova che non potrà che migliorare, e già i FINTI GURU la danno per spacciata...

[Redvex]

Ormai si parla solo di ChatGPT

[pachainti]

Originariamente inviato da giuliop

Va be', abbiamo capito che sei un gran fa di te stesso questo tizio, però adesso è anche l'ora che tu smetta di spammare ogni thread con 'sta spazzatura.

Se avessi almeno controllato i link ti saresti accorto che gli autori non sono gli stessi.
Comunque oltre ai due autori, ci sono altre fonti autorevoli che affermano lo stesso pensiero:

• ChatGPT, Galactica, and the Progress Trap
• On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?
• Michael Black, Director at Max Plank Institute for Intelligence systems
• Noam Chomsky on ChatGPT: It’s “Basically High-Tech Plagiarism” and “a Way of Avoiding Learning”
• Non lasciamo che i nostri figli diventino cavie di ChatGPT&Co.
• Pappagalli stocastici e il potere delle big tech.
• Estrattivismo dei dati.
• Do Users Write More Insecure Code with AI Assistants?
• Stackoverflow: ChatGPT is banned.
• Why does chatGPT make up fake academic papers?

Da quando riportare dei fatti o un'opinione è considerato spam? Da quando non è conforme al mainstream? Vedo che da fastidio poiché la realtà non piace.