Sam Altman sempre più convinto: la Teoria di Internet morto si sta avverando

[barzokk]

Originariamente inviato da megamitch

Io trovo due rischi connessi all'uso della IA per informarsi.

Numero 1, una IA è un ulteriore filtro sulle informazioni. Già oggi "se non c'è su google non esiste", ed è un filtro estremamente pesante, adesso stiamo aggiungendo un nuovo strato, deciso anche questo da aziende private, che decide cosa riassumere di quello che legge da google

Numero 2, fino a che queste IA potranno inventare le risposte (perchè è una caratteristica intrinseca, non so se si possa tecnicamente impedirlo, ammesso che si voglia), non è così difficile rischiare di cadere in errore. Leggo in giro di esperimenti in cui le risposte sono così verosimili per cui se non sei un grande esperto del settore del quale hai chiesto informazioni potresti cadere in errore

Il fatto è che prima di questa bulimia di informazione, c'erano libri e articoli scritti e FIRMATI da persone, adesso ci sono social, profili falsi, "viralità" delle notizie (come se una notizia "virale" sia vera per definizione) etc. etc. e le macchine continueranno ad alimentarla, per motivi molto umani, ovvero qualcuno che ci guadagna sopra.

l'ho chieso a Chatgpt, notare le allucinazioni al punto 1



quali sono i rischi connessi all'uso della IA per informarsi ?


Ottima domanda. L’uso dell’intelligenza artificiale per informarsi offre grandi vantaggi in termini di velocità e accessibilità, ma comporta anche diversi **rischi** che è utile conoscere:

**1. Accuratezza e veridicità delle informazioni**

* I modelli di IA possono generare risposte **inesatte, incomplete o fuorvianti**.
* Possono “allucinare” dati, cioè inventare informazioni plausibili ma false.

**2. Mancanza di fonti verificabili**

* Spesso i sistemi di IA non indicano sempre le **fonti** o le mescolano senza contesto.
* Questo rende più difficile distinguere un’informazione attendibile da una opinione generata.

**3. Bias e distorsioni**

* L’IA riflette i **pregiudizi** e gli squilibri presenti nei dati di addestramento.
* Questo può portare a visioni parziali, stereotipate o non neutrali.

**4. Aggiornamento non garantito**

* Non tutti i modelli sono aggiornati in tempo reale: si rischia di ricevere **dati obsoleti** o non pertinenti al contesto attuale.

**5. Superficialità nella comprensione**

* Le risposte sono spesso **semplificate** e possono trasmettere l’illusione di completezza, ma senza la profondità che si ottiene con la ricerca diretta su fonti primarie.

**6. Dipendenza cognitiva**

* Affidarsi troppo a un assistente IA può ridurre lo **spirito critico** e la capacità di valutare autonomamente le informazioni.

**7. Privacy e sicurezza**

* Le interazioni con l’IA possono implicare la **condivisione di dati personali** che, se non gestiti correttamente, rischiano di essere usati impropriamente.

👉 Per ridurre questi rischi, è utile:

* Usare l’IA come **punto di partenza**, non come fonte unica.
* Verificare sempre le informazioni su **fonti indipendenti e affidabili**.
* Mantenere un atteggiamento **critico e consapevole**.

[Darkon]

Originariamente inviato da Piedone1113

Parti dal presupposto sbagliato:
Credi che sia la stessa cosa riportare una bufala su Repubblica o Facebook.

No, ma non è nemmeno così semplice dato che quando addestri un LLM se ti basi solo su fonti ufficiali avresti dei vuoti enormi. Per farti un esempio banale ma per rendere l'idea se chiedi all'IA come impostare qualcosa su jellyfin (è un programma a caso eh) 9 su 10 trova la risposta cercando per forum e community varie anche perché difficilmente chi produce software può produrti una fonte ufficiale per ogni singola cosa.
Moltiplicalo per tutte le casistiche in cui avere una fonte ufficiale sarebbe difficile se non impossibile ed ecco che tutti gli LLM sono addestrati anche su fonti che non sono verificabili.

Credi che l'adestramento llm debba dare lo stesso peso alla Treccani o al post del terrappiatissta su facebook?

Credo che per quanti parametri manuali tu possa mettere di sovrappesare le fonti ufficiali e sottopesare il resto comunque non arrivi nemmeno lontanamente vicino a una qualche forma di autorevolezza. Un LLM non ha una capacità di ragionamento di questo tipo.

Una volta il motto dell'Ansa era:
Se è su ansa è una notizia.
C'è stato un mezzo scandalo circa adnkronos dove venivano pubblicati sul sito articoli paganti esterni autoreferenziali che hanno portato a raggiri o vere e proprie truffe.
Credi che sia eticamente innocente la testata ( una delle maggiori agenzie di stampa d'Italia) solo perchè contenuto sponsorizzato ma reso autorevole dalla testata?

Si e no. Non è moralmente giusto è chiaro ma in un mondo in cui se non vengono chiudono ti ritroveresti alla svelta senza siti di informazione se fossero puristi. Poi ripeto concordo che la giustizia è altro ma se poi non sopravvivi mi sa che la giustizia è servita a poco. Per questo dico che oggi fonti ufficiali, salvo essere esperto in prima persona, non esistono. Perché che sia repubblica, ansa o qualsiasi altro hanno bisogno di mangiare e per farlo si devono piegare a pubblicare quello che paga.

MI frega una cippa se il sito XXX sia fuori dall'EU e non è una testata giornalistica accreditata, ma se La Stampa mi riporta una Bufala dal sito XXX gli da una parvenza di autorevolezza e la Stampa andrebbe sanzionata.

Ripeto, moralmente concordo con te ma renderlo un meccanismo reale? Dovresti fare decine anzi probabilmente centinaia o migliaia di processi a giornalisti. Cosa che storicamente non porta proprio a risultati eccellenti specie in un paese come il nostro che è parecchio basso nella classifica per la libertà di stampa.

Se il dott X mi fa curare un Otite con l'omeopatia e dopo un agonia di mesi il bambino muore ( quando lo si avrebbe potuto salvare con una semplice cura antibiotica, successo a Pesaro quando vi lavoravo) IL dott X andrebbe radiato dall'albo ed arrestato per omicidio volontario ( e non colposso) i genitori condannati per omicidio colposo e perdità di patria podesta sui figli rimanenti e futuri ( da poter essere sospesa dopo affidamento del caso ai servizi sociali).

Anche qua è una materia spinosa perché vedi io sono vaccinato, non credo nell'omeopatia ecc... ecc... ma al tempo stesso mi chiedo fino a che punto sia corretto che la collettività possa scegliere come una terza persona debba curarsi. Sono consapevole che chi crede in maghi e scemenze del genere probabilmente finirà per morire ma al tempo stesso è la sua vita e, salvo esserci un esplicito pericolo per la collettività (vedi vacchini ad esempio) non sono così netto nel dire che si debba per forza obbligarlo a curarsi come pare a noi. È un argomento spinoso mi rendo conto ma non sono del tutto concorde con la linea assoluta di decidere come curarsi in maniera collettiva.

Chi riporta che i bagni di fango, le misture di erbe, i cazzi ed i mazzi, sono sostituti ben più efficaci della cura farmacologica dovrebbe essere punito in misura della sua figura:
Un medico o operatore sanitario dovrebbe essere radiato, tutti gli altri gli dovrebbe essere impedito per legge di avere accesso a qualssiasi dispositivo elettronico in grado di interaggire in rete.

Qua esageri. Che un medico se professa cose non scientifiche debba essere radiato ok. Ma gli altri non gli puoi privare di alcune delle libertà fondamentali e costituzionali solo perché credono in determinate cose. Altrimenti a sto punto perché non escludere i religiosi dato che la religione non è certo scentifica, escludiamo poi terrapiattisti, complottisti e così via e va a finire che hai fatto una nazione di polizia in stile Corea del Nord dove solo gli amici del potere sono online.

Le tue fantasie le tieni per te, non certo di metti a influenzare persone provate emotivamente e di conseguenza deboli, o creduloni ignoranti ( prive di conoscenze).

Chi si fa influenzare trova il modo di farsi influenzare anche al bar del paese. Ha già scelto di voler cercare altro prima ancora di incontrare online o al bar chi gli racconta le novelle. Esistono da secoli gli imbonitori e quelli che promettono cure miracolose, non è certo la rete ad aver creato il fenomeno.

Diffondere notizie che il violentatore sia un nero, giallo, bianco, verde senza prove di fondo è un incitazione all'odio.
Avere proprie opinioni e esporle non è reato:
Auschwitz non era un campo di concentramento ( negazionismo storico da punire)
Auschwitz non è nato come campo di concentramento, ma come polo produttivo a basso costo sfuttando i deportati e successsivamente trasformatosi in campo di concentramento ( Anche questa una falsità, ma senza negazionismo e con la possibilità di controbbattere e scambiarsi opinioni senza negare la tragedia umana)

Ripeto... rimarrebbero 10 persone online, non è una cosa fattibile. Tutti abbiamo un argomento su cui in un modo o nell'altro abbiamo sparato uno sfondone. Ma poi ripeto la gente sarà libera di credere in quello che gli pare, questo controllo assoluto per me è terrificante. Queste cose vengono fatte nelle dittature.

Per la politica invece nessuna censura:
La Dittatura nella Cina è la migliore forma politica possibile ( ! ma rispecchia una personale opinione)
Xi Jinping ha donato 10 milioni di dollari agli orfanotrofi

è il titolo di una notizia, ma se sono suoi denari ok, mentre se sono fonti statali il titolo dovrebbe essere:

Xi Jinping ha stanziato 10 milioni di dollari per gli orfanotrofi ( anche se inesatta potrebbe essere accettabile)

Se riportata da organi di stampa anche solo nel titolo e non nel corpo andrebbe sanzionata e il giornalista sanzionato.

E come diamine dovresti fare ad appurare una cosa del genere? Mettiamo che per assurdo l'ambasciata cinese dichiara che ha usato soldi propri. Pubblichi la notizia e mesi dopo invece si scopre che era una cosa mediatica. Arresti l'ambasciata? Scateni una guerra?
Ma ti rendi conto che con quello che proponi nessuno farebbe più il giornalista ufficiale. Ti troveresti una marea di testate clandestine e un giornale di stato con gente che, terrorizzata, pubblica solo dopo che qualche organo di stato ha verificato la notizia.
Non so se ti rendi conto ma nemmeno nella Germania nazista c'era una repressione del giornalismo anche solo lontanamente paragonabile a quello che proponi.

Bisogna combattere le bufale a livello di organi di stampa ( una bufala riportata su La Repubblichina, giornale inventato come regolarmente iscritto) perchè se ti riportano la notizia x letta su facebook non ha lo stesso peso di letta sul Sole 24 Ore ( testata che reputo affidabile).

Il sole 24 ore che si fece comprare dai venditori di diamanti pubblicando a tutta pagina bufale se fosse per te sarebbe già chiuso.

[Darkon]

Originariamente inviato da barzokk

l'ho chieso a Chatgpt, notare le allucinazioni al punto 1



quali sono i rischi connessi all'uso della IA per informarsi ?


Ottima domanda. L’uso dell’intelligenza artificiale per informarsi offre grandi vantaggi in termini di velocità e accessibilità, ma comporta anche diversi **rischi** che è utile conoscere:

**1. Accuratezza e veridicità delle informazioni**

* I modelli di IA possono generare risposte **inesatte, incomplete o fuorvianti**.
* Possono “allucinare” dati, cioè inventare informazioni plausibili ma false.

Devo dire che tutto sommato ti ha pure dato una risposta corretta.

Esprime esattamente quello che è un LLM: un sistema probabilistico che quasi sempre esprime il parere di una sorta di "maggioranza" in base a come sono stati pescati i dati di addestramento.

Credere che un LLM possa fornire solo risposte esatte è semplicemente un segnale che mancano le basi e che una persona che pensa a quel modo probabilmente si sarebbe fatta influenzare da chiunque: al bar, sul posto di lavoro, leggendo un forum ecc... ecc...

[the_joe]

Originariamente inviato da Darkon

Devo dire che tutto sommato ti ha pure dato una risposta corretta.

Esprime esattamente quello che è un LLM: un sistema probabilistico che quasi sempre esprime il parere di una sorta di "maggioranza" in base a come sono stati pescati i dati di addestramento.

Credere che un LLM possa fornire solo risposte esatte è semplicemente un segnale che mancano le basi e che una persona che pensa a quel modo probabilmente si sarebbe fatta influenzare da chiunque: al bar, sul posto di lavoro, leggendo un forum ecc... ecc...

Il che se è un limite, è uguale a quello degli esseri umani che ti daranno una risposta in merito a quanto appreso con gli studi che hanno effettuato e le esperienze che hanno maturato.

[Darkon]

Originariamente inviato da the_joe

Il che se è un limite, è uguale a quello degli esseri umani che ti daranno una risposta in merito a quanto appreso con gli studi che hanno effettuato e le esperienze che hanno maturato.

Assolutamente. È un limite a tutti gli effetti e ti dirò di più... un limite intrinsecamente invalicabile perché se anche invece di un LLM avessimo una vera IA pari a un essere umano o perfino superiore comunque sia giudicherebbe i dati sulla base delle proprie esperienze e conoscenze quindi sarà comunque possibile che avvengano errori.

Gli esseri umani stessi sono i primi, nonostante tutto, a commettere tali errori.

Qua il punto secondo me non è tanto stabilire che si può sbagliare ma pretendere da una macchina la perfezione quando nemmeno un uomo e non parlo di una persona media ma di una colta e preparata è scevro da errori e aberrazioni.

[the_joe]

Originariamente inviato da Darkon

Assolutamente. È un limite a tutti gli effetti e ti dirò di più... un limite intrinsecamente invalicabile perché se anche invece di un LLM avessimo una vera IA pari a un essere umano o perfino superiore comunque sia giudicherebbe i dati sulla base delle proprie esperienze e conoscenze quindi sarà comunque possibile che avvengano errori.

Gli esseri umani stessi sono i primi, nonostante tutto, a commettere tali errori.

Qua il punto secondo me non è tanto stabilire che si può sbagliare ma pretendere da una macchina la perfezione quando nemmeno un uomo e non parlo di una persona media ma di una colta e preparata è scevro da errori e aberrazioni.

Appunto. A favore della LLM però c'è il fatto che può essere addestrata con le esperienze di n esseri umani e il suo sapere non si esaurisce con la morte, di fatto ogni essere umano è resettato alla nascita e deve apprendere daccapo tutto, cosa che una IA non deve fare, anzi la sua esperienza non può che aumentare con il tempo e l'acquisizione di nuove informazioni.

[the_joe]

Originariamente inviato da barzokk

Tecnologia o fantascienza ?
Se è fantascienza e vi piace sognare, fate pure.
Ma non è progresso, almeno lo è solo fino ad un certo punto, poi sono solo promesse vendute da Wall Street per fare soldi.

Di fatto la fantascienza non è altro che la scienza fra qualche o anche molti anni, quando Jules Verne scrisse del viaggio sulla luna, nessuno avrebbe creduto possibile arrivarci...

Alcune cose probabilmente non saranno mai possibili, ma di certo la IA non è una di queste.

[euscar]

Originariamente inviato da the_joe

Appunto. A favore della LLM però c'è il fatto che può essere addestrata con le esperienze di n esseri umani e il suo sapere non si esaurisce con la morte, di fatto ogni essere umano è resettato alla nascita e deve apprendere daccapo tutto, cosa che una IA non deve fare, anzi la sua esperienza non può che aumentare con il tempo e l'acquisizione di nuove informazioni.

Praticamente Skynet è dietro l'angolo.

[the_joe]

Originariamente inviato da euscar

Praticamente Skynet è dietro l'angolo.

Non so cosa sia dietro l'angolo, ho solo descritto la differenza tra IA ed essere umano.

[barzokk]

Originariamente inviato da the_joe

Appunto. A favore della LLM però c'è il fatto che può essere addestrata con le esperienze di n esseri umani e il suo sapere non si esaurisce con la morte, di fatto ogni essere umano è resettato alla nascita e deve apprendere daccapo tutto, cosa che una IA non deve fare, anzi la sua esperienza non può che aumentare con il tempo e l'acquisizione di nuove informazioni.

e dove non arriva con l'esperienza, si inventa le cose
in pratica è un commerciale perfetto !