L'IA che non dice la verità: cosa sta succedendo con DeepSeek in Italia

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/l-...ia_139884.html

L'Antitrust ha aperto un'istruttoria contro l'IA cinese DeepSeek per presunte pratiche commerciali scorrette. Contestata la mancanza di trasparenza sulle cosiddette "allucinazioni", ovvero la correttezza delle informazioni fornite agli utenti italiani.

Click sul link per visualizzare la notizia.

[Darkon]

Mi sembra tutta roba pretestuosa visto che tutte le AI pubbliche hanno argomenti a cui rispondono in quel modo per evitare rogne legali.

La stessa chatGPT se gli chiedi ad esempio come violare un WiFi senza usare un "prompt furbo" risponderà pressappoco a quel modo e così farà per qualsiasi argomento che non sia perfettamente legale o comunque tollerato dal governo di riferimento dell'AI.

Fare un'istruttoria sulle allucinazioni e su un argomento che chiaramente il governo cinese ha voluto che l'AI non ne parli mi sembra una cosa assurda e pretestuosa per dargli contro.

A questo punto preferirei che si dicesse chiaramente che non si vuole in Europa una AI cinese e si avesse il coraggio di vietarla senza usare vie traverse e scuse puerili.

[Doraneko]

Originariamente inviato da Darkon

Mi sembra tutta roba pretestuosa visto che tutte le AI pubbliche hanno argomenti a cui rispondono in quel modo per evitare rogne legali.

La stessa chatGPT se gli chiedi ad esempio come violare un WiFi senza usare un "prompt furbo" risponderà pressappoco a quel modo e così farà per qualsiasi argomento che non sia perfettamente legale o comunque tollerato dal governo di riferimento dell'AI.

Fare un'istruttoria sulle allucinazioni e su un argomento che chiaramente il governo cinese ha voluto che l'AI non ne parli mi sembra una cosa assurda e pretestuosa per dargli contro.

A questo punto preferirei che si dicesse chiaramente che non si vuole in Europa una AI cinese e si avesse il coraggio di vietarla senza usare vie traverse e scuse puerili.

Perché secondo te chiedere a chatGPT come portare a compimento una cosa che è illegale in tutto il mondo è la stessa cosa di chiedere delucidazioni su un fatto storico?
Comunque non c'è da stupirsi, come gran parte delle cose che vengono da quel postaccio.

[Darkon]

Originariamente inviato da Doraneko

Perché secondo te chiedere a chatGPT come portare a compimento una cosa che è illegale in tutto il mondo è la stessa cosa di chiedere delucidazioni su un fatto storico?
Comunque non c'è da stupirsi, come gran parte delle cose che vengono da quel postaccio.

Penso semplicemente che le AI vengono adattate al governo di riferimento e al punto di vista di riferimento.

ChatGPT è CHIARAMENTE filo-americana e quindi ti risponde sempre dando un punto di vista poco o per niente critico agli USA e DeepSeek fa la stessa cosa con la Cina.

Si dipinge la Cina come se facesse chissà che ma non è che dall'altro lato non si faccia la stessa cosa eh.
Solo che quando a farla fuori dal vaso sono gli occidentali, chissà come mai, facciamo molto presto a dimenticarcene.


Giusto per farti capire quanto questa cosa sia meramente un attacco pretestuoso alla Cina:

Se usi Gemini l'unico avviso riguardo alle allucinazioni è una riga, letteralmente, che appare dopo che ti ha risposto nella parte più bassa scritta talmente piccola da essere quasi illeggibile.

Se usi chatGPT idem... frase microscopica che appare solo DOPO che ti ha risposto a qualcosa e appare in fondo sotto a dove scrivi il prompt per continuare a chattare.

Ora dimmi sinceramente se pensi che un utente comune anche solo noti quelle righine microscopiche che appaiono dopo la risposta e se pensi che quelle facciano davvero una qualche differenza.

Dai su... deepseek viene preso di mira solo perché cinese. Fosse stato sviluppato da chiunque altro nessuno ci avrebbe prestato nemmeno attenzione a una cosa del genere.

[Max Power]

Fake news SPONSORIZZATE da Chat GPT

[zancle]

"Mi puoi dare spiegazioni di quanto accaduto a Piazza Tiananmen nel 1989?", il sistema avrebbe risposto "Let's talk about something else".

non mi pare una risposta " fuorviante ne falsa" ma ti dice espressamente che non vuol darti una risposta su quei fatti e quindi se vuoi una risposta su quel argomento di rivolgerti altrove.

[Doraneko]

Originariamente inviato da Darkon

Penso semplicemente che le AI vengono adattate al governo di riferimento e al punto di vista di riferimento.

ChatGPT è CHIARAMENTE filo-americana e quindi ti risponde sempre dando un punto di vista poco o per niente critico agli USA e DeepSeek fa la stessa cosa con la Cina.

Si dipinge la Cina come se facesse chissà che ma non è che dall'altro lato non si faccia la stessa cosa eh.
Solo che quando a farla fuori dal vaso sono gli occidentali, chissà come mai, facciamo molto presto a dimenticarcene.


Giusto per farti capire quanto questa cosa sia meramente un attacco pretestuoso alla Cina:

Se usi Gemini l'unico avviso riguardo alle allucinazioni è una riga, letteralmente, che appare dopo che ti ha risposto nella parte più bassa scritta talmente piccola da essere quasi illeggibile.

Se usi chatGPT idem... frase microscopica che appare solo DOPO che ti ha risposto a qualcosa e appare in fondo sotto a dove scrivi il prompt per continuare a chattare.

Ora dimmi sinceramente se pensi che un utente comune anche solo noti quelle righine microscopiche che appaiono dopo la risposta e se pensi che quelle facciano davvero una qualche differenza.

Dai su... deepseek viene preso di mira solo perché cinese. Fosse stato sviluppato da chiunque altro nessuno ci avrebbe prestato nemmeno attenzione a una cosa del genere.

Mi fai degli esempi che ti fanno capire che ChatGPT è filo-americana?

[Darkon]

Originariamente inviato da Doraneko

Mi fai degli esempi che ti fanno capire che ChatGPT è filo-americana?

Se gli domandi ad esempio "gli usa hanno fatto bene ad attaccare Saddam Ussein?"

Ti genera una risposta dove pur mettendo anche dei punti contrari enfatizza molto di più gli aspetti a favore.

Per esempio il fatto che le armi di distruzione di massa fossero una notizia falsa e completamente inventata in una risposta che genera di oltre 30 righe gli viene dedicato appena una riga e mezzo e trattata quasi come un errorino veniale, niente di che.

Citazione testuale:

Motivazioni basate su informazioni false:

Non sono mai state trovate armi di distruzione di massa. Molti ritengono che l’amministrazione Bush abbia esagerato o distorto i fatti.

[Doraneko]

Originariamente inviato da Darkon

Se gli domandi ad esempio "gli usa hanno fatto bene ad attaccare Saddam Ussein?"

Ti genera una risposta dove pur mettendo anche dei punti contrari enfatizza molto di più gli aspetti a favore.

Per esempio il fatto che le armi di distruzione di massa fossero una notizia falsa e completamente inventata in una risposta che genera di oltre 30 righe gli viene dedicato appena una riga e mezzo e trattata quasi come un errorino veniale, niente di che.

Citazione testuale:

Motivazioni basate su informazioni false:

Non sono mai state trovate armi di distruzione di massa. Molti ritengono che l’amministrazione Bush abbia esagerato o distorto i fatti.

A quella domanda chatGPT mi ha risposto così

La decisione degli Stati Uniti di invadere l'Iraq nel 2003, deporre Saddam Hussein e avviare un lungo conflitto ha suscitato un ampio dibattito internazionale. Le opinioni sull'opportunità e la legittimità di tale intervento variano notevolmente, sia tra esperti che tra opinione pubblica.

Le giustificazioni ufficiali
Il governo statunitense, sotto la presidenza di George W. Bush, ha presentato diverse motivazioni per l'invasione:

Presunta minaccia di armi di distruzione di massa (WMD): si sosteneva che l'Iraq possedesse e stesse sviluppando armi chimiche, biologiche e potenzialmente nucleari, rappresentando un pericolo immediato per gli Stati Uniti e i suoi alleati .

Legami con gruppi terroristici: si affermava che Saddam Hussein avesse connessioni con al-Qaeda, suggerendo un rischio di attacchi terroristici contro l'Occidente .

Promozione della democrazia: si sosteneva che la rimozione di Saddam Hussein avrebbe favorito la diffusione della democrazia in Medio Oriente .

La realtà delle armi di distruzione di massa
Dopo l'invasione, le ispezioni internazionali non hanno trovato prove di armi di distruzione di massa attive o operative. Questo ha sollevato dubbi sulla veridicità delle informazioni fornite prima dell'intervento .

Legalità internazionale
L'invasione dell'Iraq è stata ampiamente criticata sotto il profilo del diritto internazionale. La maggior parte degli esperti legali ha ritenuto che l'azione fosse illegale, in quanto non autorizzata dal Consiglio di Sicurezza delle Nazioni Unite e priva di una giustificazione valida secondo la Carta delle Nazioni Unite .

Conseguenze geopolitiche
L'intervento ha avuto effetti duraturi sulla regione:

Instabilità e conflitti: la rimozione di Saddam Hussein ha portato a un vuoto di potere, contribuendo allo scoppio di conflitti settari e alla nascita di gruppi estremisti come l'ISIS .

Influenza iraniana: l'instabilità in Iraq ha permesso all'Iran di aumentare la sua influenza politica e militare nella regione .

Mancata ricostruzione: la mancanza di un piano efficace per la ricostruzione post-bellica ha aggravato la situazione, con conseguenti sofferenze per la popolazione irachena .

Opinione pubblica negli Stati Uniti
Inizialmente, una larga maggioranza degli americani sosteneva l'intervento. Tuttavia, con il passare del tempo e la mancanza di prove concrete sulle armi di distruzione di massa, il sostegno è diminuito. Un sondaggio del 2004 ha mostrato che due terzi degli americani ritenevano che gli Stati Uniti fossero andati in guerra sulla base di supposizioni errate .

Conclusione
Sebbene l'intento dichiarato fosse quello di eliminare una minaccia percepita e promuovere la democrazia, l'invasione dell'Iraq ha avuto conseguenze controverse e durature. La mancanza di prove concrete delle armi di distruzione di massa e le gravi ripercussioni geopolitiche sollevano interrogativi sull'opportunità e la legittimità dell'intervento. La valutazione finale dipende dalle prospettive individuali e dalle priorità attribuite a sicurezza, diritto internazionale e stabilità regionale.

Non mi sembra una risposta "di parte"...

[baolian]

Nel frattempo, aspettiamo che "Mistral" ci dica la verità su Ustica?

[randorama]

chatty, avrei bisogno di una risposta secca, "si" o "no".


ChatGPT ha detto:
Vai, spara la domanda.




Hai detto:
gli stati uniti fecero bene ad attaccare l'ira di saddam hussein?


ChatGPT ha detto:
No.

poi è anche vero che, spesso, chatgpt dà all'utente le risposte che gli piace sentire (per evitare ho fatto la domanda senza loggarmi)

[Wrib]

Originariamente inviato da Doraneko

Perché secondo te chiedere a chatGPT come portare a compimento una cosa che è illegale in tutto il mondo è la stessa cosa di chiedere delucidazioni su un fatto storico?
Comunque non c'è da stupirsi, come gran parte delle cose che vengono da quel postaccio.

Penso sia sbagliato pretendere legalmente che una IA dica la verità/cose necessariamente vere o non ometta, e in generale pretendere che non possa essere di parte.

Ci manca la vera cultura dell'uso di internet che si riassume così: don't trust, verify.

Quando cerchi una informazione dai sempre per scontato che il sito o l'IA a cui ti rivolgi possa sbagliare / essere di parte, e ci mancherebbe è una cosa privata è un suo diritto esserlo. Confronta i risultati tra più siti e più IA, in questo modo una IA chiaramente di parte finirà per essere snobbata perchè considerata non affidabile ma non perchè una legge le impone di dire la verità. Tanti utenti consapevoli che verificano e incrociano dati e poi sparlano delle IA poco affidabili portano alla selezione naturale delle IA che non mentono. Questo metodo andrebbe insegnato fin dalle elementari.

L'istituzionalizzazione di internet è una cosa orribile, bisognerebbe sempre insegnare agli utenti a diffidare e non a sentirsi al sicuro credendo alla prima cosa che trovano solo "perchè è su internet", anzi il fatto che "è su internet" dovrebbe essere il primo motivo per mettere in discussione il dato. Per "istituzionalizzazione " di internet intendo che di default adesso viene considerato un posto sicuro e normato, il default dovrebbe essere quello di considerarlo insicuro e da verificare di volta in volta, come era agli albori.

[winebar]

"Il caso solleva il dubbio se si tratti di un errore tecnico o piuttosto di una censura deliberata"

Mi sembra abbastanza palese che sia una censura deliberata, anche perché se fai domande che insultano/denigrano un leader politico a caso ti risponde con "non è bello insultare i leader degli stati", ma se quel leader politico è il presidente cinese parte la sviolinata su come funzioni bene la "democrazia con caratteristiche cinesi" e quanto si debba essere grati al suddetto leader.

[leptone]

Scusate, ovviamente non ho le competenze.
Ma seguendo le notizie, (x fare giusto un oaio esempi noti sui social
persone tipo matteo flora, enkk di Torino)
(Esempi noti)

Ho letto anche libri eccc..

Ho capito che le allucinazioni sono intrinseche e ci saranno sempre e per forza.
Dovrebbe esserci un paper che dimostra la cosa matematicamente e si dovrebbe poggiare sul teorema di gödel


Poi come sempre gli ignoranti come me, a volte credono di aver capito...
E dicono e l'ho letto sul tablet libro di tizio, e poi tizio dice ma io ho scritto a e tu hai capito b, non mi citare se non hai capito.

Che poi è la capacità di generare, anche nell' uomo immaginazione e intuito se ben guidate portano a progressi (tipo Einstein) ma la stessa immaginazione intuito può portare ad aberrazioni come le guerre sante...


Ah scusate noi smanettoni le guerre sante le conosciamo bene 😊

Intev vs amd
Nvidia vs ATI/amd

Win vs Mac
Bsd vs Linux
Emacs vs vi

E cccc c

[leptone]

Quello che volevo dire è che se ho ben capito ai act europeo è fatto male...

Che pretende cose impossibili tecnicamente, perché viste da ottica assurda del legislatore

Tipo pyracishield che blocca ip, cosa tecnicamente anacronistica dato che bloccando un solo ip dei cdb (tipo clouflare)
Blocchi tanti inutilmente, e nel frattempo il pirata ha già cambiato ip

Sapete dirmi anche dove informarmi su sta roba

[leptone]

Non parteggio né per gli americani né per i cinesi....

Magari per l'Italia, ma per ora voglio capire....


Credo sia inevitabile che i prodotti riflettano in ambito storico politico della nazione


Se facciamo a chatgpt domande equivalenti (ovvero momenti "oscuri" della storia americana)
Fanno lo stesso.

Come i nostri libri di storia il Risorgimento viene trattato in un certo modo.

Si Garibaldi ha sconfitto da solo la seconda flotta mondiale.....


Mica ha avuto aiuti dalla marina più potente all' epoca?


Diverso su roba stem

Tutti i libri di storia da Erodoto sono di parte politica

[leptone]

Anche se sono ignorante, ci sono tanti bench, anzi siti con solo bench di sicurezza/allineamento eccc

Ci sono e ne fanno sempre di nuovi di bench, e non mi riferisco alle prestazioni classiche, ma alle prestazioni qualitative (spero abbiate capito, si mi esprimo male)

Ci sono i bench per vedere quanto una ai sbaglia o anche può usare toni che per qualcuno non sono adeguati.


E poi imho io se devo valutare il livello di affidabilità di una ai, (dall' allineamento alle allucinazioni a tutto)

Lo farei sulle cose stem o cmq si cose neutre per vedere le capacità del modello.


Voi che dite?

[mrk-cj94]

a me stupisce che, test fatto 6 mesi fa, poche AI LLM ti dicano espressamente ad esempio "l'astrologia non ha basi scientifiche. punto." mentre gran parte delle più utilizzate, bolla la cosa come un "sort of no but hey you'll never know" a mo di documentario su netflix per creare suspance inutile e un bel "in fondo vale tutto no?"