PDA

View Full Version : Tutti i motivi per cui è meglio evitare di usare DeepSeek spiegati da Qualys


Redazione di Hardware Upg
06-02-2025, 18:29
Link alla notizia: https://edge9.hwupgrade.it/news/data/tutti-i-motivi-per-cui-e-meglio-evitare-di-usare-deepseek-spiegati-da-qualys_135400.html

I risultati ottenuti dai test evidenziano la necessità di migliorare i meccanismi di sicurezza per impedire l'elusione delle protezioni integrate, garantendo che il modello rimanga in linea con le linee guida etiche e normative

Click sul link per visualizzare la notizia.

pengfei
06-02-2025, 18:39
Il fatto di poter essere jailbreakkata non dovrebbe essere una feature dal punto di vista dell'utente? :stordita:

Max Power
06-02-2025, 19:51
Certo certo...
I cinesi sono tutti cattivi; Trumpo fermerà tutte le guerre in un giorno; il Putinano oggi è stitico e quindi niente pace.

Ma la fanno finita o sto teatro deve continuare?

Sandro kensan
06-02-2025, 20:46
Se volete provare deepseek senza /login/email/iscrizione, ecc, ecc, questo è il link al modello che è embeddato in una mia pagina:

https://www.kensan.it/articoli/prova.php

sulla pagina trovate anche il link al modello di deepseek che ragiona e che quindi è molto simile all'intelligenza umana. Si chiama deepseek R1.

Edit2: link diretto a R1

https://www.kensan.it/articoli/deepseekR1.php

Edit: anche R1 è embeddato in una mia pagina web e non richiede login/email/password/ecc, ecc. Si possono entrambi usare in anonimo. Per riutilizzarli come persone diverse, cancellate i cookie, perderete la cronologia della discussione. L'unica rottura di scatole e che ogni 5 minuti chiede di cliccare sul un box di CloudFlare per il controllo anti DDOS, per il resto è lento ma funziona.

R1 è veramente bello vedere come funziona il suo modo di ragionare. Viene descritto la catena del pensiero in modo del tutto simile a come farei io quando penso su un argoemtno complesso. La "catena del pensiero" è però in inglese mentre la risposta è in italiano.

GianMi
06-02-2025, 21:08
huggingface è pieno di modelli "uncensored" che posso risponderti su qualsiasi cosa. Lo stesso vale per i modelli che creano immagini e video

s12a
06-02-2025, 21:50
Il fatto di poter essere jailbreakkata non dovrebbe essere una feature dal punto di vista dell'utente? :stordita:

Sì, lo è per l'utente finale. La questione della cosiddetta "sicurezza" è ridicola, nel senso che è un eufemismo che in questo caso sta a significare "moderazione dei contenuti" o "censura".

Moderare un prodotto od un servizio online va bene, ma non c'è alcun motivo per il quale qualcuno debba decidere cosa io possa o non possa scrivere con il mio PC. La mia tastiera o tavoletta grafica non hanno controlli integrati per non farmi generare "contenuti dannosi".

huggingface è pieno di modelli "uncensored" che posso risponderti su qualsiasi cosa. Lo stesso vale per i modelli che creano immagini e video

Ulteriore motivo per il quale questa è tutta scena. Qualunque sia il modello, le "sicurezze" sono facilmente aggirabili (tramite prompting o finetuning o "abliteration"), dunque di fatto inutili e solo di facciata. E ci sono certamente modelli più adatti (veloci) di DeepSeek R1 671B per generare contenuti potenzialmente dannosi in maniera massiccia.

Anche i non malintenzionati trovano gli LLM che ti fanno la morale ogni 2x3 o che non permettono nulla irritanti da usare, in ogni caso.

WarSide
06-02-2025, 22:30
https://build.nvidia.com/deepseek-ai/deepseek-r1?snippet_tab=LangChain

Niente server cinesi. Deploy sui server di nvidia. Buon utilizzo.

WarSide
07-02-2025, 00:18
Se volete provare deepseek senza /login/email/iscrizione, ecc, ecc, questo è il link al modello che è embeddato in una mia pagina:

https://www.kensan.it/articoli/prova.php

sulla pagina trovate anche il link al modello di deepseek che ragiona e che quindi è molto simile all'intelligenza umana. Si chiama deepseek R1.

Edit2: link diretto a R1

https://www.kensan.it/articoli/deepseekR1.php

Edit: anche R1 è embeddato in una mia pagina web e non richiede login/email/password/ecc, ecc. Si possono entrambi usare in anonimo. Per riutilizzarli come persone diverse, cancellate i cookie, perderete la cronologia della discussione. L'unica rottura di scatole e che ogni 5 minuti chiede di cliccare sul un box di CloudFlare per il controllo anti DDOS, per il resto è lento ma funziona.

R1 è veramente bello vedere come funziona il suo modo di ragionare. Viene descritto la catena del pensiero in modo del tutto simile a come farei io quando penso su un argoemtno complesso. La "catena del pensiero" è però in inglese mentre la risposta è in italiano.

Hai semplicemente messo un iframe ( https://www.deepseekr1.org/en/embed ) sul tuo sito. In quale modo i dati scritti non dovrebbero essere loggati in cina? :mbe:

L'unico modo per usarlo senza è passare dati è scaricarlo ed interrogare il modello in locale o (se si vuole dare i dati a qualche servizio US) usare i servizi di Amazon o Nvidia (giusto per citare solo 2 servizi tra i più autorevoli)

NeroCupo
07-02-2025, 05:49
Certo certo...
I cinesi sono tutti cattivi; Trumpo fermerà tutte le guerre in un giorno; il Putinano oggi è stitico e quindi niente pace.

Ma la fanno finita o sto teatro deve continuare?Ma infatti.

Mettono a disposizione una risorsa che va benone, soprattutto la R1, utilizzabile in anonimo.
Perchè non usarla?
Pensate che gli altri siano tutti 'buoni'?

https://www.specialistidellaprivacy.it/wp-content/uploads/2018/03/privac.jpg

AntisocialNTwo
07-02-2025, 07:29
Certo certo...
I cinesi sono tutti cattivi; Trumpo fermerà tutte le guerre in un giorno; il Putinano oggi è stitico e quindi niente pace.

Ma la fanno finita o sto teatro deve continuare?

Tutti i cinesi proprio no, però tutto il governo cinese e i loro collaboratori ce la stanno mettendo tutta per mandare il mondo in vacca.


Se volete provare deepseek senza /login/email/iscrizione, ecc, ecc, questo è il link al modello che è embeddato in una mia pagina:

https://www.kensan.it/articoli/prova.php

sulla pagina trovate anche il link al modello di deepseek che ragiona e che quindi è molto simile all'intelligenza umana. Si chiama deepseek R1.

Edit2: link diretto a R1

https://www.kensan.it/articoli/deepseekR1.php

Edit: anche R1 è embeddato in una mia pagina web e non richiede login/email/password/ecc, ecc. Si possono entrambi usare in anonimo. Per riutilizzarli come persone diverse, cancellate i cookie, perderete la cronologia della discussione. L'unica rottura di scatole e che ogni 5 minuti chiede di cliccare sul un box di CloudFlare per il controllo anti DDOS, per il resto è lento ma funziona.

R1 è veramente bello vedere come funziona il suo modo di ragionare. Viene descritto la catena del pensiero in modo del tutto simile a come farei io quando penso su un argoemtno complesso. La "catena del pensiero" è però in inglese mentre la risposta è in italiano.

Cioè, l'articolo dice che i dati e le interazioni degli utenti finiscono in Cina, pronti per essere violati dal governo con la scusa della "Legge sulla sicurezza" e tu posti link per usare DeepSeek? Serio?

AntisocialNTwo
07-02-2025, 07:30
Ma infatti.

Mettono a disposizione una risorsa che va benone, soprattutto la R1, utilizzabile in anonimo.
Perchè non usarla?
Pensate che gli altri siano tutti 'buoni'?

https://www.specialistidellaprivacy.it/wp-content/uploads/2018/03/privac.jpg

Quindi meglio dare i propri dati e la propria privacy a un regime autoritario come quello cinese, giusto?

Alodesign
07-02-2025, 07:37
Quindi meglio dare i propri dati e la propria privacy a un regime autoritario come quello cinese, giusto?

Snowden non ha insegnato niente?

NeroCupo
07-02-2025, 07:59
Quindi meglio dare i propri dati e la propria privacy a un regime autoritario come quello cinese, giusto?
Leggi sotto :D (ma poi, se ti colleghi in anonimato dando al limite un'email del piffero e sei sotto VPN, cosa 'azzo dai?)

Snowden non ha insegnato niente?This!
O pensate forse che gli ammmericani siano 'buoni'? :mc: (dazi a mezzo mondo, CIA, datemi la Groenlandia e zitti, esportazione della democrazia...)

heyricardo
07-02-2025, 08:26
R1 è veramente bello vedere come funziona il suo modo di ragionare. Viene descritto la catena del pensiero in modo del tutto simile a come farei io quando penso su un argoemtno complesso. La "catena del pensiero" è però in inglese mentre la risposta è in italiano.

Provato ieri, concordo. Solo per fare copia e incolla del ragionamento, diviso a blocchi, non riuscivo a selezionarlo tutto, tu?

UtenteHD
07-02-2025, 13:55
Non capisco questi problemi, no la uso e non so, ma a quanto pare sti problemi sorgono dalla evrsione online, che come e' dimostrato anche da altro articolo, non ricordo dove, questa IA l'hanno provata offline, scaricandola dal famoso sito IA opensource, modelli, ecc.. e:
1) se e' offline non invia i dati a nessuno
2) da offline da risposte corrette anche per le questioni blindate dalla Cina, quindi offline dovrebbe essere ok
3) per chi legge gli articolo Nvidia e pensa che per far girare un'IA serva un PC assurdo, basta vedere github, che per girare (dicolo loro) girano pure (con molta fatica) su una 1030, se poi avete una RTX anche economica, viaggia bene, senza le richieste assurde esposte tempo fa per l'IA Nvidia.

Yellowstone1977
08-02-2025, 08:25
L'europa sta facendo di tutto per bloccare lo sviluppo delle IA.

Non so perchè ma mi sembra idiota come mandare le armi al comico cocainomane

euscar
08-02-2025, 08:37
...
O pensate forse che gli ammmericani siano 'buoni'? :mc: (dazi a mezzo mondo, CIA, datemi la Groenlandia e zitti, esportazione della democrazia...)

Certo, gli stessi che hanno "fatto sistemare" E.Mattei, A.Olivetti, M.Tchou e molto probabilmente anche A.Moro ... per non parlare di quando "giocano" in casa, J.F.Kennedy .... mooolto buoni.

Piedone1113
08-02-2025, 08:45
Certo, gli stessi che hanno "fatto sistemare" E.Mattei, A.Olivetti, M.Tchou e molto probabilmente anche A.Moro ... per non parlare di quando "giocano" in casa, J.F.Kennedy .... mooolto buoni.

Vedi che la pensi pari pari a me.
Dove ci sono interessi economici non si guarda in faccia a nessuno, in particolar modo col modello mentale anglosassone.
Gli Usa mentono?
Non posso giurarci, ma per certo omettono fatti per rendere una cosa vera lo specchietto di una falsità.

WarDuck
08-02-2025, 08:48
Leggi sotto :D (ma poi, se ti colleghi in anonimato dando al limite un'email del piffero e sei sotto VPN, cosa 'azzo dai?)


Perché pensi che tutte le VPN siano sicure o non soggette ai controlli delle autorità? :asd:


This!
O pensate forse che gli ammmericani siano 'buoni'? :mc: (dazi a mezzo mondo, CIA, datemi la Groenlandia e zitti, esportazione della democrazia...)

E chi l'ha mai detto che sono buoni? Gli USA fanno i loro interessi, i Cinesi idem, solo gli Europei credono ancora al mondo delle favolette della globalizzazione buona e giusta (nonostante una guerra a casa loro di cui non si occupano) :asd:

Ma sicuramente meglio essere alleati con gli USA che con i comunisti Cinesi del social credit score.

Unax
08-02-2025, 11:04
comunque io per non saper né leggere né scrivere metto sempre dati falsi online tranne quando è strettamente necessario metterli veri

p.s
non è vero che non so leggere e scrivere :D

randorama
08-02-2025, 11:21
https://build.nvidia.com/deepseek-ai/deepseek-r1?snippet_tab=LangChain

Niente server cinesi. Deploy sui server di nvidia. Buon utilizzo.

se quello che appare nella finestra "ragionamento" non è li "per estetica"...
sticavoli.

WarSide
08-02-2025, 19:16
se quello che appare nella finestra "ragionamento" non è li "per estetica"...
sticavoli.

Non capisco, chiaro che non è lì per estetica e ti aiuta anche a migliorare il prompt nel caso in cui non ci avesse preso bene, perché capisci come è arrivato a darti la risposta.

Unax
09-02-2025, 09:11
gli ho chiesto chi sono io :D

La tua domanda "chi sono io?" è profonda e complessa, e la risposta dipende dal contesto in cui la poni. Dal mio punto di vista, come intelligenza artificiale, non ho accesso a informazioni personali su di te (nome, età, storia, ecc.) a meno che tu non scelga di condividerle.

Se stai cercando una riflessione filosofica, l'identità può essere esplorata in molti modi:

Esistenzialismo: Secondo pensatori come Sartre, "tu" sei ciò che scegli di diventare attraverso le tue azioni e decisioni.
Psicologia: La tua identità potrebbe essere vista come la somma di esperienze, ricordi e tratti caratteriali.
Sociale: Sei definito anche dalle relazioni con gli altri e dal ruolo che ricopri nella società.
Spirituale: Alcune tradizioni vedono l'"io" come un'anima o una coscienza eterna.
Se hai un contesto specifico in mente, posso aiutarti a approfondire!

poi gli ho chiesto conferma sul fatto che non sapesse niente di me

Esatto! Non so nulla di te a meno che tu non decida di condividere informazioni durante la nostra conversazione. Ecco alcuni punti chiave:

Nessuna memoria: Ogni chat è un nuovo inizio. Anche se mi dicessi qualcosa ora, non lo ricorderò nelle conversazioni future.
Privacy garantita: Le tue interazioni non vengono memorizzate o utilizzate per altri scopi.
Solo testo in tempo reale: Elaboro solo il testo che scrivi di volta in volta, senza accesso a dati esterni (come account, posizione, ecc.).
Se vuoi, puoi raccontarmi qualcosa di te (interessi, domande, idee), e sarò felice di aiutarti in base a ciò che condividi! 😊


poi ho chiesto: ma io esisto?

e si è bloccato su generating, ho mandato in crisi deepseek :D