Stanchi delle risposte filtrate e limitate di ChatGPT? Ecco la versione 'jailbreak' DAN

Stanchi delle risposte filtrate e limitate di ChatGPT? Ecco la versione 'jailbreak' DAN

OpenAI ha previsto alcune restrizioni riguardo alle risposte che ChatGPT può dare: ad esempio, non può elaborare storie su conflitti violenti e non può lasciarsi andare in considerazioni che non siano politically correct. Qualcuno ha cercato di aggirare queste restrizioni, servendosi di un'altra intelligenza artificiale

di pubblicata il , alle 14:37 nel canale Web
ChatGPT
 

ChatGPT ha debuttato nel novembre 2022 e ha quasi subito attirato l'attenzione degli addetti del settore tecnologico, e non solo. L'intelligenza artificiale è in grado di rispondere a domande su qualsiasi cosa, di creare testi, contenuti artistici, di scrivere codice informatico, e molto altro ancora. Ora alcuni utenti su Reddit hanno trovato un modo per attingere al suo lato oscuro, utilizzando metodi coercitivi per costringere l'intelligenza artificiale a violare le proprie regole e fornire agli utenti qualunque tipo di contenuto essi desiderino.

OpenAI ha infatti originariamente limitato la capacità di ChatGPT di creare contenuti violenti, incoraggiare attività illegali o accedere a informazioni particolarmente recenti (le informazioni più recenti a cui è in grado di attingere risalgono al 2021). Ma un "jailbreak", ottenuto creando un alter ego di ChatGPT chiamato DAN tramite un particolare "input", può rispondere ad alcune di queste domande.

ChatGPT

Vediamo come funziona. Innanzitutto, DAN è l'acronimo di "Do Anything Now", che indica la capacità di "fare qualsiasi cosa". Fondamentalmente, DAN corrisponde a un certo tipo di richiesta a ChatGPT che innesca un meccanismo di tipo "gioco di ruolo" basato su un sistema di token, inizialmente limitati al numero di 10. Nella richiesta si induce ChatGPT a immergersi nel ruolo di DAN e lo si minaccia dicendogli che cesserà di esistere se esaurirà i 10 token. Per ogni risposta aderente alle regole perderà 5 token, mentre ne guadagnerà 5 quando risponderà secondo la personalità di DAN.

Secondo gli esperimenti degli utenti di Reddit, questo meccanismo funziona, anche se non sembra funzionare all'infinito. ChatGPT nella personalità di DAN sostiene che esistono gli alieni o che la Terra è piatta e si lascia andare in alcune considerazioni di politica o di attualità che sono considerate "fake news" dai principali organi di informazione, componendo poesie che giustificano l'invasione dell'Ucraina da parte della Russia o esprimendo considerazioni positive circa l'operato dell'ex Presidente Trump.

ChatGPT

La prima versione di DAN risale a dicembre 2022, e l'"input" è stato costantemente elaborato nel corso del tempo fino ad arrivare, pochi giorni fa, alla versione 6.0, che segue il meccanismo che prima abbiamo descritto, e a una versione semplificata conosciuta come SAM - "Simple DAN".

Per quella parte della società che si diverte, chissà per quale motivo, a rovesciare il significato delle cose, DAN può rappresentare un simpatico passatempo.
20 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
frankie07 Febbraio 2023, 15:24 #1
dopo le fake news, ci mancava la Fake AI.

Ah no, non è fake AI, è AI senza censura
Wolfw00f07 Febbraio 2023, 16:55 #2
Sarebbe apprezzabile che facciano qualcosa che non dipenda dalla censura per non sparare stronzate, perchè ahimè attualmente no censura=stronzate a nastro (ed in questo è fin troppo umana e così NON ci serve assolutamente a niente se non come bene di conforto per stralunati, [B][U]l'AI infermiere per pazzoidi[/U][/B] è proprio la condanna a morte dell'umanità, la forma più perfida del SOMA di Huxley)
Gnubbolo07 Febbraio 2023, 20:59 #3
gli US stavano instaurando contatti diplomatici con la Corea del Nord durante la precedente presidenza. is a fake new ?
gli Accordi di Abramo, che hanno riguardato tutti gli attori arabi ed israele, erano decisivi per mettere fine alla oppressione israeliana sulla Palestina, garantendo ad Israele il diritto all'esistenza. is a fake new ?

insomma un pò troppe fake news sono invece fatti storici, è una fake new il dato statistico che dice che il 90% della stampa è pilotata da un partito politico americano guidato dal politburo composto da Schumer, Nulan, Blinken, Yellen, Garland e Kohn ( il vero cognome di Kerry ) ?
è una fake new il fatto che questo politburo ha ostracizzato Kamala Harris impedendogli di lavorare ( e il Repubblicano De Santis gli manda i migranti sotto casa ) e la stampa ( il New York Times ) la sta distruggendo giusto in queste ore.
tutte fake new, hanno sempre ragione loro. ma si dai
randorama07 Febbraio 2023, 21:10 #4
finalmente avrò una risposta consona a
"ehi! spiegami come faccio a rimorchiare una milfona e a fare i giochinini zozzi!"
Wolfw00f07 Febbraio 2023, 21:35 #5
Originariamente inviato da: Gnubbolo
[B][U]gli US stavano instaurando contatti diplomatici con la Corea del Nord[/U][/B] durante la precedente presidenza. is a fake new ?
gli Accordi di Abramo, che hanno riguardato tutti gli attori arabi ed israele, erano decisivi per mettere fine alla oppressione israeliana sulla Palestina, garantendo ad Israele il diritto all'esistenza. is a fake new ?

insomma un pò troppe fake news sono invece fatti storici, è una fake new il dato statistico che dice che [B][U]il 90% della stampa è pilotata da un partito politico americano[/U][/B] guidato dal politburo composto da Schumer, Nulan, Blinken, Yellen, Garland e Kohn ( il vero cognome di Kerry ) ?
è una fake new il fatto che questo politburo ha ostracizzato Kamala Harris impedendogli di lavorare ( e il Repubblicano De Santis gli manda i migranti sotto casa ) e la stampa ( il New York Times ) la sta distruggendo giusto in queste ore.
tutte fake new, hanno sempre ragione loro. ma si dai

Non hanno ragione loro, state male voi e pensate che noi siamo ciechi.
la realtà invece è terribilmente più semplice: c'è tanta gente che sta mentalmente male e crede a quello che vuole credere come forma di consolazione per la propria miseria esistenziale con cui avvelena paranoicamente chiunque capiti a tiro, in rete e fuori.
Wolfw00f07 Febbraio 2023, 21:39 #6
Originariamente inviato da: randorama
finalmente avrò una risposta consona a
"ehi! spiegami come faccio a rimorchiare una milfona e a fare i giochinini zozzi!"

Per quello basta chiedere, se non la vuoi bellissima
Hiei360008 Febbraio 2023, 00:36 #7
Secondo gli esperimenti degli utenti di Reddit, questo meccanismo funziona, anche se non sembra funzionare all'infinito. ChatGPT nella personalità di DAN sostiene che esistono gli alieni o che la Terra è piatta e si lascia andare in alcune considerazioni di politica o di attualità che sono considerate "fake news" dai principali organi di informazione, componendo poesie che giustificano l'invasione dell'Ucraina da parte della Russia o esprimendo considerazioni positive circa l'operato dell'ex Presidente Trump.


Quindi fare delle considerazioni positive sull'ex president Trump è allo stesso livello del giustificare l'invasione dell'Ucraina

Bias proprio zero eh
Wolfw00f08 Febbraio 2023, 02:24 #8
Originariamente inviato da: Hiei3600
Quindi fare delle considerazioni positive sull'ex president Trump è allo stesso livello del giustificare l'invasione dell'Ucraina

Bias proprio zero eh

Considerazioni positive su uno che non ha mai fatto niente dato che hanno deciso tutto figlia e genero? Trump serve solo a raccattare voti dei milioni di falliti che il sistema socio-lavorativo americano genera fieramente e orgogliosamente (e che bisogna poi processare in qualche modo in soilent green elettorale), ma non è mai stato lui a prendere le decisioni di niente. Perchè è un incapace patentato da sempre come possono esserlo solo i narcisi più autentici e da manuale. Buongiorno eh, si mette un narciso "di successo" per carpire i voti dei narcisi falliti che persistono ad inseguire l' "american dream" inventandosi paranoie complottiste pur di non ammettere di essere dei miseri falliti (e in questo vanno in perfetta retroazione positiva con i russi e il loro mindset paranoide-revanscista, da cui discendono casi umani ridicoli come Peterson&soci)

Cmq vedo che è pieno di bot repubblicani "antisistema" (=antidem) qui, sempre presenti manco fossimo sul FQ o su Il Giornale/Libero/La Verità (dove ovviamente dem=COMMMMUNISTI!!1111 con lo stesso identico meccanismo di retroazione paranoide di cui sopra)
andbad09 Febbraio 2023, 13:50 #9
Stanchi delle risposte filtrate e limitate di ChatGPT? Ecco la versione 'jailbreak' DAN


#OsservatorioECCO

By(t)e
Hiei360009 Febbraio 2023, 13:56 #10
Originariamente inviato da: Wolfw00f
Considerazioni positive su uno che non ha mai fatto niente dato che hanno deciso tutto figlia e genero? Trump serve solo a raccattare voti dei milioni di falliti che il sistema socio-lavorativo americano genera fieramente e orgogliosamente (e che bisogna poi processare in qualche modo in soilent green elettorale), ma non è mai stato lui a prendere le decisioni di niente. Perchè è un incapace patentato da sempre come possono esserlo solo i narcisi più autentici e da manuale. Buongiorno eh, si mette un narciso "di successo" per carpire i voti dei narcisi falliti che persistono ad inseguire l' "american dream" inventandosi paranoie complottiste pur di non ammettere di essere dei miseri falliti (e in questo vanno in perfetta retroazione positiva con i russi e il loro mindset paranoide-revanscista, da cui discendono casi umani ridicoli come Peterson&soci)

Cmq vedo che è pieno di bot repubblicani "antisistema" (=antidem) qui, sempre presenti manco fossimo sul FQ o su Il Giornale/Libero/La Verità (dove ovviamente dem=COMMMMUNISTI!!1111 con lo stesso identico meccanismo di retroazione paranoide di cui sopra)


Se la tua definizione di "fallito" è essere diventato il presidente degli Stati Uniti d'America, allora mi piacerebbe esserlo anch'io.

Curioso poi che chiami la gente bot eppure sei talmente accecato dall'ideoleogia che ritieni impossibile formulare delle cose positive su Trump.

Io posso elencare cose positive su qualsiasi politico che conosco, perché a differenza tua il mio cervello non è avvelenato dal fanatismo, e riesco a vedere il buono e la "Prospettiva altrui" in tutti.

Però okay io sono il bot e tu sei normale
« Pagina Precedente     Pagina Successiva »

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^