Esperti di tecnologia chiedono azioni urgenti contro i Deepfake: una lettera aperta rivolta ai Governi

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/es...ni_124642.html

Oltre 400 esperti globali di tecnologia, intelligenza artificiale, etica digitale e sicurezza dei minori hanno collaborato per redigere una lettera aperta che esorta i governi ad agire "immediatamente" per affrontare i problemi correlati ai Deepfake.

Click sul link per visualizzare la notizia.

[Hiei3600]

Tanti modelli di IA capaci di generare deepfake sono stati rilasciati ed open source quindi ormai non si può più rimettere il dentifricio dentro il tubetto - e comunque non c'è ne alcun bisogno dato che la truffa era e rimane un reato con o senza l'utilizzo di deepfake quindi che cambia?

[GoFoxes]

Il problema è chi crede a qualsiasi cosa legga su internet senza confermarla.... se non puoi provare il contrario, qualsiasi cosa vedi, leggi o senti su internet è falsa.

ergo, è la stupidità umana il problema, non la tecnologia... e siccome la stupidità si poggia su 200 mila anni di evoluzione, è brigosetto "aggiustarla"

[Doraneko]

[pengfei]

Penso che i buoi siano già scappati dalla stalla, una stretta ora non farebbe altro che intralciare lo sviluppo di modelli aperti e rendere il tutto meno accessibile agli utenti "normali" mentre i gruppi interessati ad usare i deepfakes per fare danni (propaganda politica, azioni criminose o altro) non ne avrebbero alcun danno

[Hiei3600]

Originariamente inviato da pengfei

Penso che i buoi siano già scappati dalla stalla, una stretta ora non farebbe altro che intralciare lo sviluppo di modelli aperti e rendere il tutto meno accessibile agli utenti "normali" mentre i gruppi interessati ad usare i deepfakes per fare danni (propaganda politica, azioni criminose o altro) non ne avrebbero alcun danno

Si e no

Credo che una stretta su certi modelli di IA danneggerà le grandi aziende (Google/Microsoft/Apple ecc.) perché non potranno implementare delle funzioni nella loro IA mentre il produttore anonimo potrà rilasciare la sua IA senza restrizioni che gli utenti si potranno "Passare" a vicenda un pò come nella pirateria ci si scambia gli MP3 illegali delle musiche

[pengfei]

Originariamente inviato da Hiei3600

Si e no

Credo che una stretta su certi modelli di IA danneggerà le grandi aziende (Google/Microsoft/Apple ecc.) perché non potranno implementare delle funzioni nella loro IA mentre il produttore anonimo potrà rilasciare la sua IA senza restrizioni che gli utenti si potranno "Passare" a vicenda un pò come nella pirateria ci si scambia gli MP3 illegali delle musiche

Però già ora i modelli delle grandi aziende sono pesantemente censurati, con Bing Chat neanche sono riuscito a generare Hamilton che guida una Ferrari da Formula 1, quindi per loro mi sa che non cambierebbe nulla, mentre molti dei siti da cui è possibile scaricare i modelli liberamente dovrebbero sostanzialmente chiudere perché non vorrebbero assumersi i rischi.
Si troverebbero sicuramente da altre fonti però il tutto risulterebbe più difficile, significherebbe di fatto rendere illegali le IA generative aperte perché in ogni caso sarebbe possibile renderle in grado di generare contenuti illegali dopo un po' di fine tuning.
Detto questo penso che non se ne farà nulla

[Hiei3600]

Originariamente inviato da pengfei

Però già ora i modelli delle grandi aziende sono pesantemente censurati, con Bing Chat neanche sono riuscito a generare Hamilton che guida una Ferrari da Formula 1, quindi per loro mi sa che non cambierebbe nulla, mentre molti dei siti da cui è possibile scaricare i modelli liberamente dovrebbero sostanzialmente chiudere perché non vorrebbero assumersi i rischi.
Si troverebbero sicuramente da altre fonti però il tutto risulterebbe più difficile, significherebbe di fatto rendere illegali le IA generative aperte perché in ogni caso sarebbe possibile renderle in grado di generare contenuti illegali dopo un po' di fine tuning.
Detto questo penso che non se ne farà nulla

Infatti se non sono riusciti a chiudere thepiratebay dopo 10 anni o fermare il traffico di torrent illegali in generale di certo non riusciranno a fermare la circolazione di IA incensurate - ed è per questo motivo per il quale penso che alla fine quelle più colpite saranno le grande aziende che saranno costrette a fornire solo IA decelebrate; Insomma, si stanno dando solo una zappa sui piedi.

[pengfei]

Originariamente inviato da Hiei3600

Infatti se non sono riusciti a chiudere thepiratebay dopo 10 anni o fermare il traffico di torrent illegali in generale di certo non riusciranno a fermare la circolazione di IA incensurate - ed è per questo motivo per il quale penso che alla fine quelle più colpite saranno le grande aziende che saranno costrette a fornire solo IA decelebrate; Insomma, si stanno dando solo una zappa sui piedi.

Sul non riuscire a fermare sono d'accordo, per questo sono dell'idea che non se ne farà nulla, però penso che se lo facessero gli utenti ne resterebbero danneggiati, è vero che attualmente si trovano mp3 e materiali illegali ma se fosse legale condividerli si troverebbero ancora più facilmente.
Poi sarebbe più difficile anche rilasciare nuovi modelli aperti, ad esempio se Stability AI volesse rilasciare un nuovo Stable Diffusion XXXL..no facciamo XXL che la tripla X è ambigua come potrebbe farlo rispettando la legge?

[zappy]

Originariamente inviato da GoFoxes

Il problema è chi crede a qualsiasi cosa legga su internet senza confermarla.... se non puoi provare il contrario, qualsiasi cosa vedi, leggi o senti su internet è falsa.

ergo, è la stupidità umana il problema, non la tecnologia... e siccome la stupidità si poggia su 200 mila anni di evoluzione, è brigosetto "aggiustarla"

come se internet fosse l'unico problema...
è uno e forse anche il minore.

Originariamente inviato da Hiei3600

Infatti se non sono riusciti a chiudere thepiratebay dopo 10 anni o fermare il traffico di torrent illegali in generale di certo non riusciranno a fermare la circolazione di IA incensurate - ed è per questo motivo per il quale penso che alla fine quelle più colpite saranno le grande aziende che saranno costrette a fornire solo IA decelebrate; Insomma, si stanno dando solo una zappa sui piedi.

e in decenni non si è riusciti ad avere post in lingua italiana...

[Hiei3600]

Originariamente inviato da zappy

e in decenni non si è riusciti ad avere post in lingua italiana...

Una prova che io sono umano e non una macchina

[WarDuck]

Basterebbe smettere di leggere le notizie, che sono false per definizione.

[danylo]

Originariamente inviato da pengfei

... è vero che attualmente si trovano mp3 e materiali illegali ma se fosse legale condividerli si troverebbero ancora più facilmente

Se fosse legale condividerli, non ci sarebbero piu' pirateria (cosi' come se togli il divieto di sosta, sparisce l'infrazione)

[danylo]

Originariamente inviato da WarDuck

Basterebbe smettere di leggere le notizie, che sono false per definizione.

E come capisci che e' falsa, se non la leggi nemmeno?

.

[zappy]

Originariamente inviato da Hiei3600

Una prova che io sono umano e non una macchina

:beer:

Originariamente inviato da WarDuck

Basterebbe smettere di leggere le notizie, che sono false per definizione.

certo, tanto vale essere analfabeti funzionali...
del resto è ciò a cui puntano certi settori politici, e in 30 anni ci sono riusciti benissimo.

[WarDuck]

Originariamente inviato da zappy

:beer:


certo, tanto vale essere analfabeti funzionali...
del resto è ciò a cui puntano certi settori politici, e in 30 anni ci sono riusciti benissimo.

La maggior parte dei mass media oggi è corrotta dal potere.

Le notizie sono pilotate per definizione, lo abbiamo visto platealmente durante il covid e l'abbiamo visto all'inizio della guerra in Ucraina. Se non bastasse si potrebbero fare centinaia di altri esempi su come i giornalisti pilotano ed indirizzano il dibattito pubblico e politico.

I paladini dell'informazione "libera", non sono per nulla liberi come fanno credere di essere, del resto basta sempre vedere a chi fanno riferimento i principali quotidiani e gruppi di media in italia.

Il fatto stesso che sappiamo perfettamente il pensiero politico di tutti i giornalisti, che non sono più in grado di raccontare i fatti per quelli che sono ma fanno opinionismo politico, ne è la riprova.

Le notizie sono diventate puro mezzo di propaganda politica. C'è poco da discutere. Vanno evitate il più possibile, perché costituiscono il modo migliore per direzionare le masse secondo le volontà del potere, e ad oggi l'analfabetismo funzionale è proprio alimentato dal basso livello del dibattito pubblico.

Suggerisco inoltre di dare una letta all'articolo "Avoid News - Towards a Healthy News Diet" di Rolf Dobelli.

[zappy]

Originariamente inviato da WarDuck

La maggior parte dei mass media oggi è corrotta dal potere.

Le notizie sono pilotate per definizione, lo abbiamo visto platealmente durante il covid e l'abbiamo visto all'inizio della guerra in Ucraina. Se non bastasse si potrebbero fare centinaia di altri esempi su come i giornalisti pilotano ed indirizzano il dibattito pubblico e politico.

I paladini dell'informazione "libera", non sono per nulla liberi come fanno credere di essere, del resto basta sempre vedere a chi fanno riferimento i principali quotidiani e gruppi di media in italia.

Il fatto stesso che sappiamo perfettamente il pensiero politico di tutti i giornalisti, che non sono più in grado di raccontare i fatti per quelli che sono ma fanno opinionismo politico, ne è la riprova.

Le notizie sono diventate puro mezzo di propaganda politica. C'è poco da discutere. Vanno evitate il più possibile, perché costituiscono il modo migliore per direzionare le masse secondo le volontà del potere, e ad oggi l'analfabetismo funzionale è proprio alimentato dal basso livello del dibattito pubblico.

Suggerisco inoltre di dare una letta all'articolo "Avoid News - Towards a Healthy News Diet" di Rolf Dobelli.

Condiviso l'analisi, ma ribadisco che è assolutamente FALSO che TUTTE le notizie date da TUTTI i media siano false e orientate.
I media destrorsi sono pura spazzatura e quelli falso-sinistrorsi quasi irriconoscibilmente simili.
Ma questo non significa che non ci siano media buoni e che forniscono Informazione e non propaganda(2). Sia giornali che tv che web. Certo, si contano sulle dita di un cavallo

E comunque rinunciare a qualunque informazione è del tutto idiota.

[WarDuck]

Originariamente inviato da zappy

Condiviso l'analisi, ma ribadisco che è assolutamente FALSO che TUTTE le notizie date da TUTTI i media siano false e orientate.
I media destrorsi sono pura spazzatura e quelli falso-sinistrorsi quasi irriconoscibilmente simili.
Ma questo non significa che non ci siano media buoni e che forniscono Informazione e non propaganda(2). Sia giornali che tv che web. Certo, si contano sulle dita di un cavallo

E comunque rinunciare a qualunque informazione è del tutto idiota.

Dipende. Molte notizie oggi hanno un contenuto informativo reale pressoché nullo.

Nella società odierna siamo costantemente bombardati da questi contenuti e il 99% di essi sono totalmente irrilevanti per la vita quotidiana di qualunque individuo.

L'unico effetto che hanno è spesso quello di creare stati di preoccupazione, ansia, stress o per far intavolare dibattiti inutili attorno a questioni totalmente risibili (indignazione programmata?).

In sostanza: fanno perdere tempo. Mi riprometto ogni giorno di moderare il mio consumo di "notizie", non è facile.

[Unax]

Originariamente inviato da Doraneko

assolutamente vero, infatti questa frase è di Benjamin Franklin

[Unax]

Originariamente inviato da pengfei

Sul non riuscire a fermare sono d'accordo, per questo sono dell'idea che non se ne farà nulla, però penso che se lo facessero gli utenti ne resterebbero danneggiati, è vero che attualmente si trovano mp3 e materiali illegali ma se fosse legale condividerli si troverebbero ancora più facilmente.

ma se fosse legale non sarebbero illegali