Il preoccupante caso del passaporto falso generato con ChatGPT-4o: l'IA è troppo precisa

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/il...sa_137555.html

La recente dimostrazione di un ricercatore polacco ha evidenziato come sia possibile creare documenti d'identità falsi ma estremamente convincenti utilizzando l'intelligenza artificiale generativa. Un fenomeno che mette in discussione l'affidabilità dei sistemi basati su immagini e la sicurezza di questi documenti nell'era dell'AI

Click sul link per visualizzare la notizia.

[alexfri]

Ma c'e qualche santa cosa che fa questa IA che non sia finalizzata a schiaffarcelo nel c*lo? C'e qualcosa di buono? Perche si elencano solo cose negative? Immagino che anche leggere cose positive sia utile per i canali d'informazione o no?

[Opteranium]

Originariamente inviato da alexfri

Ma c'e qualche santa cosa che fa questa IA che non sia finalizzata a schiaffarcelo nel c*lo? C'e qualcosa di buono? Perche si elencano solo cose negative? Immagino che anche leggere cose positive sia utile per i canali d'informazione o no?

non è l'IA a schiaffeggiarlo nel deretano, ma l'uomo attraverso il suo utilizzo in modo malefico, ricordiamolo sempre.
L'IA è uno strumento. Il guaio è che ha semplificato e reso accessibile a tutti una serie di possibilità per le quali prima servivano tempo, soldi e competenze.
Dunque anche i possibili abusi si sono moltiplicati in modo esponenziale, in quanto è natura dell'uomo (e non dell'IA, almeno finché non diverrà senziente) fare torto agli altri

[Marcus Scaurus]

L'aspetto positivo è che anche i criminali, i falsari in particolare, perderanno il lavoro!

[aqua84]

io mi domando come sia possibile falsificare un passaporto nel 2025.
o meglio, non tanto il falsificare in se, ma quanto questo possa superare una qualunque verifica.

A cosa serve che ogni documento ha un NUMERO DI SERIE ??

Quel numero di serie appartiene ad una precisa persona.

Se quel passaporto ha dei dati che differiscono da quello originale NON DEVE passare i controlli.
Non parlo nemmeno di passaporti inventati da zero perchè quelli dovrebbero NON ESISTERE a database a prescindere

[Marcus Scaurus]

Originariamente inviato da aqua84

io mi domando come sia possibile falsificare un passaporto nel 2025.
o meglio, non tanto il falsificare in se, ma quanto questo possa superare una qualunque verifica.

A cosa serve che ogni documento ha un NUMERO DI SERIE ??

Quel numero di serie appartiene ad una precisa persona.

Se quel passaporto ha dei dati che differiscono da quello originale NON DEVE passare i controlli.
Non parlo nemmeno di passaporti inventati da zero perchè quelli dovrebbero NON ESISTERE a database a prescindere

Perché tu pensi che ogni istituto finanziario, ente o altro, sia collegato al database di ogni paese e che quel database risponde in tempo reale sullo stato di un documento? Ma davvero? Una banca, io ci ho lavorato per quasi 13 anni, non ha pubblici ufficiali al suo servizio e non ha modo (né potere, se vogliamo) di verificare al livello che tu intendi un documento. E' chiaro che se mi porti quello del monopoli lo vedo, ma per il resto, in caso di dubbi, vanno allertate le autorità competenti.

[Opteranium]

Originariamente inviato da Marcus Scaurus

L'aspetto positivo è che anche i criminali, i falsari in particolare, perderanno il lavoro!

in effetti

[demon77]

Originariamente inviato da Marcus Scaurus

Perché tu pensi che ogni istituto finanziario, ente o altro, sia collegato al database di ogni paese e che quel database risponde in tempo reale sullo stato di un documento? Ma davvero? Una banca, io ci ho lavorato per quasi 13 anni, non ha pubblici ufficiali al suo servizio e non ha modo (né potere, se vogliamo) di verificare al livello che tu intendi un documento. E' chiaro che se mi porti quello del monopoli lo vedo, ma per il resto, in caso di dubbi, vanno allertate le autorità competenti.

Però questo che descrivi è un grosso problema a livello di sistema.
Falsificare l'immagine di un passaporto coi mezzi di oggi è un gioco da bambini, la forza del database digitale è proprio quello di poter garantire e vrificare facilmente l'autenticità di un documento.
Se non è possibile farlo agevolmente siamo punto e a capo.

[aqua84]

Originariamente inviato da Marcus Scaurus

Perché tu pensi che ogni istituto finanziario, ente o altro, sia collegato al database di ogni paese e che quel database risponde in tempo reale sullo stato di un documento? Ma davvero? Una banca, io ci ho lavorato per quasi 13 anni, non ha pubblici ufficiali al suo servizio e non ha modo (né potere, se vogliamo) di verificare al livello che tu intendi un documento. E' chiaro che se mi porti quello del monopoli lo vedo, ma per il resto, in caso di dubbi, vanno allertate le autorità competenti.

Bè, forse nel 1970-80 poteva essere così, ma IO mi aspetto che nel 2025 ogni istituto finanziario abbia questo genere di informazioni.

Sanno sempre TUTTO di TUTTI, perchè si passano le informazioni tra loro, e poi su queste cose invece non fanno nulla?? E la tecnologia per farlo esiste, da anni anche.
Che poi "tecnologia"..., si tratterebbe di un database con registrate le informazioni dei documenti validi e eventualmente anche quelli falsi rilevati, a cui tutti gli istituti di credito possono avere accesso per controlli in tempo reale.

A pensare male verrebbe in mente che hanno interesse a NON farlo

[Marcus Scaurus]

Originariamente inviato da demon77

Però questo che descrivi è un grosso problema a livello di sistema.
Falsificare l'immagine di un passaporto coi mezzi di oggi è un gioco da bambini, la forza del database digitale è proprio quello di poter garantire e vrificare facilmente l'autenticità di un documento.
Se non è possibile farlo agevolmente siamo punto e a capo.

Ma il database, se anche c'è, ha accesso riservato alle forze dell'ordine e alla magistratura. Cioè non è che chiunque può fare da poliziotto e controllare un documento, ci sono una marea di leggi a tutelare l'individuo, la privacy, ecc..

Originariamente inviato da aqua84

Bè, forse nel 1970-80 poteva essere così, ma IO mi aspetto che nel 2025 ogni istituto finanziario abbia questo genere di informazioni.

Sanno sempre TUTTO di TUTTI, perchè si passano le informazioni tra loro, e poi su queste cose invece non fanno nulla?? E la tecnologia per farlo esiste, da anni anche.

A pensare male verrebbe in mente che hanno interesse a NON farlo

Posso assicurarti che non c'è alcun interesse dietro e posso assicurarti che non si sa tutto di tutti. Queste sono baggianate di livello colossale. Una banca è un ente privato e sa quel che può sapere o quel che il cliente dichiara, niente di più. Solo io personalmente ho subito 2 truffe e ne ho smascherate almeno altrettante. Per quello esistono/evano concetti come "cliente favorevolmente conosciuto" (al quale si apre facilmente un conto); concetti che, chiaramente, online non sono facilmente applicabili.
Ti domando: davvero vuoi che un qualsiasi ente finanziario abbia accesso al database nazionale dei documenti di identità? Ti ricordo che poco tempo fa, per qualche estratto conto saltato fuori è scoppiato un putiferio (e quella era chiaramente una violazione sia di una legge che dell'etica personale e professionale).

[aqua84]

Originariamente inviato da Marcus Scaurus

Ti domando: davvero vuoi che un qualsiasi ente finanziario abbia accesso al database nazionale dei documenti di identità? Ti ricordo che poco tempo fa, per qualche estratto conto saltato fuori è scoppiato un putiferio (e quella era chiaramente una violazione sia di una legge che dell'etica personale e professionale).

Mi sembra abbastanza ovvia la risposta, da parte mia SI.

Io PRETENDO che qualunque ente finanziario e/o assicurativo abbia accesso ad un database con i documenti di identità.
Ritengo sia una cosa necessaria e fattibile ai giorni nostri.

Io voglio che se qualcuno, sia da sportello che online, presenti un documento di identità con un MIO numero di serie ma con dati modificati venga immediatamente BLOCCATO.
E non che lo devo venire a scoprire dopo qualche mese dopo che ha avuto tutto il tempo di fare quello che gli pare.

Tu la ritieni una cosa davvero assurda?

[Opteranium]

Originariamente inviato da aqua84

Mi sembra abbastanza ovvia la risposta, da parte mia SI.

Io PRETENDO che qualunque ente finanziario e/o assicurativo abbia accesso ad un database con i documenti di identità.
Ritengo sia una cosa necessaria e fattibile ai giorni nostri.

Io voglio che se qualcuno, sia da sportello che online, presenti un documento di identità con un MIO numero di serie ma con dati modificati venga immediatamente BLOCCATO.
E non che lo devo venire a scoprire dopo qualche mese dopo che ha avuto tutto il tempo di fare quello che gli pare.

Tu la ritieni una cosa davvero assurda?

la soluzione non è questa ma il documento elettronico tipo CIE e compagnia, come specificato anche in articolo

[Marcus Scaurus]

Originariamente inviato da aqua84

Mi sembra abbastanza ovvia la risposta, da parte mia SI.

Io PRETENDO che qualunque ente finanziario e/o assicurativo abbia accesso ad un database con i documenti di identità.
Ritengo sia una cosa necessaria e fattibile ai giorni nostri.

Io voglio che se qualcuno, sia da sportello che online, presenti un documento di identità con un MIO numero di serie ma con dati modificati venga immediatamente BLOCCATO.
E non che lo devo venire a scoprire dopo qualche mese dopo che ha avuto tutto il tempo di fare quello che gli pare.

Tu la ritieni una cosa davvero assurda?

Assurda no, ma quantomeno controversa. E' in qualche modo un baratto della libertà per la sicurezza. Ci sono dietro, per esempio, i concetti di tutela e protezione di dati personali, dati sensibili, ecc. che in questo modo finiscono nelle mani di enti privati.

Si potrebbe tecnicamente fare? Secondo me, si. Il sistema di gestione e controllo sarebbe però molto complesso da implementare.

Qualcosa si potrebbe fare con la carta d'identità elettronica, che magari potrebbe essere abilitata a fornire un codice monouso per le questioni di verifica, ma onestamente la vedo dura...

[demon77]

Originariamente inviato da Marcus Scaurus

Ma il database, se anche c'è, ha accesso riservato alle forze dell'ordine e alla magistratura. Cioè non è che chiunque può fare da poliziotto e controllare un documento, ci sono una marea di leggi a tutelare l'individuo, la privacy, ecc..

Va benissimo, ma è chiaro che se le cose sono messe così bisogna fare delle modifiche al sistema.

Per dire, se io mi loggo all'agenzia entrate, con i tuoi dati posso fare una visura dell'elenco delle tue proprietà immobiliari.
Non vedo perchè non si possa avere anche un tool di verifica di validità di un documento

[Miccia]

In effetti per le carte di identità esistono degli archivi pubblici per verificare se sono stati smarriti/rubati (e alcune banche ne fanno uso), controllarne l'autenticità possono farlo solo i pubblici ufficiali.
Per la CIE però alcune app possono leggerne il chip che dovrebbe essere più difficile da falsificare, la mia banca in fase del censimento di un cliente lo fa.

https://crimnet.dcpc.interno.gov.it/...ubati-smarriti

L'AI però mi pare falsifichi solo l'immagine del passaporto, e che farne una copia fisica sia di tutt'altra difficoltà.

[aqua84]

Originariamente inviato da Marcus Scaurus

Assurda no, ma quantomeno controversa. E' in qualche modo un baratto della libertà per la sicurezza. Ci sono dietro, per esempio, i concetti di tutela e protezione di dati personali, dati sensibili, ecc. che in questo modo finiscono nelle mani di enti privati.

Si potrebbe tecnicamente fare? Secondo me, si. Il sistema di gestione e controllo sarebbe però molto complesso da implementare.

Qualcosa si potrebbe fare con la carta d'identità elettronica, che magari potrebbe essere abilitata a fornire un codice monouso per le questioni di verifica, ma onestamente la vedo dura...

Perdonami ma nn riesco ad essere d accordo.
Si parla di istituti bancari e simili, e penso che venga prima la Sicurezza piuttosto che la Privacy.
Non si chiede che una ferramenta può avere accesso ai dati privati di documenti di identità.

Ovviamente va “regolamentato” e rendicontato, del tipo che la banca di suo non può leggersi qualunque documento ma SOLO in casi specifici, tipo apertura conto o altro in cui è l utente a farne richiesta.

Questo renderebbe la situazione più sicura

La Privacy…. Bah… se ne parla sempre e solo quando non serve

[luca_pw]

Io comunque non credo che all'attuale data, con le ia 'per tutti' si possa generare documenti accurati, qualsiasi funzione malevola (ma neanche tanto) è inibita

[megthebest]

Originariamente inviato da Marcus Scaurus

L'aspetto positivo è che anche i criminali, i falsari in particolare, perderanno il lavoro!

direi di no, ci saranno molti più "piccoli" falsari in circolazione, le truffe già dilagano, la delinquenza e la droga sono in aumento vertiginoso come i piccoli spacciatori che con estrema disinvoltura vendono morte, non per arricchirsi, ma per morire a loro volta per quello che vendoino e consumano in un circolo vizioso