ChatGPT, niente etichette per il testo generato dall'IA: gli utenti non vogliono essere scoperti

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/ch...ti_129564.html

OpenAI ha sviluppato un sistema di watermarking per il testo generato da ChatGPT, ma rimane indecisa sul suo rilascio. L'azienda valuta i benefici etici contro potenziali impatti negativi sull'utilizzo del servizio, mentre esplora alternative meno invasive.

Click sul link per visualizzare la notizia.

[LMCH]

un'indagine interna ha evidenziato che quasi il 30% degli utenti intervistati ridurrebbe l'uso del software se fosse implementato il watermarking

E' proprio a causa di quel che fa quel 30% che si vuole introdurre il watermarking.
Ma se tanto mi da tanto in OpenAI hanno preso paura quando si sono resi conto da chi dipende il 30% del loro business (almeno quelli che ancora vorrebbero una "safe AI", altri non so).

[Hiei3600]

Se si tratta di un watermarking testuale, basta semplicemente leggere il testo e toglierlo.... a meno che questo non sia considerato troppo lavoro per l'utonto medio

[Opteranium]

non lo faranno mai, azzererebbero il loro mercato, in quanto gli utenti sarebbero messi alla berlina sull'uso del software..

[daviderules]

Originariamente inviato da LMCH

E' proprio a causa di quel che fa quel 30% che si vuole introdurre il watermarking.
Ma se tanto mi da tanto in OpenAI hanno preso paura quando si sono resi conto da chi dipende il 30% del loro business (almeno quelli che ancora vorrebbero una "safe AI", altri non so).

Da quello che ho capito è un watermarking trasparente per l'utente e rilevabile solo tramite tool appositi, ad esempio il modello potrebbe forzare ogni decima parola ad iniziare per la lettera "a" e adattare il resto del testo in base a questa regola.

Ovviamente questa è una semplificazione per spiegare il concetto