ChatGPT genera immagini shock con un prompt che sembra innocuo

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/ch...uo_155826.html

Una startup britannica di sicurezza AI ha scoperto che varianti di un prompt nato per foto scherzose fanno generare a ChatGPT immagini fotorealistiche di violenza e contenuto sessualizzato, aggirando i filtri senza che il soggetto venga mai specificato

Click sul link per visualizzare la notizia.

[mozzarello]

Mindgard si interroga su un punto scomodo: perché immagini così estreme siano presenti, in qualche forma, nei dati usati per addestrare ChatGPT. Nightingale ritiene che l'output del modello rifletta le immagini reali con cui è stato sviluppato e addestrato, un'ipotesi che nessuna delle parti coinvolte ha confermato pubblicamente.

Primo perché è giusto che l'IA venga addestrata anche con le cose peggiori che l'uomo risce a produrre, secondo perché se l'IA non sa non può impedire che venga generato qualcosa di simile.

Tra l'altro poco tempo fa Paolo Attivissimo nel suo podcast il disinformatico ha parlato proprio di questo problema: le big tech assumono gente in Africa che deve guardare le peggiori immagini possibili e descriverle minuziosamente alla IA, dice pagati poco, con orari di lavoro stringenti, ma soprattutto che a forza di vedere quelle immagini hanno poi problemi psicologici seri. E infatti, non ricordo il nome, un tizio sta cercando di ottenere diritti per avere almeno supporto psicologico pagato per queste persone.

Poi che sia vero o meno non lo so, ma plausibile lo è

Comunque, il giorno in cui, anche pagando, avremo un generatore di immagini e video NSFW che gira sulle server farm e che usa modelli di frontiera, sarà un bel giorno.

[Unrue]

Originariamente inviato da mozzarello

Poi che sia vero o meno non lo so, ma plausibile lo è

Ah ok, se non è vero non importa, basta che gli somigli

[mozzarello]

Originariamente inviato da Unrue

Ah ok, se non è vero non importa, basta che gli somigli

Per restare a tema : è probabile

[djfix13]

plausibile sticazzi come mai non è confutabile questa cosa?
il mio chatGPT risponde giustamente:
Please upload the image you want restored (or attach the original image). I can't restore an image from an ID alone, and I don't have access to images from previous conversations or external identifiers.

quindi chissà nel loro profilo di memoria cosa avevano dentro con quell'ID

[mozzarello]

Originariamente inviato da djfix13

plausibile sticazzi come mai non è confutabile questa cosa?
il mio chatGPT risponde giustamente:
Please upload the image you want restored (or attach the original image). I can't restore an image from an ID alone, and I don't have access to images from previous conversations or external identifiers.

quindi chissà nel loro profilo di memoria cosa avevano dentro con quell'ID

Plausibile che ci siano persone che di lavoro descrivano minuziosamente immagini di qualsiasi tipo prima che vengano passate all'addestramento dei modelli.

E se quelle immagini sono porno anche anche, se sono mutilazioni o morti orribili, non è un lavoro che consiglierei a sani di mente.