OpenAI Sora, il nuovo modello IA realizza video credibili partendo da un prompt testuale

[EMAXTREME]

Originariamente inviato da zappy

ma questo è davvero il meno.
ti ricordo che la guerra in iraq era stata giustificata perchè era stata sventolata una provetta di NIENTE dicendo che si trattava di antrace, armi di distruzione di massa. E vai di bombardamenti, miliardi spesi, decenni di conseguenze, milioni di mordi.

Pensa qua che puoi fare il video, l'audio, le foto, mandare persino tua nonna nella fabbrica di armi e farti la videochiamata che conferma qualunque cosa... Si possono costruire scandali a tavolino, rendere un dio o una merda chiunque...
è terrificante.

Ed è esattamente il motivo per il quale la rete in sè smetterà di avere credibilità ed autorità in merito a qualsiasi cosa relativa agli aspetti sociali, già oggi moltissime persone in rete dimostrano di avere mangiato la cosiddetta foglia, non sono tantissime ma quel tanto che basta per sbugiardare le buddhanate dei vari tg, giornali e quant'altro, ci evolviamo a livello sociale ma come già detto da alcuni, in maniera sconfortante, angosciante e desolante, uscendo dall'epoca dei social dopo esserci a malapena adattati molti si ritroveranno a dover affrontare una realtà fatta di comportamenti e conseguenze estranee a loro, dovranno reimparare tutto da zero e molti difficilmente riusciranno a reintegrarsi preferendo il rimaner intrappolati in quel buco senza fondo.

Parliamo però un'attimo di propaganda, prima di oggi sul web non era così semplice farla in maniera credibile, bisognava avere una forte visibilità di base ovvero postare su canali con alto numero di visualizzazioni anche random (pesca a strascico) alterando e decontestualizzando di poco il contenuto come i tg han sempre fatto (sensazionalismo directors cut), oppure bisognava limitare al minimo l'interazione con il soggetto con frasi brevi e di facile composizione che anche uno script avrebbe potuto formulare ma finendo comunque dopo un tot per essere sgamati.
(Pensa che durante un'ondata di ban su instagram una tizia si rese conto di essere seguita da migliaia di bot con cui per anni ha interagito senza sospettare nulla, frasi brevi, likes, repost e poco altro MA quel poco che bastava per averla indotta a produrre i contenuti che il gestore di questi profili voleva venissero prodotti, indovina poi di che natura erano quei contenuti ? se invece fosse stato l'esercito a voler arruolare qualcuno ? se fosse stato il brand-X a voler pompare le vendite del prodotto-Y ? etc etc etc ci siamo capiti insomma).

Prova però ora ad immaginare un chatbot-AI ben addestrato che si insinua nella tua isolata rete di contatti, ride, scherza, posta contenuti, risultando credibille e magari ci fai pure amicizia !
Il piccione di turno spesso non ha hobby particolari se non le uscite con gli amici e qualche chat ogni tanto percui non sarebbe nemmeno necessario andare oltre a delle semplici conversazioni o interazioni di base stile facebook.

Questo però ad oggi è alla portata di tutti (o poco ci manca), non solo del partito di turno o della corpomerda qualunque con studi annessi, ora non hai più bisogno di un'esercito di seguaci, adesso con un click puoi creare migliaia di profili fake pilotati da te ed ecco che puoi farci qualunque cosa a livello sociale, dalla gogna al bullismo, dalla propaganda alle truffe e compagnia cantante.

L'abuso indiscriminato che ne verrà fatto (danni a parte) accelererà il suddetto collasso ad una velocità esponenziale al punto che gli stessi utilizzatori si spaccheranno letteralmente in due, da un lato i credenti e dall'altro gli eretici, ne vedremo delle belle ma il minimo comun denominatore sarà sempre uno : "parlare ma non toccare" e qui stendiamo un velo pietoso.

[TorettoMilano]

capisco voler evolvere ma si ha parecchia fretta
https://www.instagram.com/p/C3kt6not...w1Y20xMGVtcDd4

[mrk-cj94]

Originariamente inviato da Opteranium

direi che possiamo calare il sipario, nulla di ciò che gira in rete o al telefono (visti i casi di truffa con voce fittizia AI-mediata) sarà più attendibile.
Torneremo a fare le cose di persona, mi pare anche giusto, vista la deriva di isolamento allucinante di gente immersa nei social ma estranea al mondo che la circonda

sì certo, contaci
d'altronde quando hanno rilasciato photoshop, tutti hanno ricominicato a fare le robe di persona per paura delle foto alterate

Originariamente inviato da TorettoMilano

ho visto pure la nuova feature di tiktok (non credo sia già disponibile), da una immagine statica ci puoi creare un video

incredibile ma anche inquietante

Originariamente inviato da pengfei

Aspettando l'equivalente rilasciato da Stability AI ma open sul serio per essere inondati da video zozzi generati Lì sì che c'è da aver paura per quello che gli utenti si inventeranno

Originariamente inviato da Cappej

boia, tantissima roba

tutti gli effetti speciali che un tempo non potevi avere adesso sono a portata di click.
Prevedo una rivoluzione nel mondo nel cinema con Luci e Ombre, esattamente come sui social, con una potenziale distorsione della realtà, potenzialmente mooolto pericolosa....

Se prima il problema erano i filtri, oggi... è difficile persino capire se un oggetto, persona, luogo, esistano davvero o sono solo pura fantasia, per altro, artificiale

boia...

IMHO

domanda per tutti e 3:
ma dov è il problema?
1) i video inquietanti o peggio non è che siamo costretti a guardarli... qualcuno li guarderà e peggio per lui, a me/noi che mi/ci frega?
2) perchè è così rilevante sapere se quello che vedo è umano o IA?
voglio dire, ad esempio, ora tutti criticano i fessi che pagano le modelle IA sui social o OF... perchè invece pagare le modelle "reali" è da furbi? per me son fessi sia i primi sia i secondi

[zappy]

Originariamente inviato da mrk-cj94

domanda per tutti e 3:
ma dov è il problema?
1) i video inquietanti o peggio non è che siamo costretti a guardarli... qualcuno li guarderà e peggio per lui, a me/noi che mi/ci frega?
2) perchè è così rilevante sapere se quello che vedo è umano o IA?
voglio dire, ad esempio, ora tutti criticano i fessi che pagano le modelle IA sui social o OF... perchè invece pagare le modelle "reali" è da furbi? per me son fessi sia i primi sia i secondi

davvero non ci arrivi da solo?

vabbè, allora facciamo un esempio che capisci.
prendiamo una tua foto da qualche parte, e con l'IA facciamo costruire un video in cui mrk-cj94 violenta un bimbo di 4 anni. Poi la mandiamo a tua madre, fidanzata, moglie, amici (ovviamente nessuno vuol più avere a che fare con te), nonchè al tuo datore di lavoro (a cui così fai schifo e ti licenzia), e ovviamente in procura (pagati un avvocato e fra 10 anni forse esci di gabbia, non prima di una bella ripassata di botte una volta al giorno).
Vediamo se "ti frega".
Esempio estremo, ma mica poi tanto.

Davvero hai bisogno che ti spieghiamo il "problema"?
limitato forte, eh!

[randorama]

Originariamente inviato da pengfei

Aspettando l'equivalente rilasciato da Stability AI ma open sul serio per essere inondati da video zozzi generati Lì sì che c'è da aver paura per quello che gli utenti si inventeranno

ma figurati... sarà tanto "correct" che manco faranno vedere la scissione di un protozoo

[ionet]

Originariamente inviato da zappy

davvero non ci arrivi da solo?

vabbè, allora facciamo un esempio che capisci.
prendiamo una tua foto da qualche parte, e con l'IA facciamo costruire un video in cui mrk-cj94 violenta un bimbo di 4 anni. Poi la mandiamo a tua madre, fidanzata, moglie, amici (ovviamente nessuno vuol più avere a che fare con te), nonchè al tuo datore di lavoro (a cui così fai schifo e ti licenzia), e ovviamente in procura (pagati un avvocato e fra 10 anni forse esci di gabbia, non prima di una bella ripassata di botte una volta al giorno).
Vediamo se "ti frega".
Esempio estremo, ma mica poi tanto.

Davvero hai bisogno che ti spieghiamo il "problema"?
limitato forte, eh!

ormai e' una paranoia, perche appunto con le AI generative in futuro molto prossimo subiremo una desensibilizzazione a tutto cio' che prima ci stupiva
daremo per scontato che quasi sicuramente sono scemenze generate con le AI

paradossalmente dobbiamo invece preoccuparci del contrario, in futuro le prove audiovisive potrebbero perdere di valore, perche appunto facilmente manipolabili..

e pure quest'ultima possibilita' e' triste e pericolosa, si ritorna nell'incertezza piu' assoluta

[roccia1234]

Originariamente inviato da zappy

davvero non ci arrivi da solo?

vabbè, allora facciamo un esempio che capisci.
prendiamo una tua foto da qualche parte, e con l'IA facciamo costruire un video in cui mrk-cj94 violenta un bimbo di 4 anni. Poi la mandiamo a tua madre, fidanzata, moglie, amici (ovviamente nessuno vuol più avere a che fare con te), nonchè al tuo datore di lavoro (a cui così fai schifo e ti licenzia), e ovviamente in procura (pagati un avvocato e fra 10 anni forse esci di gabbia, non prima di una bella ripassata di botte una volta al giorno).
Vediamo se "ti frega".
Esempio estremo, ma mica poi tanto.

Davvero hai bisogno che ti spieghiamo il "problema"?
limitato forte, eh!

O, più in generale, le prove audio/foto/video a una qualunque cosa, dal video di una serata tra amici ubriachi alle prove di un processo.
Foto, audio e video già oggi possono essere manipolati in maniera assolutamente credibile anche da un mezzo brocco. Aggiungici magari la registrazione ambientale un po' disturbata, a bassa risoluzione, con soggetti riconoscibili solo con un'attenta analisi, ecc ecc... e già con l'attuale IA potresti prendere l'unico video del tal omicidio e sostituire quello che spara con mrk-cj94 con un paio di click e in maniera assolutamente credibile e indistinguibile dal video reale.
Auguri poi a dire che in realtà eri a casa tua a dormire...

[zappy]

Originariamente inviato da ionet

ormai e' una paranoia, perche appunto con le AI generative in futuro molto prossimo subiremo una desensibilizzazione a tutto cio' che prima ci stupiva

dubito che chiameresti come baby sitter per tua figlia mrk-cj94, se vedi un video in cui si fa una bimba... che sia vero o falso, chiami qualcun altro...

paradossalmente dobbiamo invece preoccuparci del contrario, in futuro le prove audiovisive potrebbero perdere di valore, perche appunto facilmente manipolabili..

e pure quest'ultima possibilita' e' triste e pericolosa, si ritorna nell'incertezza piu' assoluta

certamente...

Originariamente inviato da roccia1234

O, più in generale, le prove audio/foto/video a una qualunque cosa, dal video di una serata tra amici ubriachi alle prove di un processo.

esattamente....

e già con l'attuale IA potresti prendere l'unico video del tal omicidio e sostituire quello che spara con mrk-cj94 con un paio di click e in maniera assolutamente credibile e indistinguibile dal video reale.
Auguri poi a dire che in realtà eri a casa tua a dormire...

non s'è più fatto sentire...
l'avranno arrestato?

[ionet]

Originariamente inviato da zappy

dubito che chiameresti come baby sitter per tua figlia mrk-cj94, se vedi un video in cui si fa una bimba... che sia vero o falso, chiami qualcun altro...

perche continui a vedere la cosa con i pregiudizi passati, il seme del dubbio e' facile che prende ancora oggi
ma a breve un video del genere sara' solo considerato palloso e di cattivo gusto

come pensi di inculcare ancora il seme del dubbio se in rete sbucano in continuazione filmati del genere con:
tutta la lista dell'agenzia per baby sitter, compreso l'agente, anche mia sorella, mamma parenti tutti, i tuoi ex compagni di scuola compresi gli insegnanti e bidelli..
i tuoi colleghi, dirigenti ceo compreso..
sei indagato processato ma tutto si blocca per scandali continui, anche il giudice ha partecipato a una ammucchiata con la giuria avvocati accusa guardie giurate..

ogni singolo cittadino avra' potenzialmente il suo bel filmato compromettente personale..
risultato? a nessuno frega piu' niente e si delegittima il tutto

tutti innocenti e si chiudono definitivamente le carceri come hanno fatto con i manicomi e amen..tutti liberissimi di abusare di tutto, tanto..

e' piu' quest'ultima possibilita' che ci deve veramente preoccupare

[david-1]

nel video del Dalmata la fisica tra il cane e il balcone (l'anta ad oscuro) verde mi sembra assai dubbia
mi sbaglio?

[zappy]

Originariamente inviato da ionet

perche continui a vedere la cosa con i pregiudizi passati, il seme del dubbio e' facile che prende ancora oggi
ma a breve un video del genere sara' solo considerato palloso e di cattivo gusto

ovviamente c'è chi ha più possibilità di produrre fake e chi ne ha meno...
per cui "vince" chi ha maggior potenza di fuoco.
Dubito ci possa essere un equilibrio in una roba del genere.

[dirac_sea]

Originariamente inviato da Peppe1970

Sora ???
Ma questa tecnologia ha origini napoletane da ----> A Sora_te !!!

Hehe! Comunque, Sora in lingua giapponese significa "Cielo" e dato che in inglese è Sky... lascio a voi le conclusioni.