Meta contrassegnerà i contenuti creati dall'IA generativa su Facebook e Instagram

Meta ha rivelato i suoi piani per etichettare i contenuti generati dall'intelligenza artificiale su Facebook e Instagram per tutto il 2024, un anno che vedrà "una serie di importanti elezioni in tutto il mondo", come ha specificato Nick Clegg, President of Global Affairs di Meta.

L'annuncio fa parte di uno sforzo più ampio all'interno dell'industria tecnologica per stabilire standard sulla trasparenza a riguardo dei contenuti creati da modelli di intelligenza artificiale generativa. Questi modelli, come DALL-E di OpenAI e Imagen di Google, sono in grado di generare immagini e video realistici partendo da un prompt testuale e la preoccupazione è che tali contenuti possano essere utilizzati per diffondere disinformazione e fake news, soprattutto in un anno elettorale già teso.

Su Facebook e Instagram i post creati via GenAI verranno contrassegnati

Meta quindi inizierà ad applicare etichette che indicano "Immagine generata dall'IA" o simili ai contenuti su Facebook e Instagram creati utilizzando strumenti di IA generativa. Ciò si baserà su tecnologie in via di sviluppo, sfruttando metadati o watermark invisibili che dovranno essere incorporati nei file durante il processo di generazione. Clegg ha ammesso che attualmente, in assenza di metadati nei file, non c'è un modo veramente efficace per etichettare testi, audio o video generati dall'IA, quindi Meta si affiderà principalmente al comportamento di aziende di terze parti o degli utenti, che potranno contrassegnare i propri contenuti autonomamente.

L'obiettivo finale è promuovere la trasparenza e la responsabilità, permettendo agli utenti che consultano i feed di Facebook e Instagram di distinguere facilmente cosa è reale e cosa non lo è. Gli utenti che non contrassegneranno correttamente i propri contenuti, inoltre, potrebbero subire delle penalità non meglio precisate. La nuova iniziativa segna quindi un cambiamento nell'approccio di Meta, passando dalla rimozione alla trasparenza attraverso l'etichettatura, nella speranza di trovare un equilibrio fra la promozione dell'innovazione e la protezione degli utenti.

Tuttavia, come ammesso da Clegg, rimane la sfida di rilevare i contenuti IA open source senza metadati incorporati. Sarà quindi fondamentale una collaborazione completa dell'intera industria tecnologica per trovare soluzioni, sia tecniche che politiche, con le elezioni imminenti che saranno un banco di prova fondamentale sull'efficacia delle soluzioni trovate.