Instagram prepara un sistema di avvertimenti per chi posta didascalie offensive

Instagram ha preparato una nuova funzionalità che ha lo scopo di sensibilizzare l'utente e spingerlo a riconsiderare la pubblicazione di foto o video con descrizioni o didascalie offensive.

Si tratta di un meccanismo automatizzato capace di rilevare se nel contenuto che l'utente sta per condividere sul social network vi siano elementi potenzialmente offensivi: nel caso di riscontro positivo verrà mostrato un avvertimento chiedendo all'utente di pensare attentamente se è il caso di condividere il contenuto o meno.

La nuova funzionalità è stata sviluppata sulla scia di una novità introdotta nel corso dell'estate e focalizzata sulla sezione dei commenti: in quel caso l'intelligenza artificiale veniva utilizzata per rilevare il linguaggio, avvertire l'utente e incoraggiare interazioni positive.

Non è previsto nulla che possa fermare effettivamente l'utente dall'ignorare l'avvertimento e condividere ugualmente didascalie offensive, ma l'idea di base è quella di dare all'utente una piccola "spinta gentile" (a proposito, avete letto il libro La spinta gentile di Richard Thaler e Cass Sunstein? ) che magari potrebbe essere sufficiente per scoraggiare la condivisione di messaggi e contenuti inappropriati.

"Come parte del nostro impegno a lungo termine nella guida della battaglia contro il bullismo online, abbiamo sviluppato e testato un'AI che può riconoscere differenti forme di bullismo su Instagram. In precedenza nel corso dell'anno abbiamo lanciato una funzionalità che avverte le persone quando i loro commenti potrebbero essere considerati offensivi, prima ancora che li inviino. I risultati sono stati promettenti e abbiamo scoperto che questo tipo di azioni possono incoraggiare le persone a riconsiderare le loro parole quando gli viene fatto notare" si legge sul blog di Instagram.

La violenza verbale e il bullismo online sono problemi persistenti in molte piattaforme social, e vari studi hanno mostrato che gli individui al di sotto dei 25 anni d'età sono soggetti ad un rischio raddoppiato di comportamenti autolesivi o tentativi di suicidio se sono vittime di episodi di cyberbullismo.

Il monitoraggio di commenti e contenuti generati da miliardi di utenti è una sfida ai limiti dell'impossibile per l'essere umano, ed è il motivo per cui tutte le principali piattaforme si stanno sempre più appoggiando a strumenti automatizzati. Twitter, ad esempio, ha recentemente sottolineato di essere in grado di rimuovere proattivamente la metà circa dei tweet offensivi prima ancora che vengano segnalati.

La nuova funzionalità di Instagram verrà resa disponibile dapprima in mercati selezionati, per poi essere allargata nei prossimi mesi a tutti gli utenti.