Tuo figlio cerca 'suicidio' su Instagram? Ora lo saprai subito

Instagram introdurrà nelle prossime settimane un nuovo sistema di notifiche destinato ai genitori che utilizzano gli strumenti di supervisione degli account Teen. La piattaforma invierà un avviso qualora un adolescente tenti ripetutamente, nell'arco di un breve periodo di tempo, di cercare termini associati al suicidio o all'autolesionismo.

La funzionalità si inserisce nel quadro delle misure di protezione già attive per i minori. Attualmente, le ricerche che includono parole chiave chiaramente collegate a suicidio e all'autolesionismo vengono bloccate: il sistema non mostra risultati e reindirizza l'utente verso risorse informative e numeri di supporto. Inoltre, i contenuti che trattano questi temi - pur ammessi se riferiti a esperienze personali - non vengono mostrati agli adolescenti.

Gli alert scatteranno al superamento di una soglia definita sulla base di "alcune ricerche in un breve lasso di tempo". La scelta della soglia, spiega la società, è stata effettuata analizzando i comportamenti di ricerca e consultando specialisti in materia di prevenzione del suicidio, con l'obiettivo di trovare un equilibrio tra tempestività e rischio di segnalazioni eccessive.

Quando la condizione viene soddisfatta, i genitori riceveranno una notifica tramite email, SMS o WhatsApp - a seconda dei contatti disponibili - oltre a un avviso in-app. Il messaggio informerà che il figlio ha tentato più volte di cercare termini legati al suicidio o all'autolesionismo in un intervallo ristretto. Dal pannello sarà possibile accedere a materiali redatti da esperti per affrontare conversazioni potenzialmente sensibili.

Secondo la società, la maggior parte degli adolescenti non effettua ricerche di questo tipo. Tuttavia, l'introduzione dell'avviso è stata ritenuta un passo coerente con l'obiettivo di fornire ai genitori strumenti informativi utili a intervenire qualora emergano segnali di disagio.

Il rollout inizierà per gli utenti che utilizzano la supervisione parentale negli Stati Uniti, nel Regno Unito, in Australia e in Canada, con estensione ad altre regioni entro la fine dell'anno.

Parallelamente, Meta sta lavorando a un sistema analogo applicato alle interazioni degli adolescenti con le proprie soluzioni di intelligenza artificiale. L'azienda rileva infatti che i giovani ricorrono sempre più spesso a chatbot e strumenti AI per ottenere supporto o informazioni. In futuro, i genitori potranno essere avvisati anche nel caso in cui un minore tenti di avviare determinate conversazioni con l'AI su temi legati al suicidio o all'autolesionismo.