Microsoft ha scoperto come trasformare un agente AI in un cavallo di Troia

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/mi...ia_161879.html

Microsoft Research ha descritto Lazarus, una tecnica che permette di inserire una backdoor nei modelli linguistici modificando meno di dieci neuroni normalmente inattivi. Non serve riaddestrare l'IA e il modello può superare i normali test di sicurezza, fino a quando non si presenta una specifica condizione che attiva i comandi malevoli.

Click sul link per visualizzare la notizia.

[supertigrotto]

Era quello che mi era venuto in mente diverso tempo fa,trovare una compromissione in una IA è come cercare un ago in un pagliaio grande come la Val d'Aosta,manco con un metal detector al grafene ce la si può fare.
Speriamo che non decidano di mettere sistemi vitali sotto il controllo della IA,già con un sistema informatico sono riusciti a bucare frighi commerciali e ospedalieri,non so se fossero gestiti con la IA se un attacco del genere si potrebbe fermare facilmente.