Sicurezza degli agenti IA, la ricetta di Nadella: 'Partire dal presupposto che un modello sia compromesso'

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/si...so_160467.html

Satya Nadella chiede di ripensare la sicurezza dell'intelligenza artificiale avanzata con controlli esterni, verifiche indipendenti e registrazioni a prova di manomissione. Il CEO di Microsoft propone di trattare i modelli come potenziali sistemi compromessi, mantenendo la possibilità di limitarne i privilegi e interromperne le attività in qualsiasi momento operativo.

Click sul link per visualizzare la notizia.

[xarz3]

microsoft che parla di sicurezza e' come topo gigio che parla di meccanica quantistica, con midnight blizzard e similari hanno perso la faccia

[LMCH]

Lo scenario in cui si usa un "agente AI" corrisponde ad avere un operatore esterno collegato da remoto che ha accesso al prompt dei comandi e che é pure un hacker esperto.

Non c'é alcuna sicurezza se non sperare che l'agente non sia stato sovvertito e che sia perfettamente allineato.