Link alla notizia: https://www.hwupgrade.it/news/web/sicurezza-degli-agenti-ia-la-ricetta-di-nadella-partire-dal-presupposto-che-un-modello-sia-compromesso_160467.html

Satya Nadella chiede di ripensare la sicurezza dell'intelligenza artificiale avanzata con controlli esterni, verifiche indipendenti e registrazioni a prova di manomissione. Il CEO di Microsoft propone di trattare i modelli come potenziali sistemi compromessi, mantenendo la possibilità di limitarne i privilegi e interromperne le attività in qualsiasi momento operativo.

Click sul link per visualizzare la notizia.

microsoft che parla di sicurezza e' come topo gigio che parla di meccanica quantistica, con midnight blizzard e similari hanno perso la faccia

Lo scenario in cui si usa un "agente AI" corrisponde ad avere un operatore esterno collegato da remoto che ha accesso al prompt dei comandi e che é pure un hacker esperto.

Non c'é alcuna sicurezza se non sperare che l'agente non sia stato sovvertito e che sia perfettamente allineato.