Moltbot non è solo un chatbot: agisce, ricorda e può sfuggire al controllo

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/mo...lo_149359.html

Moltbot segna il passaggio dai chatbot agli agenti AI operativi. Potente, autonomo, pericoloso se mal configurato: cosa cambia davvero e perché non è per tutti. È un caso di studio che cambia i paradigmi della sicurezza

Click sul link per visualizzare la notizia.

[Darkon]

Francamente mi sembra che si stia pompando enormemente qualcosa che tutto sommano non è altro che una AI con degli algoritmi che la rendono più potente ma anche con tantissimi problemi irrisolti:

Prima di tutto è vero che lo puoi installare gratis ma se non lo colleghi a un LLM a pagamento e con token illimitati già hai ammazzato l'80% delle sue caratteristiche quindi Moltbot è gratis certo ma tutto il resto no.

Secondariamente è vero che ha delle abilità interessanti come quella di prendere l'iniziativa e tentare di essere propositivo ma il più delle volte sono iniziative banali, spesso ripetitive.

A mio parere l'aspetto veramente interessante è la memoria illimitata e quindi la capacità di mantenere dei contesti e di imparare ad adattarsi veramente ampia ma al momento fine lì.

Senza contare che ad oggi se non sai molto ma molto bene quello che fai è soggetto a prompt injection e altre tecniche di inganno delle AI quindi non gli affiderei dati critici o accesso a mezzi di pagamento.

[UtenteHD]

Avete fatto benisimo a parlare di sicurezza perche' da tutto quello che si legge, per ora queste IA hanno sicurezza radente lo zero, ad esempio sembrerebbe che basta una pagina con nascosti i comandi per far fare all'ia Browser cose che non vogliamo ti spedire tutti i ns dati o altro ad altre persone, ecc..

Per quanto riguarda questa IA, stavo leggendo ieri dal sito di cyber sicurezza dei Red (se non ho letto male) che nei 10 secondi di cambio nome dal vecchio nome a quello attuale di questa IA, e' rimasta senza proprieta' la pagina precedente, e qualcuno l'ha presa in proprieta' ed i vecchi utilizzatori continuano o continuavano a far riferimento a quella per scaricare ed avviare...
Oppure in un test (mi sembra) che abbiano dimostrato che se questa o altre IA hanno accesso alle email, basta inviare un'email con i comandi nascosti (tipo la pagina web) per farle fare quello che si vuole.
Per ora come non si sa' fino a quando, per la sicurezza on vanno bene queste IA, andrebbero limitate negli accessi perche' piu' hanno liberta' di letture e piu' sono vulnerabili ad attacchi di questo genere, poi ne esisteranno molti piu' complessi, ma questi sono piu' alla portata di Lamer.

[bonzoxxx]

Molto interessante, ma vedo un profilo di rischio molto elevato.

Lo proverò sicuramente ma in maniera molto limitata, non mi fido neanche di me stesso figuriamoci di un agente AI ancora in sviluppo.

Però l'idea è molto interessante soprattutto, come dice Darkon, per la memoria persistente.