Link alla notizia: https://www.hwupgrade.it/news/sicurezza-software/i-browser-agentici-non-sono-ancora-maturi-anche-atlas-vulnerabile-ad-attacchi-di-prompt-injection_145327.html

I browser AI come OpenAI Atlas e Perplexity Comet sono vulnerabili ad attacchi di spoofing della sidebar e di prompt injection. Estensioni malevole possono impersonare l'interfaccia AI, mentre comandi nascosti in pagine web possono indurre l'assistente a compiere azioni dannose. Le aziende sono a conoscenza del problema, ma le soluzioni non sono ancora definitive

Click sul link per visualizzare la notizia.

Già in tempi non sospetti dicevo che i software basati su LLM avrebbero aperto nuove superfici di attacco; questa è l'ennesima volta che la cosa viene resa evidente e sopratutto è l'ennesima volta in cui è evidente che gli spacciatori di LLM se ne fottono degli aspetti di cybersecurity.

Non saranno MAI "maturi", sono così by design.

Già in tempi non sospetti dicevo che i software basati su LLM avrebbero aperto nuove superfici di attacco; questa è l'ennesima volta che la cosa viene resa evidente e sopratutto è l'ennesima volta in cui è evidente che gli spacciatori di LLM se ne fottono degli aspetti di cybersecurity.

Non saranno MAI "maturi", sono così by design.

Gli LLM sono una rivoluzione per quanto riguarda le interfaccie di controllo. Per la prima volta nella storia dell'umanità, teoricamente si può comunicare in linguaggio naturale con qualsiasi tecnologia, che sia un computer, un telefono, un'auto o un forno a microonde, che non solo capisce cosa gli si dice anche balbettando, ma risponde come risponderebbe un'altra persona, ci si può letteralmente dialogare.

Però questo funziona se son modelli piccoli, offline e tarati solo per il lavoro che devono svolgere. Allo stato attuale i grandissimi LLM da centinaia di miliardi di parametri li vedo interessanti solo per entertainment, non mi fiderei mai per cose importanti come lavoro, salute, denaro, burocrazia statale.

Per questo mi meraviglia che questi browser che "fan tutto loro" siano considerati così tanto dall'utenza. Chi li sviluppa è chiaro perché lo fa, più profilazione e più dati da rivendere, ma davvero c'è gente che si farebbe comprare le scarpe o prenotare un viaggio da ChatGPT?

Non serve siano sicuri, servono solo per sifonare dati da utenti e siti che non consentono il crawling