I browser agentici non sono ancora maturi: anche Atlas vulnerabile ad attacchi di prompt injection

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/sicure...on_145327.html

I browser AI come OpenAI Atlas e Perplexity Comet sono vulnerabili ad attacchi di spoofing della sidebar e di prompt injection. Estensioni malevole possono impersonare l'interfaccia AI, mentre comandi nascosti in pagine web possono indurre l'assistente a compiere azioni dannose. Le aziende sono a conoscenza del problema, ma le soluzioni non sono ancora definitive

Click sul link per visualizzare la notizia.

[LMCH]

Già in tempi non sospetti dicevo che i software basati su LLM avrebbero aperto nuove superfici di attacco; questa è l'ennesima volta che la cosa viene resa evidente e sopratutto è l'ennesima volta in cui è evidente che gli spacciatori di LLM se ne fottono degli aspetti di cybersecurity.

Non saranno MAI "maturi", sono così by design.

[mozzarello]

Originariamente inviato da LMCH

Già in tempi non sospetti dicevo che i software basati su LLM avrebbero aperto nuove superfici di attacco; questa è l'ennesima volta che la cosa viene resa evidente e sopratutto è l'ennesima volta in cui è evidente che gli spacciatori di LLM se ne fottono degli aspetti di cybersecurity.

Non saranno MAI "maturi", sono così by design.

Gli LLM sono una rivoluzione per quanto riguarda le interfaccie di controllo. Per la prima volta nella storia dell'umanità, teoricamente si può comunicare in linguaggio naturale con qualsiasi tecnologia, che sia un computer, un telefono, un'auto o un forno a microonde, che non solo capisce cosa gli si dice anche balbettando, ma risponde come risponderebbe un'altra persona, ci si può letteralmente dialogare.

Però questo funziona se son modelli piccoli, offline e tarati solo per il lavoro che devono svolgere. Allo stato attuale i grandissimi LLM da centinaia di miliardi di parametri li vedo interessanti solo per entertainment, non mi fiderei mai per cose importanti come lavoro, salute, denaro, burocrazia statale.

Per questo mi meraviglia che questi browser che "fan tutto loro" siano considerati così tanto dall'utenza. Chi li sviluppa è chiaro perché lo fa, più profilazione e più dati da rivendere, ma davvero c'è gente che si farebbe comprare le scarpe o prenotare un viaggio da ChatGPT?

[h.rorschach]

Non serve siano sicuri, servono solo per sifonare dati da utenti e siti che non consentono il crawling

[pachainti]

Originariamente inviato da mozzarello

Gli LLM sono una rivoluzione per quanto riguarda le interfaccie di controllo. Per la prima volta nella storia dell'umanità, teoricamente si può comunicare in linguaggio naturale con qualsiasi tecnologia, che sia un computer, un telefono, un'auto o un forno a microonde, che non solo capisce cosa gli si dice anche balbettando, ma risponde come risponderebbe un'altra persona, ci si può letteralmente dialogare.

Però questo funziona se son modelli piccoli, offline e tarati solo per il lavoro che devono svolgere. Allo stato attuale i grandissimi LLM da centinaia di miliardi di parametri li vedo interessanti solo per entertainment, non mi fiderei mai per cose importanti come lavoro, salute, denaro, burocrazia statale.

Per questo mi meraviglia che questi browser che "fan tutto loro" siano considerati così tanto dall'utenza. Chi li sviluppa è chiaro perché lo fa, più profilazione e più dati da rivendere, ma davvero c'è gente che si farebbe comprare le scarpe o prenotare un viaggio da ChatGPT?

Ti pagano per scrivere queste fesserie o è frutto di un generatore di stronzate?
ChatGPT is bullshit

[mozzarello]

Originariamente inviato da pachainti

Ti pagano per scrivere queste fesserie o è frutto di un generatore di stronzate?
ChatGPT is bullshit

Mi paga Sam Altman chiaramente. Tu invece, offendere malamente gli altri per le loro opinioni lo fai gratis? Che poi non ho tessuto le lodi di nessun LLM, anzi.

[pachainti]

Originariamente inviato da mozzarello

Mi paga Sam Altman chiaramente. Tu invece, offendere malamente gli altri per le loro opinioni lo fai gratis? Che poi non ho tessuto le lodi di nessun LLM, anzi.

Non mi pare di aver offeso nessuno, se ti sei sentito offeso ti chiedo scusa. Tuttavia, rimango dell'opinione precedente ovvero che se una persona conosce minimamente cosa sia il machine learning e di conseguenza quello che propagandano per IA, non può scrivere certe cose.

[mozzarello]

Originariamente inviato da pachainti

Non mi pare di aver offeso nessuno, se ti sei sentito offeso ti chiedo scusa. Tuttavia, rimango dell'opinione precedente ovvero che se una persona conosce minimamente cosa sia il machine learning e di conseguenza quello che propagandano per IA, non può scrivere certe cose.

Non ho scritto niente che non sia vero:

- Gli LLM permettono di usare interfaccie di dialogo anziché testuali/grafiche
- Essendo modelli statistici generativi, non mi fido ad usarli per cose importanti, ma per entertainment sì (creazione storie, avventure testuali, generazione immagini, ecc)
- Non capisco, per i motivi di cui sopra, come possa certa gente fidarsi di un browser agentico

Non capisco cosa centri il machine learning. Non è prerogativa di IA generative ed un sottoinsieme che include tutte le IA che "imparano" comprese quelle predittive, che son usatissime in ambito scientifico e industriale. O "quel che propagandano per IA", dato che si chiamano IA perché si basano su reti neurali, non perché pensino e abbiano una coscienza.

Tu hai scritto ChatGPT is bullshit, io non ho mai scritto ChatGPT è una gran cosa, anzi.

[amd-novello]

Originariamente inviato da h.rorschach

Non serve siano sicuri, servono solo per sifonare dati da utenti e siti che non consentono il crawling

this

[pachainti]

Originariamente inviato da mozzarello

Non ho scritto niente che non sia vero:

- Gli LLM permettono di usare interfaccie di dialogo anziché testuali/grafiche
- Essendo modelli statistici generativi, non mi fido ad usarli per cose importanti, ma per entertainment sì (creazione storie, avventure testuali, generazione immagini, ecc)
- Non capisco, per i motivi di cui sopra, come possa certa gente fidarsi di un browser agentico

Non capisco cosa centri il machine learning. Non è prerogativa di IA generative ed un sottoinsieme che include tutte le IA che "imparano" comprese quelle predittive, che son usatissime in ambito scientifico e industriale. O "quel che propagandano per IA", dato che si chiamano IA perché si basano su reti neurali, non perché pensino e abbiano una coscienza.

Tu hai scritto ChatGPT is bullshit, io non ho mai scritto ChatGPT è una gran cosa, anzi.

Non è necessario avere gli LLM per avere un'interfaccia non testuale, per esempio gli assistenti vocali esistono da prima del loro arrivo.
Un LLM non ha consapevolezza, ne senso di realtà, genera solo sequenze di parole, audio, immagini, etc. Il significato ce lo mettiamo noi. Per lui generare qualcosa di significato o una stronzata è equivalente.
Gli LLM fanno parte del machine learning, in particolare del deep learning. Oggi vengono spacciati per IA e chi non conosce l'argomento, purtroppo viene tratto in inganno.

[mozzarello]

Originariamente inviato da pachainti

Non è necessario avere gli LLM per avere un'interfaccia non testuale, per esempio gli assistenti vocali esistono da prima del loro arrivo.
Un LLM non ha consapevolezza, ne senso di realtà, genera solo sequenze di parole, audio, immagini, etc. Il significato ce lo mettiamo noi. Per lui generare qualcosa di significato o una stronzata è equivalente.
Gli LLM fanno parte del machine learning, in particolare del deep learning. Oggi vengono spacciati per IA e chi non conosce l'argomento, purtroppo viene tratto in inganno.

Gli assistenti vocali non sono minimamente paragonabili a un LLM.

[pachainti]

Originariamente inviato da mozzarello

Gli assistenti vocali non sono minimamente paragonabili a un LLM.

Quello che hai chiamato erroneamente rivoluzione nell'interfaccia di controllo esiste da molto tempo (gli assistenti vocali e virtuali in generale, i chat bot). Niente di rivoluzionario per chi conosce un minimo il machine learning vedi ELIZA.

[mozzarello]

A me pare che in questo sito nessuno utilizzi un LLM per partito preso. Anche citare un chatbot degli anni 60 (lo so che la teoria c'è da 60 anni, l'ho anche scritto) per sminuire LLM da centinaia di miliardi di parametri. Quel che mi fa strano è che nessuno qui si renda conto della differenza tra eseguire determinati comandi vocali, interpretati da un motore semantico "istruito" con un range di istruzioni specifiche e dialogare con una macchina come se fosse un essere umano, con qualsiasi stile, su qualsiasi cosa e in qualsiasi lingua.