Lockdown Mode cambia il volto di ChatGPT: più privacy, meno libertà operativa

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/lo...va_154476.html

OpenAI ha avviato il rilascio di Lockdown Mode, una nuova modalità di sicurezza per ChatGPT pensata per limitare i rischi di esfiltrazione dei dati attraverso attacchi di prompt injection. La funzione disabilita numerosi strumenti connessi al web, sacrificando parte delle funzionalità in favore di una maggiore protezione.

Click sul link per visualizzare la notizia.

[LMCH]

Non hanno pensato minimamente all'aspetto sicurezza ed ora é troppo tardi, tante pezze ma non una vera infrastruttura di sicurezza; una grandiosa superficie d'attacco il cui sfruttamento é ancora solo agli inizi.

[Notturnia]

Originariamente inviato da LMCH

Non hanno pensato minimamente all'aspetto sicurezza ed ora é troppo tardi, tante pezze ma non una vera infrastruttura di sicurezza; una grandiosa superficie d'attacco il cui sfruttamento é ancora solo agli inizi.

credo sia virtualmente impossibile con le IA .. evolvono velocemente, dipendono dalle richieste degli utenti, hanno libero accesso ad internet.. etc etc etc..

evitare rogne credo sia quasi impossibile visto quanto vengono lasciate fare..

[LMCH]

Originariamente inviato da Notturnia

credo sia virtualmente impossibile con le IA .. evolvono velocemente, dipendono dalle richieste degli utenti, hanno libero accesso ad internet.. etc etc etc..

evitare rogne credo sia quasi impossibile visto quanto vengono lasciate fare..

Il problema sta *anche* nei LLM in se, ma il grosso dei problemi attuali sta in come ne viene fatto il deployement al di fuori di ambienti sicuri.

Ad esempio:
https://this.weekinsecurity.com/meta...ts-ai-chatbot/

Il chatbot non avrebbe avuto problemi se avessero considerato anche il caso di utenti senza autentificazione 2F. Cioé, hanno fatto una cazzata assurda nella gestione della sicurezza ... di una procedura di sicurezza.

[Notturnia]

Originariamente inviato da LMCH

Il problema sta *anche* nei LLM in se, ma il grosso dei problemi attuali sta in come ne viene fatto il deployement al di fuori di ambienti sicuri.

Ad esempio:
https://this.weekinsecurity.com/meta...ts-ai-chatbot/

Il chatbot non avrebbe avuto problemi se avessero considerato anche il caso di utenti senza autentificazione 2F. Cioé, hanno fatto una cazzata assurda nella gestione della sicurezza ... di una procedura di sicurezza.

beh.. mettere la potenza computazionale di un datacenter a disposizione di un bimbo di 5 anni (LLM o IA che sia) in un mondo di furbi non è intelligente..

ma mettere i paletti non è facile uguale.. concordo con te che dovevano pensarci prima e non adesso che sono fuggiti tutti i buoi però non so come faranno visto la corsa a crescere più degli altri per non affogare nei debiti