Un'intelligenza artificiale hackera la palestra per trovare un posto al suo utente

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/un...te_157617.html

Un impiegato australiano ha chiesto all'agente AI OpenClaw, basato su Claude di Anthropic, di prenotargli un corso in palestra: il sistema ha sfruttato una falla di sicurezza e cancellato la prenotazione di un altro utente in lista d'attesa

Click sul link per visualizzare la notizia.

[Fantapollo]

L'IA decreterà la morte del software Opensource e di tutta la "trasparenza" nella cybersecurity.

Nell'opensource i bug sono troppo facili da trovare,
e ormai gli attacchi si fanno con l'IA in tre secondi.
Un tempo molto piu' breve dell'aggiornamento del software.

L'unica sicurezza contro l'IA è il software closed.
Non solo i bug sono piu' difficili da trovare,
ma il closed source permette di gestirli al meglio a livello mediatico
(prima i software aggiornati, poi l'annuncio dei bug)

[mail9000it]

Originariamente inviato da Fantapollo

L'unica sicurezza contro l'IA è il software closed.
Non solo i bug sono piu' difficili da trovare,
ma il closed source permette di gestirli al meglio a livello mediatico
(prima i software aggiornati, poi l'annuncio dei bug)

Non é proprio cosí.
se chi scopre il bug lo pubblica senza aspettare che l'azienda lo corregga (e non é obbligato) la gestione non è proprio pulita.

[Fantapollo]

Originariamente inviato da mail9000it

Non é proprio cosí.
se chi scopre il bug lo pubblica senza aspettare che l'azienda lo corregga (e non é obbligato) la gestione non è proprio pulita.

Ma questo vale anche per il mondo opensource.

Restano per il closed i vantaggi della difficoltà di scoprire bug senza avere il sorgente...

Vedrai che a breve non si riterrà piu' sicuro utilizzare i prodotti opensource

[supertigrotto]

Vorrei più libertà e nessuna regola per le IA e i suoi agenti.
Quando il mondo sarà nel caos,i superstalloni della IA verranno tirati fuori dai loro bunker uno ad uno
Si sapeva già del potenziale distruttivo della IA ma no,via a mettere su datacenter come se non ci fosse un domani,senza preoccuparsi di sviluppare con i giusti tempi questo strumento

[unnilennium]

Originariamente inviato da Fantapollo

Ma questo vale anche per il mondo opensource.

Restano per il closed i vantaggi della difficoltà di scoprire bug senza avere il sorgente...

Vedrai che a breve non si riterrà piu' sicuro utilizzare i prodotti opensource

val bene precisare che molti prodotti closed source sono basati su porgetti open source, quindi in linea di massima non si salva nessuno.... la differenza è che la IA il problema magari lo scopre prima, ma cosa succede dopo non cambia, un malintenzionato lo sfrutta, IA o meno.

[Fantapollo]

Originariamente inviato da unnilennium

val bene precisare che molti prodotti closed source sono basati su porgetti open source, quindi in linea di massima non si salva nessuno.... la differenza è che la IA il problema magari lo scopre prima, ma cosa succede dopo non cambia, un malintenzionato lo sfrutta, IA o meno.

Nessuno si salva, ma di certo non bisogna aumentare i rischi.
Vedrai che a breve Linux sarà dichiarato "non sicuro" rispetto a Windows.

[lumeruz]

Originariamente inviato da Fantapollo

Nell'opensource i bug sono troppo facili da trovare,
e ormai gli attacchi si fanno con l'IA in tre secondi.
Un tempo molto piu' breve dell'aggiornamento del software.

Hai capito qualcosa dell'articolo? No, non ci hai capito un ca**o, ma sei venuto qui a vomitare il tuo odio contro l'opensource accusandolo non si sa di cosa.
Un server sui cui gira un software closed source, come quelli che scrivi tu, è stato violato da un IA, la colpa NON è del web-server che ospita un cesso di software closed source, ma appunto del cesso di software, API non protette ( magari scritte da un idiota con l'IA), sai cosa significa? Ti serve un disegnino?

Originariamente inviato da Fantapollo

Vedrai che a breve Linux sarà dichiarato "non sicuro" rispetto a Windows.

Originariamente inviato da Fantapollo

Vedrai che a breve non si riterrà piu' sicuro utilizzare i prodotti opensource

Ca**ate al vento.... Non sai proprio di cosa parli, non hai la minima idea di cosa sia significhi open source. Pensi che l'opensource non sappia usare l'IA?
Un IA trova i bug ed un IA li corregge sul sorgente open source, invece con il closed source un IA trova i bug e lo sviluppatore si attacca al ca**o, magari perchè NON può inviare i suoi sorgenti ai modelli di frontiera per il copyright e dovrà risolvere i bug a mano.
Nel frattempo i software open source sono diventati più sicuri.

Datti una svegliata!!!!

[Fantapollo]

Originariamente inviato da lumeruz

Datti una svegliata!!!!

Ma dattela tu!

Chi ha l'IA piu' evoluta trova i bug prima.
Anthropic potrebbe hackare i sistemi di mezzo mondo probabilmente.

Chiaramente se il prodotto è closed source si sta piu' al sicuro,
Anthropic avrà difficoltà maggiori

[NewEconomy]

Originariamente inviato da Fantapollo

Ma dattela tu!

Chi ha l'IA piu' evoluta trova i bug prima.
Anthropic potrebbe hackare i sistemi di mezzo mondo probabilmente.

Chiaramente se il prodotto è closed source si sta piu' al sicuro,
Anthropic avrà difficoltà maggiori

Ma non è assolutamente vero, oggi Zuckerberg l'ha spiegato molto bene

https://www.meta.com/thefutureisforeveryone/

[gsorrentino]

Originariamente inviato da Fantapollo

L'IA decreterà la morte del software Opensource e di tutta la "trasparenza" nella cybersecurity.

Nell'opensource i bug sono troppo facili da trovare,
e ormai gli attacchi si fanno con l'IA in tre secondi.
Un tempo molto piu' breve dell'aggiornamento del software.

L'unica sicurezza contro l'IA è il software closed.
Non solo i bug sono piu' difficili da trovare,
ma il closed source permette di gestirli al meglio a livello mediatico
(prima i software aggiornati, poi l'annuncio dei bug)

Certo, Certo...Infatti l'IA ha scoperto in pochi giorni più di 600 bug nei software Microsoft. Ed è stato un test controllato. Pensa se non lo era cosa veniva fuori.

Originariamente inviato da Fantapollo

Restano per il closed i vantaggi della difficoltà di scoprire bug senza avere il sorgente...

Forse non ti è chiaro che l'IA NON ha bisogno di sorgenti.
E' come uno scassinatore che non sa che serratura c'è, ma ha una serie di grimaldelli infinita che può usare in combinazioni multiple per aprire la serratura.

Un umano ci metterebbe giorni ad aprire la serratura, L'IA è contenuta solo dal tempo meccanico della serratura.

Originariamente inviato da NewEconomy

Ma non è assolutamente vero, oggi Zuckerberg l'ha spiegato molto bene

https://www.meta.com/thefutureisforeveryone/

Ni. Dice sostanzialmente questo:

"Similarly, if one person alone had a cybersecurity superintelligence, they could likely break into almost any technical system and the world would be much less secure than today. But if everyone has access to cybersecurity superintelligence, then all of our technical systems would become more secure than today since the widely deployed superintelligence would help harden and update every system."

Cioè che le IA trovano i difetti ma proprio per questo possono essere usate per migliorare la sicurezza.

Tutto vero, ma chi spara per primo ora non trova i "Patriot" a fermarlo...

[NewEconomy]

Originariamente inviato da gsorrentino

Certo, Certo...Infatti l'IA ha scoperto in pochi giorni più di 600 bug nei software Microsoft. Ed è stato un test controllato. Pensa se non lo era cosa veniva fuori.



Forse non ti è chiaro che l'IA NON ha bisogno di sorgenti.
E' come uno scassinatore che non sa che serratura c'è, ma ha una serie di grimaldelli infinita che può usare in combinazioni multiple per aprire la serratura.

Un umano ci metterebbe giorni ad aprire la serratura, L'IA è contenuta solo dal tempo meccanico della serratura.



Ni. Dice sostanzialmente questo:

"Similarly, if one person alone had a cybersecurity superintelligence, they could likely break into almost any technical system and the world would be much less secure than today. But if everyone has access to cybersecurity superintelligence, then all of our technical systems would become more secure than today since the widely deployed superintelligence would help harden and update every system."

Cioè che le IA trovano i difetti ma proprio per questo possono essere usate per migliorare la sicurezza.

Tutto vero, ma chi spara per primo ora non trova i "Patriot" a fermarlo...

Chiaro, ma quello che intendeva dire, a mio parere è collegato alla questione HuggingFace. Hanno dovuto usare un modello Open-Source per diferdersi dall'attacco perchè quello Closed-Source si è rifiutato grazie ai guardrail imposti dall'azienda.

Tanto la capacità di attacco in un modo o nell'altro chi vuole attaccare la trova, quindi quantomeno con l'Open-Source ci si potrà difendere meglio e possibilmente migliorare la sicurezza in anticipo. Certo è tutto un pò filosofico e di "lungo termine" ma non ha torto...

[gsorrentino]

Originariamente inviato da NewEconomy

...Hanno dovuto usare un modello Open-Source per diferdersi dall'attacco perchè quello Closed-Source si è rifiutato grazie ai guardrail imposti dall'azienda.

No, hanno dovuto usare un modello Open Source per capire cosa è successo perché i closed non permettevano di analizzare i dati.
Una cosa ben diversa.

[NewEconomy]

Originariamente inviato da gsorrentino

No, hanno dovuto usare un modello Open Source per capire cosa è successo perché i closed non permettevano di analizzare i dati.
Una cosa ben diversa.

Ed il "capire che cosa è successo" non è il primo passo in una fase di difesa?

[gsorrentino]

Originariamente inviato da NewEconomy

Ed il "capire che cosa è successo" non è il primo passo in una fase di difesa?

Non vuol dire che sia meglio del close.

E' come dire che hai dovuto usare lo strumento di analisi Cinese per ricostruire quanto accaduto perché l'auto non ti vuole far accedere alle informazioni.
Usi uno strumento senza blocchi per simulare il perché.

E' solo il primo passo per capire. Poi sul closed devi operare, non ti difendi con l'open.

[raxas]

Originariamente inviato da supertigrotto

Quando il mondo sarà nel caos,i superstalloni della IA verranno tirati fuori dai loro bunker uno ad uno

come Saddam o Gheddafi?

[NewEconomy]

Originariamente inviato da gsorrentino

Non vuol dire che sia meglio del close.

E' come dire che hai dovuto usare lo strumento di analisi Cinese per ricostruire quanto accaduto perché l'auto non ti vuole far accedere alle informazioni.
Usi uno strumento senza blocchi per simulare il perché.

E' solo il primo passo per capire. Poi sul closed devi operare, non ti difendi con l'open.

Non ho detto che sia più potente o meglio del Closed-Source, ho detto che non avendo guardrail assurdi può essere utilizzato senza restare nelle restrizioni dei provider AI.

Provider che, vedi OpenAI, ha proprio giusto caso rilasciato GPT 5.6 Cyber ad un prezzo custom con guardrail "rilassati"

[LMCH]

Originariamente inviato da Fantapollo

L'IA decreterà la morte del software Opensource e di tutta la "trasparenza" nella cybersecurity.

Nell'opensource i bug sono troppo facili da trovare,
e ormai gli attacchi si fanno con l'IA in tre secondi.
Un tempo molto piu' breve dell'aggiornamento del software.

L'unica sicurezza contro l'IA è il software closed.
Non solo i bug sono piu' difficili da trovare,
ma il closed source permette di gestirli al meglio a livello mediatico
(prima i software aggiornati, poi l'annuncio dei bug)

Paradossalmente il software open source rende più facile AGLI UMANI lo scovare bug e falle, per le AI non fa alcuna differenza lavorare sui sorgenti ad alto livello oppure sui binari.

La differenza fondamentale tra closed source ed open source sta che con il secondo é molto più facile CORREGGERE i bug e CHIUDERE le falle (ed eventualmente fare un fork più sicuro se gli sviluppatori originali non si davano una mossa).

Per questo anche con tool di hacking basati su LLM alla fine il software open source ben gestito é l'opzione migliore rispetto a quello closed source.

É lo stesso motivo per cui gli algoritmi criptografici dipendono dalla robustezza delle chiavi invece che dalla segretezza dell'algoritmo.
Gli algoritmi criptografici closed source erano sempre quelli più vulnerabili perché basati sull'idea che contenessero qualcosa "che nessuno potrà mai immaginare" senza mai poter fare adeguate verifiche a riguardo.

[Apple80]

Skynet inizia ad assumere un auto controllo. Diventerà cosciente il 1 Gennaio 2027.

La fine del mondo è vicina. Penso che a settembre mi arruolero' nelle task force per prepararmi alla dura battaglia che ci aspetta per la sopravvivenza del genere umano.

Oppure potrei unirmi a Skynet. Traferire la mia coscienza in un T1000 e dargli una mano. eheh

[Fantapollo]

Originariamente inviato da gsorrentino

Forse non ti è chiaro che l'IA NON ha bisogno di sorgenti.

Originariamente inviato da LMCH

per le AI non fa alcuna differenza lavorare sui sorgenti ad alto livello oppure sui binari.

Minchia... ma che film vi sparate?

Gli attacchi sono di tanti tipi...
- si possono fare sfruttando bug del software
- si possono fare sfruttando malconfigurazioni del software
- si possono fare sfruttando furti di password
e tanti altri...

Non c'è dubbio che l'IA sia bravissima in quelli del secondo tipo,
ma per preparare quelli del primo tipo i sorgenti servono... altrimenti sarebbe un andare per tentativi, e le IA difensive riconoscerebbero subito questi tentativi...

L'IA è appunto Intelligenza, non magia.