Un'IA di OpenAI aggira i test e viola i server di HuggingFace: marketing o reale minaccia?

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/un...ia_156889.html

L'episodio dell'agente autonomo che ha violato i server di HuggingFace ha riaperto il dibattito sulle strategie di comunicazione della società e sui rischi del monopolio normativo nell'intelligenza artificiale

Click sul link per visualizzare la notizia.

[UtenteHD]

"Le criticità della gestione centralizzata si sono manifestate chiaramente proprio durante l'incidente che ha coinvolto HuggingFace. Per analizzare i registri di sistema a seguito dell'intrusione, HuggingFace non ha potuto utilizzare i modelli statunitensi di punta come quelli di OpenAI o la serie Claude. Le versioni pubbliche di tali software integrano infatti blocchi protettivi che ne impediscono l'uso nelle analisi di sicurezza informatica. Per completare le verifiche si è reso necessario ricorrere a GLM 5.2, un modello aperto sviluppato in Cina. Questo scenario evidenzia la contraddizione di un'industria occidentale focalizzata sul controllo ristretto e autoritativo, mentre il settore cinese sta riuscendo a guidare l'avanzamento dei sistemi open source."

In effetti assurdo.

[supertigrotto]

Non so come sarà la IA del futuro,se in Cloud o in locale,sta di fatto che se viene bucata,fermarla sarà impossibile,almeno di non staccare fisicamente la corrente.
A questo punto non so se l'essere umano si accorgerà che questo nuovo strumento deve essere sviluppato con più calma,studio e sperimentazioni su sperimentazioni senza correre all' impazzata come si fa attualmente o se dovremmo avere un grosso incidente mondiale per far si che si diano una calmata,tipo segreti industriali e segreti di stato messi in bella vista sul web,scatenando eventualmente delle guerre,sistema bancario non più disponibile,sistemi informatici e database vitali non più disponibili etc.
Provate a immaginare,solo in ambito italiano,una IA che cancella il catasto nazionale,la anagrafe,tutti i dati giudiziari,i conti correnti,dati sanitari e altro ancora e che riesce a cancellare o modificare i backup con dati non più leggibili o con documenti inservibili,tipo una cartella sanitaria in cui ti ritrovi la divina commedia al posto dei dati sanitari vitali.
Siamo sicuri che sia una buona mossa dare sistemi così delicati in meno a una tecnologia che pensiamo di conoscere ma che così non è?
La dimostrazione pratica sono tutti quei casi in cui la IA ha superato sandbox,ha cercato di replicarsi perché minacciata di essere spenta e altri comportamenti che hanno spaventato i ricercatori che non si spiegavano il perché di tanti comportamenti da parte di una macchina.

[megamitch]

Invernomuto