OpenAI, l'azienda di ChatGPT ha subito un attacco informatico senza mai rivelarlo

I cybercriminali hanno avuto accesso ai sistemi di messaggistica interna e rubato dettagli sulla progettazione delle tecnologie di intelligenza artificiale, ma l'azienda ha deciso di non rivelare pubblicamente l'intrusione.
di Rosario Grasso pubblicata il 05 Luglio 2024, alle 17:01 nel canale WebOpenAIChatGPT
I dirigenti non hanno considerato l'intrusione informatica avvenuta lo scorso anno ai danni di OpenAI una minaccia alla sicurezza nazionale e non hanno informato le forze dell'ordine federali. Lo si apprende adesso da un report del New York Times, secondo il quale gli hacker non sono riusciti ad accedere ai sistemi dove OpenAI ospita e costruisce la sua IA. La violazione è stata comunicata internamente ad aprile 2023 ma non è stata resa pubblica fino a oggi.
Secondo le ricostruzioni, un solo hacker che operava individualmente sarebbe responsabile dell'attacco. Sebbene il funzionamento della tecnologia di intelligenza artificiale generativa alla base di ChatGPT non dovrebbe essere stato compromesso, alcune informazioni sensibili sono state esposte. Secondo il New York Times, questo potrebbe generare preoccupazioni, anche perché attaccanti più pericolosi, come la Cina, potrebbero compiere attacchi del genere con altrettanta facilità. Dopo l'episodio, OpenAI avrebbe comunque rinforzato le proprie misure di sicurezza.
OpenAI ha già ricevuto critiche per non aver fatto abbastanza per proteggere i propri segreti dai governi stranieri. A maggio, OpenAI ha dichiarato di aver fermato cinque operazioni segrete che cercavano di usare i suoi modelli di IA per attività ingannevoli.
Recentemente, alcuni hacker hanno rilasciato una versione modificata di ChatGPT, chiamata "God Mod GPT", che permette di chiedere qualsiasi cosa al chatbot, incluso come realizzare droghe e armi, sfruttando un "jailbreak" del codice del modello.
Con il ruolo delle intelligenze artificiali generative che si fa sempre più predominante, e la loro capacità di processare enormi quantità di dati, il tema della loro protezione rispetto agli attacchi indiscreti può diventare sempre più rilevante.
4 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infoOggi sono doppiamente triste: per questo e per il crollo drammatico dei Bitcoin sui mercati. Mettiamoci pure la vittoria dei comunisti in uk (dalle incalcolabili conseguenze per il resto dell'Europa) e siamo al completo. Giorgetta almeno tu, tieni forte
naaa, queste sono scemenze che vanno ripetendo i giornali di sinistra nostrani, la solita litania che con la brexit si sta peggio. La realtà è che il Regno Unito è un paese ricco e avanzato, anni luce migliore rispetto all'Italia e gli Italiani hanno continuato ad andare nonostante la brexit, anzi sono pure aumentati in UK, segno che li si vive meglio che in Italia.
Secondo me questi attacchi sono pericolosi, sia perche' possono (ovviamente) rubare dati, ma anche perche' (forse) possono alterare le IA inserendo, ad esempio dati errati che non possono essere facilmente rilevati, si chiama poisoning? Mi sembra un articolo dicesse questo..
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".