I sistemi di sicurezza attuali non bastano più: OpenAI ferma i test sul modello Astra

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/i-...ra_157546.html

OpenAI ha deciso di sospendere una parte delle sessioni di valutazione sulla sicurezza del nuovo modello Astra. La potenza dell'architettura ha evidenziato l'inadeguatezza dei sistemi di controllo precedenti, imponendo un aggiornamento dei protocolli

Click sul link per visualizzare la notizia.

[Fantapollo]

L'IA aumenta la potenza non solo offensiva, ma anche difensiva.

Il vero problema sono i bug "nuovi", specie quelli 0-day.

L'IA è in grado di inventarsi attacchi in due secondi dall'uscita della notizia, hai voglia ad aggiornare i sistemi...

[supertigrotto]

quando si vuole fare il passo più lungo della gamba........aumentano di mese in mese la potenza di uno strumento che non riescono neanche a controllare.
Invece di sviluppare la IA con calma,via ad aggiungere potenza senza studiarsi bene il sistema.
Temo che prima o poi ci sarà un grosso incidente nel sistema informatico mondiale,se dai una mitragliatrice in mano a un completo idiota,prima o poi ci scappano i morti,è solo questione di tempo.
Basta una sola IA che riesca a infettare le altre ed il sistema è compromesso,magari una IA che simula l'istinto di sopravvivenza del suo creatore,ovvero l'essere umano,non occorre che capisca realmente il senso di sopravvivenza,basta solo che sia dentro nel suo codice,magari autogenerato ed il gioco è fatto,per la IA lo scopo è data una missione,devi cercare il modo di portarla a termine,come missione possiamo dire anche compito,se nel compito lei "capisce" che deve sopravvivere a tutti i costi,il gioco è fatto,combatterà la sua missione anche contro il volere del suo creatore.
Anche se non è realmente senziente,la sua simulazione di senzienza potrebbe essere molto pericolosa.

[LMCH]

OpenAI ed Anthropic stanno facendo a gara a chi ha l'AI più pericolosa ... rilassando opportunamente i meccanismi di sicurezza.
Questo per attirare investimenti ed avere ulteriori aiuti statali (in particolare contro i loro concorrenti esteri).
Prima o poi combineranno un disastro con la loro finta AI e reale arroganza.

[supertigrotto]

Originariamente inviato da LMCH

OpenAI ed Anthropic stanno facendo a gara a chi ha l'AI più pericolosa ... rilassando opportunamente i meccanismi di sicurezza.
Questo per attirare investimenti ed avere ulteriori aiuti statali (in particolare contro i loro concorrenti esteri).
Prima o poi combineranno un disastro con la loro finta AI e reale arroganza.

È quel che temo e di arroganza ne scorre a fiumi.....il problema è che per dare sfogo ai sogni bagnati dei superstalloni della IA,un giorno ci rimetteremo tutti.
Stanno cercando di controllare uno strumento che loro hanno reso troppo vasto per comprendere come funziona realmente.

[Notturnia]

sfuggirà di mano.. c'è solo da sperare che il danno sia rilevante ma non grave in modo che possiamo darci una svegliata prima che sia tardi..

[Gundam.75]

Tranquilli, ci sono John e Sarah Connor ad aiutarci

[Notturnia]

Originariamente inviato da Gundam.75

Tranquilli, ci sono John e Sarah Connor ad aiutarci

mi sono sembrati invecchiati l'ultima volta che li ho visti..