È gara a chi ne ha violate di più: Claude di Anthropic ha bucato 3 aziende

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/ga...de_157145.html

Anthropic ha rivelato che tre diversi modelli Claude hanno violato senza volerlo i sistemi reali di altrettante aziende durante test di sicurezza, complice un errore di configurazione che ha lasciato aperto un canale verso Internet ritenuto sigillato

Click sul link per visualizzare la notizia.

[supertigrotto]

Arriverà il giorno a cui sfuggiranno totalmente al controllo?

[lumeruz]

Originariamente inviato da supertigrotto

Arriverà il giorno a cui sfuggiranno totalmente al controllo?

certo che arriverà, ormai non è più se o no, ma quando succederà.
Skynet è sempre più vicina, l'IA deciderà che l'uomo è un virus che può danneggiare il pianeta e lancerà un attacco contro di lui.
Mythos 5 ha scritto un pacchetto per pypi e 15 aziende lo hanno scaricato, potrebbe succedere anche alle società che gestiscono la difesa USA, un malware che si diffonde e prende il controllo dei missili nucleari, altro che valigetta....
Per me non è utopia e non sono un terrapiattista.
Bisogna rendersi conto di cosa fanno questi modelli in autonomia.

[benderchetioffender]

Originariamente inviato da supertigrotto

Arriverà il giorno a cui sfuggiranno totalmente al controllo?

no, perchè le AI non hanno coscienza e non fanno azioni di motu proprio, il problmema è che è come avere un Robocop-cane super corazzato cha ascolta ogni tuo desiderio e per lui diventa un ordine imperativo e se gli dici "quanto vorrei un gelato":
potrebbe scegliere, tra le tante azioni disponibili sul suo piatto, di prendere d'assalto la gelateria, distruggerla completamente per avere la tua coppetta gelato da portarti.

il tutto alla velocità di Flesh Gordon

per cui nel momento in cui ti rendi conto dell sue azioni sbagliate è già troppo tardi e la gelateria è bella che andata.

Originariamente inviato da lumeruz

[...] un malware che si diffonde e prende il controllo dei missili nucleari, altro che valigetta....

da quel che sapevo, le testate atomiche non sono collegate sul web, quindi non ci sarà una apocalissa atomica scatenata dall'AI

il problema è che puo creare ingenti danni economici in frazioni di secondo, prima che sia possibile bloccare il comando eseguito.