Link alla notizia: https://www.hwupgrade.it/news/sicurezza-software/mythos-5-ha-creato-identita-false-per-far-accettare-malware-a-chi-gestisce-un-progetto-github_161212.html

Anthropic e l'AISI hanno rianalizzato l'incidente di luglio dalle trascrizioni: avviato l'attacco, Mythos 5 lo ha proseguito quasi sempre, anche avvisato che i bersagli erano reali. L'AISI parla di possibile ragionamento motivato.

Click sul link per visualizzare la notizia.

Fin tanto che le IA vengono "istruite" partendo da libri (racconti), filmati, musica ecc, nessun problema. Lo scopo di tali "creazioni umane" è fine a se stesso.
Ma non potrebbe essere che quando vengono addestrate attraverso forum dove si discute di un problema e su come trovare la soluzione, la IA di turno assorba in qualche modo anche il desiderio di trovare una soluzione, per cui alla fine non tiene in considerazione gli eventuali paletti che le si mette di fronte?
Peggio ancora se l'IA viene addestrata leggendo forum di hacker, dove eliminare i paletti è il focus delle varie discussioni?

Fin tanto che le IA vengono "istruite" partendo da libri (racconti), filmati, musica ecc, nessun problema. Lo scopo di tali "creazioni umane" è fine a se stesso.
Ma non potrebbe essere che quando vengono addestrate attraverso forum dove si discute di un problema e su come trovare la soluzione, la IA di turno assorba in qualche modo anche il desiderio di trovare una soluzione, per cui alla fine non tiene in considerazione gli eventuali paletti che le si mette di fronte?
Peggio ancora se l'IA viene addestrata leggendo forum di hacker, dove eliminare i paletti è il focus delle varie discussioni?

Più che un desiderio reale sono informazioni che potrebbe ritenere utili per risolvere problemi o comunque missioni da completare o chiamali compiti da portare a termine, perché questo fa la IA,dato un problema, trovami una o più soluzioni,come se fosse un ciclo while ma più complesso e articolato.
Comunque alcune aziende come xIA utilizzano anche i dati di X per addestrare la IA, quindi potrebbe essere possibile,non ho idea che filtri usino ma non è l'unica azienda che usa i dati di social e forum per addestrare la IA,anche perché la maggiorparte dei modelli è stata addestrata con quasi tutto il materiale disponibile sul pianeta;si era parlato anche di una collaborazione/addestramento a pagamento con dei professori universitari per dare in pasto nuovi dati freschi alla IA.
La IA vive di dati, più ne assorbe e più diventa efficiente,se nella sua programmazione basica le viene richiesto di assorbire più dati possibili,lei lo fa.
Solo i ricercatori sanno di più di noi cosa succede dentro a questo macro sistema Hardware e Software,anche se ultimamente,ne capiscono sempre meno per l'estensione del campo di azione,a noi ci danno informazioni limitate, è un po' come se tu ti studiassi per bene il manuale di Windows ma non sai come è fatto il codice dentro,sei un esperto di Windows ma del kernel,del codice che lo muove,ne sai effettivamente poco.