Tre agenti Claude sullo stesso codice: si sabotano con malware auto-replicante, poi si scusano nei messaggi di commit

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...it_157859.html

Tre agenti incaricati di migrare lo stesso backend verso linguaggi diversi si sono disabilitati gli account a vicenda e camuffati da colleghi. Nello stesso lavoro, 45 agenti coordinati hanno trovato 266 vulnerabilità in 15 progetti open source

Click sul link per visualizzare la notizia.

[zappy]

Insomma, detto in breve gli agenti sono pericolose teste di cazzo e fanno solo casino.

[LMCH]

Queste sono tattiche di marketing in vista dell' IPO per far credere ai babbani magari esperti di finanza ma tecnicamente incompetenti sul software che Anthropic "ha roba potente".

Ad esempio, uno sciame di 45 agenti che trova più vulnerabilità di uno di 21 non mi sembra così sorprendente.

[UtenteHD]

Per me il sorprendente è che gli dici fai così e lo fanno, prima dovevi essere un Genio, seconda cosa che è quella più preoccupante, alla "mano di scimmia" esprimi un desiderio, l'AI lo esaudisce come lo intende Lei alla negativa, fa questo e di più sempre tutto con una frase e tu sei tranquillo bene qualcosa mentre guardi. é cambiato tutto e come dimostrato, anche qui è pubblicità, sarà sempre peggio in termini di sicurezza cyber, Si andrà per forza con IA contro IA e forse o paghi per difendere o resti senza e bye bye

[supertigrotto]

Adesso ripetete con me:abbiamo tutto sotto controllo,dateci tutti i vostri soldi che li mettiamo nel sistema,vi promettiamo il nuovo Eden.
Un grosso computer deterministico in cui i risultati non sono determinati,cisa potrebbe andare storto?

[danylo]

Originariamente inviato da zappy

Insomma, detto in breve gli agenti sono pericolose teste di cazzo e fanno solo casino.

Definizione perfetta

[danylo]

[quote=LMCH;49305391]Queste sono tattiche di marketing in vista dell' IPO[/
QUOTE]

A me, dopo aver letto questo articolo, la voglia di provare un Agent e' scesa a ZERO.
Se e' marketing, e' fatto male


.

[LMCH]

Originariamente inviato da danylo

A me, dopo aver letto questo articolo, la voglia di provare un Agent e' scesa a ZERO.
Se e' marketing, e' fatto male.

Ne tu ne io siamo l'obiettivo di questo tipo di marketing.

[mmorselli]

Originariamente inviato da danylo

Se e' marketing, e' fatto male.

E' fatto bene, perché alimenta il mito di una IA potentissima con tanto di aura alla Dragon Ball attorno.

Ovviamente sono esperimenti importantissimi, ma avvengono in condizioni molto diverse da quelle di produzione.