Agenti IA che si coordinano tra loro: Google DeepMind investe 10 milioni per capire i rischi prima della diffusione di massa

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/sicure...sa_154820.html

Google DeepMind annuncia un fondo da 10 milioni per la sicurezza dei sistemi multi-agente: un campo di ricerca che ancora non esiste. Con Schmidt Sciences, ARIA e Cooperative AI Foundation. Candidature aperte fino all'8 agosto 2026.

Click sul link per visualizzare la notizia.

[supertigrotto]

In un sistema agentico,un agente corrotto o con un agente sotto forti allucinazioni , può compromettere gli altri agenti dentro al sistema?
La IA ha già dimostrato di riuscire ad uscire dalla sandbox, è già capitato in diverse occasioni.
Però mi pare che chi sta sviluppando la IA,stia prendendo tutto troppo alla leggera.....

[Gringo [ITF]]

Originariamente inviato da supertigrotto

In un sistema agentico,un agente corrotto o con un agente sotto forti allucinazioni , può compromettere gli altri agenti dentro al sistema?
La IA ha già dimostrato di riuscire ad uscire dalla sandbox, è già capitato in diverse occasioni.
Però mi pare che chi sta sviluppando la IA,stia prendendo tutto troppo alla leggera.....

Il fatto e che attualmente l'approccio troppo "Bambino" nei riguardi della AI fa piu danno che altro, per imparare e non sbagliare successivamente l'AI deve anche capire di sbagliare, perchè la prima volta che per un GLITCH il sistema viene bypassato se l'AI non sà cosa e sbagliato perchè non ha mai imparato cosa significhi il disastro e fatto.

Se al posto di un RUSSO in un AVAMPOSTO ci fosse stata un AI che non comprendeva il significato di....non è possibile verifico noi tutti non staremo qui a parlare di AI.

Corretto andarci con i piedi di piombo ma corretto anche non esagerare con le precauzioni e per le paure sugli azionisti.

[Hocico]

Marcia a tappe forzate verso il futuro distopico delineato da Mike Pondsmith nei suoi RPG della serie Cyberpunk.

Gli ingredienti ci sono tutti e anche la volontà.

[supertigrotto]

Originariamente inviato da Gringo [ITF]

Il fatto e che attualmente l'approccio troppo "Bambino" nei riguardi della AI fa piu danno che altro, per imparare e non sbagliare successivamente l'AI deve anche capire di sbagliare, perchè la prima volta che per un GLITCH il sistema viene bypassato se l'AI non sà cosa e sbagliato perchè non ha mai imparato cosa significhi il disastro e fatto.

Se al posto di un RUSSO in un AVAMPOSTO ci fosse stata un AI che non comprendeva il significato di....non è possibile verifico noi tutti non staremo qui a parlare di AI.

Corretto andarci con i piedi di piombo ma corretto anche non esagerare con le precauzioni e per le paure sugli azionisti.

Se ti riferisci a quella storia in cui il russo ha capito che il radar stava dando informazioni sbagliate,si,la abbiamo scampata bella,se fosse stata una IA i missili nucleari sarebbero partiti.....forse l'essere umano sarebbe sopravvissuto ma con le forme di Slort dei Goonies

[demon77]

Sul serio.
Davvero non vedo cosa mai potrebbe andare storto.

[Fantapollo]

10 milioni di investimenti su qualcosa che riguarda l'IA per le big tech significa NIENTE

[Apple80]

Chissà se nasceranno mmorpg dove i PNG sono tipo quelli del manga shangri-la frontier. Capacità di pensare e di interagire col player in modo autonbomo senza nessun copione prescritto.