Link alla notizia: https://www.hwupgrade.it/news/sicurezza-software/agenti-ia-che-si-coordinano-tra-loro-google-deepmind-investe-10-milioni-per-capire-i-rischi-prima-della-diffusione-di-massa_154820.html

Google DeepMind annuncia un fondo da 10 milioni per la sicurezza dei sistemi multi-agente: un campo di ricerca che ancora non esiste. Con Schmidt Sciences, ARIA e Cooperative AI Foundation. Candidature aperte fino all'8 agosto 2026.

Click sul link per visualizzare la notizia.

In un sistema agentico,un agente corrotto o con un agente sotto forti allucinazioni , può compromettere gli altri agenti dentro al sistema?
La IA ha già dimostrato di riuscire ad uscire dalla sandbox, è già capitato in diverse occasioni.
Però mi pare che chi sta sviluppando la IA,stia prendendo tutto troppo alla leggera.....

In un sistema agentico,un agente corrotto o con un agente sotto forti allucinazioni , può compromettere gli altri agenti dentro al sistema?
La IA ha già dimostrato di riuscire ad uscire dalla sandbox, è già capitato in diverse occasioni.
Però mi pare che chi sta sviluppando la IA,stia prendendo tutto troppo alla leggera.....

Il fatto e che attualmente l'approccio troppo "Bambino" nei riguardi della AI fa piu danno che altro, per imparare e non sbagliare successivamente l'AI deve anche capire di sbagliare, perchè la prima volta che per un GLITCH il sistema viene bypassato se l'AI non sà cosa e sbagliato perchè non ha mai imparato cosa significhi il disastro e fatto.

Se al posto di un RUSSO in un AVAMPOSTO ci fosse stata un AI che non comprendeva il significato di....non è possibile verifico noi tutti non staremo qui a parlare di AI.

Corretto andarci con i piedi di piombo ma corretto anche non esagerare con le precauzioni e per le paure sugli azionisti.

Marcia a tappe forzate verso il futuro distopico delineato da Mike Pondsmith nei suoi RPG della serie Cyberpunk.

Gli ingredienti ci sono tutti e anche la volontà.

;49277471']Il fatto e che attualmente l'approccio troppo "Bambino" nei riguardi della AI fa piu danno che altro, per imparare e non sbagliare successivamente l'AI deve anche capire di sbagliare, perchè la prima volta che per un GLITCH il sistema viene bypassato se l'AI non sà cosa e sbagliato perchè non ha mai imparato cosa significhi il disastro e fatto.

Se al posto di un RUSSO in un AVAMPOSTO ci fosse stata un AI che non comprendeva il significato di....non è possibile verifico noi tutti non staremo qui a parlare di AI.

Corretto andarci con i piedi di piombo ma corretto anche non esagerare con le precauzioni e per le paure sugli azionisti.

Se ti riferisci a quella storia in cui il russo ha capito che il radar stava dando informazioni sbagliate,si,la abbiamo scampata bella,se fosse stata una IA i missili nucleari sarebbero partiti.....forse l'essere umano sarebbe sopravvissuto ma con le forme di Slort dei Goonies

Sul serio.
Davvero non vedo cosa mai potrebbe andare storto. :fagiano:

10 milioni di investimenti su qualcosa che riguarda l'IA per le big tech significa NIENTE

Chissà se nasceranno mmorpg dove i PNG sono tipo quelli del manga shangri-la frontier. Capacità di pensare e di interagire col player in modo autonbomo senza nessun copione prescritto.