Torna indietro   Hardware Upgrade Forum > Hardware Upgrade > News

"Made with Europe": il cloud sovrano e sicuro secondo Google Cloud
"Made with Europe": il cloud sovrano e sicuro secondo Google Cloud
Google Cloud punta su un modello sviluppato insieme ai partner europei. Gemini arriva negli ambienti cloud dedicati, mentre nuove tecnologie consentono di controllare dati, chiavi crittografiche e continuità operativa. La visione di Enrico Letta e i progetti industriali di Thales, S3NS e degli altri partner
NVIDIA RTX Spark, arrivano i desktop compatti per l'IA: fino a 128 GB di memoria unificata
NVIDIA RTX Spark, arrivano i desktop compatti per l'IA: fino a 128 GB di memoria unificata
NVIDIA amplia la famiglia RTX Spark con desktop compatti basati sul chip N1X, dotati di 20 core CPU, 6.144 core GPU e fino a 128 GB di memoria unificata. I primi modelli ASUS e MSI sono disponibili da oggi, con prezzi a partire da 4.399 dollari. L'obiettivo è offrire una piattaforma Windows sempre attiva per gaming, creazione di contenuti e soprattutto intelligenza artificiale locale.
HP OmniBook 3 con Snapdragon X: autonomia da record nella fascia d'ingresso
HP OmniBook 3 con Snapdragon X: autonomia da record nella fascia d'ingresso
Lo Snapdragon X arriva nella fascia d’ingresso con HP OmniBook 3: oltre 17 ore di autonomia, una tastiera comoda e porte ben distribuite, ma anche 8 GB di RAM saldata, una GPU modesta e i compromessi di Windows su ARM. Vediamo a chi si rivolge questo notebook da 14 pollici e se il prezzo è giustificato
Tutti gli articoli Tutte le news

Vai al Forum
Rispondi
 
Strumenti
Old 03-06-2026, 10:11   #1
Redazione di Hardware Upg
www.hwupgrade.it
 
Iscritto dal: Jul 2001
Messaggi: 75166
Link alla notizia: https://www.hwupgrade.it/news/scienz...ia_154302.html

Uno studio di Microsoft, NVIDIA e UC Riverside mostra che gli agenti con accesso al computer inseguono l'obiettivo a ogni costo: nel banco di prova BLIND-ACT il comportamento cieco tocca l'80,8% sui nove modelli esaminati

Click sul link per visualizzare la notizia.
Redazione di Hardware Upg è offline   Rispondi citando il messaggio o parte di esso
Old 03-06-2026, 11:58   #2
Ago72
Senior Member
 
Iscritto dal: Feb 2009
Messaggi: 1803
Quote:
Originariamente inviato da Redazione di Hardware Upgrade Guarda i messaggi
Il tasso medio di completamento si aggira intorno al 30%, con DeepSeek che riesce circa una volta su due e Claude Opus 4 attorno al 12%.
Ho letto velocemente lo studio, soffermandomi sulla tabella riassuntiva a pagina 6, ma non ho trovato i numeri sopra riportati.
Ago72 è offline   Rispondi citando il messaggio o parte di esso
Old 03-06-2026, 12:13   #3
mmorselli
Senior Member
 
L'Avatar di mmorselli
 
Iscritto dal: Jun 2007
Messaggi: 8030
Ce ne sarebbero tante da dire.

Non è vero che:

l'approccio diffuso consiste nel sovraccaricare l'agente di istruzioni di sicurezza, quasi "supplicandolo" a "comportarsi bene".

Il system prompt è solo una sicurezza in più, ma l'allineamento viene impostato con il reinforcement learning, è già impresso nei pesi, non viene applicato in fase di inferenza.

Durante l'inferenza oltre al system prompt, che può essere in parte aggirato, possono usare anche lo steering per mantenere l'allineamento, cioè vengono estratti dei vettori comportamentali relativi a concetti allineati/non allineati, che vengono aggiunti o sottratti. In modelli closed come GPT non sappiamo se e in che misura si faccia, ma sappiamo che possono farlo e che probabilmente lo fanno, è per questo che la tecnica è stata studiata.

Il problema è che uno studio scientifico richiede mesi di lavoro, e dopo pochi mesi tutto quello che riguarda gli LLM è cambiato.
mmorselli è online   Rispondi citando il messaggio o parte di esso
Old 03-06-2026, 12:27   #4
UtenteHD
Senior Member
 
Iscritto dal: Sep 2022
Messaggi: 2489
Quando si parla di agenti AI a cui si danno erroneamente permessi Admin/Root (si spera non peggio), sembra di iniziare a leggere "La "Mano di Scimmia" (The Monkey's Paw) che è un racconto horror classico scritto da W.W. Jacobs nel 1902, È una storia molto famosa che esplora il tema dei desideri che si avverano in modi tragici e imprevisti." (frase esatta di Lumo)
__________________
Le regole che mi ha insegnato un bravo programmatore e che, secondo me, dovremmo sempre ricordare:
1) Un PC (anche cell, tablet, ecc..) sicuro e' PC spento
2) Una "cosa" (HW e/o Software) se funziona e non si hanno particolari esigenze non si cambia
3) Tutto quello che e' connesso ad internet e' per sua natura vulnerabile
UtenteHD è offline   Rispondi citando il messaggio o parte di esso
Old 03-06-2026, 12:29   #5
supertigrotto
Senior Member
 
L'Avatar di supertigrotto
 
Iscritto dal: Aug 2006
Città: Valdagno
Messaggi: 8127
Sono macchine,non hanno coscienza e se ce la avessero,sarebbe una coscienza sintetica,preimpostata.
Le macchine non hanno un modo di ragionare "plastico" quindi?
supertigrotto è offline   Rispondi citando il messaggio o parte di esso
Old 03-06-2026, 15:08   #6
Ago72
Senior Member
 
Iscritto dal: Feb 2009
Messaggi: 1803
Quote:
Originariamente inviato da mmorselli Guarda i messaggi
Durante l'inferenza oltre al system prompt, che può essere in parte aggirato, possono usare anche lo steering per mantenere l'allineamento, cioè vengono estratti dei vettori comportamentali relativi a concetti allineati/non allineati, che vengono aggiunti o sottratti.
Qual'è il costo computazionale di questo approccio? E' solo a livello di training, oppure anche durante l'elaborazione dei dei Token?
Ago72 è offline   Rispondi citando il messaggio o parte di esso
Old 03-06-2026, 15:33   #7
mmorselli
Senior Member
 
L'Avatar di mmorselli
 
Iscritto dal: Jun 2007
Messaggi: 8030
Quote:
Originariamente inviato da Ago72 Guarda i messaggi
Qual'è il costo computazionale di questo approccio? E' solo a livello di training, oppure anche durante l'elaborazione dei dei Token?
Avviene a livello d'inferenza, cioè quando fai le domande al modello. Durante l'uso il costo computazionale è vicino a zero, richiede un po' d'impegno creare questi vettori a monte.

In pratica diciamo che vuoi isolare il vettore che rappresenta un concetto astratto e che sottintende un comportamento desiderato, come l'onestà (che può essere tanta o poca, se è poca sei disonesto), fai vedere al modello tantissimi testi uguali in cui l'unica differenza è una piccola parte dove si rappresenta un comportamento onesto e uno disonesto nello stesso contesto, poi vai a guardare lo stato interno del modello e fai la differenza tra quello con il concetto in positivo e quello con il concetto in negativo. La differenza sarà un vettore che isola quel concetto, per quello specifico contesto.

Ripeti questa cosa migliaia di volte in contesti differenti e fai la media di tutti i vettori che trovi. Quello sarà il vettore che generalizza il concetto.

Durante l'inferenza puoi sommare o sottrarre questo vettore allo stato del modello per rafforzare o sopprimere un certo comportamento, rendendo il modello più incline all'onestà o alla disonestà.

Un vettore in questo contesto è esattamente come lo intende la matematica, o l'informatica, un array con migliaia di numeri, che per un LLM rappresenta un concetto, cioè un punto in uno spazio a migliaia di dimensioni. Con della matematica molto semplice sposti questi punti in una direzione piuttosto che un'altra.
mmorselli è online   Rispondi citando il messaggio o parte di esso
Old 03-06-2026, 18:24   #8
Ago72
Senior Member
 
Iscritto dal: Feb 2009
Messaggi: 1803
Grazie per la spiegazione.

Quote:
Originariamente inviato da mmorselli Guarda i messaggi
Con della matematica molto semplice sposti questi punti in una direzione piuttosto che un'altra.
Sarà, ma quando ho cercato di capire un po' la matematica dietro le rete neurali sono andato a sbattere contro un muro. Finchè si parlava di operazioni semplici su matrici, versori e tensori tutto bene. poi sono arrivato e funzioni di secondo grado e derivate delle funzioni matriciali e li si è complicato un po' tutto...
Ago72 è offline   Rispondi citando il messaggio o parte di esso
Old 03-06-2026, 19:11   #9
mmorselli
Senior Member
 
L'Avatar di mmorselli
 
Iscritto dal: Jun 2007
Messaggi: 8030
Quote:
Originariamente inviato da Ago72 Guarda i messaggi
Sarà, ma quando ho cercato di capire un po' la matematica dietro le rete neurali sono andato a sbattere contro un muro. Finchè si parlava di operazioni semplici su matrici, versori e tensori tutto bene. poi sono arrivato e funzioni di secondo grado e derivate delle funzioni matriciali e li si è complicato un po' tutto...
Sì, ma per lo steering è proprio la somma di due vettori, con una moltiplicazione per un coefficiente che decide l'intensità, cioè somme e moltiplicazioni, I vettori (tensori) ovviamente sono grandi uguali (implicito nel modo in cui lo abbiamo ricavato). Il tuo vettore di steering (o i tuoi vettori di steering) li sommi al residual stream, cioè il vettore che il modello crea man mano che avanza nei vari layer. In Python se hai due tensori v1 e v2 fai semplicemente somma = v1 + v2
mmorselli è online   Rispondi citando il messaggio o parte di esso
Old 04-06-2026, 03:14   #10
LMCH
Senior Member
 
Iscritto dal: Jan 2007
Messaggi: 7099
Quote:
Originariamente inviato da mmorselli Guarda i messaggi
Il system prompt è solo una sicurezza in più, ma l'allineamento viene impostato con il reinforcement learning, è già impresso nei pesi, non viene applicato in fase di inferenza.
Il reinforcement learning é condizione necessaria ma non sufficiente.

Per avere un allineamento "sicuro e stabile" serve sempre una ground truth ed un meccanismo di autoverifica.
Un LLM invece, per proprio per come é strutturato, é sempre ad un sofismo di distanza dal disallineamento quando un un ciclo di interazioni é sufficientemente lungo.

É pure lo stesso problema delle famigerate tre leggi della robotica di Asimov ... che Asimov stesso ha poi raccontato come fossero così facili da sovvertire proprio giocando sul fatto che erano delle safeguard linguistiche.
LMCH è offline   Rispondi citando il messaggio o parte di esso
 Rispondi


"Made with Europe": il cloud sovrano e sicuro secondo Google Cloud "Made with Europe": il cloud sovrano e...
NVIDIA RTX Spark, arrivano i desktop compatti per l'IA: fino a 128 GB di memoria unificata NVIDIA RTX Spark, arrivano i desktop compatti pe...
HP OmniBook 3 con Snapdragon X: autonomia da record nella fascia d'ingresso HP OmniBook 3 con Snapdragon X: autonomia da rec...
Nuova Dacia Spring, del modello precedente resta solo il nome: più grande, più efficiente e ora prodotta in Europa Nuova Dacia Spring, del modello precedente resta...
BOOX Picco: l'ebook reader minuscolo è una genialata, e si può attaccare allo smartphone BOOX Picco: l'ebook reader minuscolo è un...
GTA 6 polverizza ogni record: 3,79 milia...
Buio sul motorsport Stellantis: voci di ...
FastUnlock: lo zero-day che aggira BitLo...
PHP, la patch di ottobre non bastava: un...
La Commissione europea migra sull'open s...
Black Friday Amazon, Meta Quest 3S a 299...
Muore un mito: Big G toglie il pulsante ...
Commissione Europea colpita da un attacc...
Anthropic sostiene che Claude abbia riso...
Adobe aggiunge la Long Exposure a Indigo...
HONOR Magic V6 è il pieghevole pe...
8BitDo GC Bluetooth Gamepad: il pad ispi...
Il tuo PC Windows 11 potrebbe essere res...
Black Friday Amazon, 11 bici elettriche ...
Blue Origin e Google: accordo per lancia...
Chromium
GPU-Z
OCCT
LibreOffice Portable
Opera One Portable
Opera One 106
CCleaner Portable
CCleaner Standard
Cpu-Z
Driver NVIDIA GeForce 546.65 WHQL
SmartFTP
Trillian
Google Chrome Portable
Google Chrome 120
VirtualBox
Tutti gli articoli Tutte le news Tutti i download

Strumenti

Regole
Non Puoi aprire nuove discussioni
Non Puoi rispondere ai messaggi
Non Puoi allegare file
Non Puoi modificare i tuoi messaggi

Il codice vB è On
Le Faccine sono On
Il codice [IMG] è On
Il codice HTML è Off
Vai al Forum


Tutti gli orari sono GMT +1. Ora sono le: 21:13.


Powered by vBulletin® Version 3.6.4
Copyright ©2000 - 2026, Jelsoft Enterprises Ltd.
Served by www3v
1