Intelligenza artificiale nei PC: NVIDIA va oltre l'hardware. Cosa bolle in pentola

NVIDIA ha annunciato importanti novità per lo sviluppo e l'integrazione dell'intelligenza artificiale nei PC AI equipaggiati con GPU GeForce RTX. Queste novità mirano a facilitare l'adozione di strumenti AI locali e accelerati su Windows 11, con nuove soluzioni pensate per sviluppatori, appassionati e creatori di contenuti.

Clicca per ingrandire

Tra le innovazioni principali figura TensorRT per RTX, una versione ripensata del motore di inferenza AI di NVIDIA, ora integrata nativamente in Windows ML, lo stack di inferenza annunciato da Microsoft. Windows ML, basato su ONNX Runtime, consente agli sviluppatori di integrare l'AI nelle applicazioni Windows mantenendo compatibilità hardware e prestazioni elevate.

Clicca per ingrandire

TensorRT per RTX offre prestazioni superiori del 50% rispetto a DirectML e supporta la creazione di motori di inferenza just-in-time direttamente sul dispositivo. Questo approccio elimina la necessità di precompilare e distribuire motori di inferenza, semplificando il processo di sviluppo e riducendo l'ingombro del pacchetto di ben otto volte.

Clicca per ingrandire

Windows ML offre anche vantaggi in termini di qualità della vita per lo sviluppatore. È in grado di selezionare automaticamente l'hardware giusto per l'esecuzione di ogni funzione di intelligenza artificiale e di scaricare il provider di esecuzione per tale hardware, eliminando la necessità di inserire i file nella propria applicazione. Ciò consente a NVIDIA di fornire agli utenti le ultime ottimizzazioni delle prestazioni di TensorRT non appena queste sono pronte. Inoltre, essendo costruito su ONNX Runtime, Windows ML funziona con qualsiasi modello ONNX. TensorRT per RTX è già disponibile tramite la preview di Windows ML e sarà distribuito come SDK standalone a partire da giugno.

Clicca per ingrandire

Parallelamente, NVIDIA ha introdotto NIM (NVIDIA Inference Microservices), un set di microservizi "containerizzati" che offrono modelli AI preconfigurati e ottimizzati per GPU RTX. Questi NIM semplificano l'uso di modelli AI locali, eliminando la necessità di configurazioni complesse. Tra i nuovi modelli rilasciati vi sono il FLUX.1-schnell, un generatore di immagini sviluppato da Black Forest Labs, e una versione aggiornata del FLUX.1-dev, compatibile con le GPU GeForce RTX delle serie 40 e 50. I modelli sfruttano TensorRT e quantizzazione per prestazioni elevate, con miglioramenti significativi anche su GPU Blackwell grazie all'uso di FP4.

Clicca per ingrandire

Clicca per ingrandire

Per chi desidera esplorare e personalizzare flussi di lavoro AI senza scrivere codice, NVIDIA ha esteso le capacità di Project G-Assist, un assistente AI integrato nell'app NVIDIA, che consente il controllo del sistema via comandi vocali e testuali. Gli sviluppatori possono ora creare plug-in per G-Assist con il nuovo Plug-in Builder, uno strumento basato su ChatGPT per la creazione low-code o no-code di assistenti personalizzati.

Sono già disponibili diversi plug-in open source su GitHub, tra cui:

• Gemini: plug-in basato su Google Gemini con funzionalità di ricerca in tempo reale.
• IFTTT: consente automazioni con dispositivi smart e sistemi domotici.
• Spotify e Twitch: per il controllo vocale della musica o monitoraggio dello stato delle dirette streaming.
• Discord: per condividere rapidamente contenuti durante le sessioni di gioco.

Aderendo al trend di AI come nuova interfaccia per il PC, aziende terze stanno iniziando a integrare G-Assist. SignalRGB, ad esempio, sta sviluppando un plug-in per unificare il controllo dell'illuminazione RGB tra dispositivi di diversi produttori.

NVIDIA ha inoltre evidenziato l'adozione dei suoi SDK AI da parte di importanti sviluppatori di software. Autodesk VRED e Chaos Enscape stanno introducendo DLSS 4 per migliorare la qualità grafica e le prestazioni. Topaz sta lanciando un nuovo modello video generativo accelerato da CUDA. La piattaforma Bilibili Livehime integra invece NVIDIA Broadcast per migliorare le dirette streaming.

Clicca per ingrandire

Infine, NVIDIA ha presentato nuovi Blueprint AI, progetti open source per aiutare sviluppatori ad avviare rapidamente flussi AI personalizzati. Tra questi, spicca il 3D Guided Generative AI Blueprint, che permette di controllare composizione e angoli di camera delle immagini generate utilizzando scene 3D come riferimento.