Linux in crisi di memoria: troppa VRAM manda il pinguino nel pallone

L'utilizzo di acceleratori AMD Instinct di ultima generazione in ambienti server sta portando alla luce un inatteso problema nel sistema di ibernazione di Linux. Con otto GPU equipaggiate con 192 GB di memoria video ciascuna, i server AI possono arrivare a gestire oltre 1,5 TB di sola VRAM. In scenari con 2 TB di RAM di sistema, il tentativo di ibernare la macchina può fallire proprio per carenza di memoria libera.

Come riportato da Phoronix, a evidenziare la questione è stato l'ingegnere di AMD Samuel Zhang, che ha spiegato come il comportamento attuale del kernel Linux provochi, in fase di ibernazione, la duplicazione dei contenuti della VRAM nella memoria di sistema. In particolare, i dati presenti nella VRAM vengono spostati o rimossi da essa, per essere trasferiti altrove, nella GTT - Graphics Translation Table - o nella shmem - shared memory, entrambe risiedenti nella RAM, e successivamente copiata nell'immagine di ibernazione scritta su disco (swap). Questo processo può portare, nei casi peggiori, a utilizzare il doppio della memoria video presente nel sistema, arrivando così a superare la disponibilità di RAM.

Zhang ha pubblicato una serie di patch per affrontare questo limite, intervenendo sia sul gestore di alimentazione del kernel Linux sia sul driver AMDGPU. Le modifiche principali prevedono: spostamento dei dati da GTT a memoria condivisa, con successiva liberazione delle pagine GTT; scrittura forzata delle pagine condivise su disco di swap, liberando così ulteriore memoria.

Oltre al problema di esaurimento della RAM, è stato osservato che il ripristino del sistema dallo stato di ibernazione, può richiedere fino a 50 minuti a causa del caricamento dei buffer objects (BOs) dalla VRAM. Una terza patch proposta mira proprio a evitare questo passaggio, dato che le GPU non vengono utilizzate durante le fasi successive alla ripresa dell'operatività.

Sebbene molti server AI siano operativi 24/7 e raramente vengano ibernati, in alcuni contesti specifici questa funzione resta importante per contenere i consumi energetici. L'arrivo delle patch nel kernel principale non è ancora certo, ma la revisione è in corso.