Quando un’azienda porta l’intelligenza artificiale nel proprio data center, la prima domanda sembra essere “quale GPU acquistare?”. Subito dopo ne arriva un’altra, più operativa: come farla lavorare bene, con controlli adeguati e senza creare un’infrastruttura separata da amministrare? È qui che la virtualizzazione può fare la differenza.
Il valore non è solo aggiungere acceleratori
Le GPU sono risorse costose e spesso limitate. Se ogni progetto riceve un server dedicato, una parte della capacità può restare inutilizzata mentre altri team aspettano. Una piattaforma virtualizzata aiuta a inserire i carichi AI nello stesso modello operativo usato per il resto del data center: provisioning, controllo degli accessi, reti, storage, monitoraggio e manutenzione.
Questo non significa che ogni GPU si possa dividere liberamente o che tutte le applicazioni debbano condividere lo stesso acceleratore. Le modalità disponibili dipendono da modello della GPU, driver, licenze e requisiti del carico. L’obiettivo è scegliere la granularità corretta, mantenendo visibili consumi e responsabilità.
Condivisione e isolamento vanno progettati insieme
Con tecnologie come NVIDIA vGPU, più macchine virtuali possono usare profili di una GPU fisica; su hardware compatibile, Multi-Instance GPU crea partizioni dedicate. Il passthrough assegna invece il dispositivo direttamente alla VM, con più isolamento e vincoli diversi sulla mobilità. Per esempio, Broadcom descrive come le VM con vGPU possano usare vMotion, mentre il passthrough tradizionale non offre la stessa possibilità; Enhanced DirectPath I/O può aggiungere funzioni di mobilità sui dispositivi supportati. La scelta va verificata sulla configurazione concreta.
In pratica, un ambiente può combinare profili condivisi per sviluppo e inferenza meno sensibile alla latenza, istanze isolate per gruppi o modelli che lo richiedono e assegnazione dedicata per carichi specifici. Non esiste un profilo universale: servono prove con i modelli, i batch e i livelli di concorrenza reali.
Prestazioni: misurare il proprio caso d’uso
La virtualizzazione non è automaticamente un collo di bottiglia, ma nemmeno garantisce prestazioni identiche in ogni scenario. In test pubblicati da Broadcom e NVIDIA nel 2025, alcuni carichi AI su vSphere 8.0 U3 hanno raggiunto prestazioni comprese tra il 95% e il 100% del bare metal. È un risultato circoscritto a configurazioni e benchmark specifici, non una promessa valida per qualsiasi GPU o applicazione. Per decidere, occorre misurare throughput, latenza, utilizzo della memoria GPU e tempi di addestramento sul proprio stack.
Una checklist prima di partire
- Classificare i carichi: training, fine-tuning, inferenza o sviluppo.
- Verificare compatibilità di server, GPU, hypervisor, driver e licenze.
- Stabilire quali team possono condividere acceleratori e quali richiedono isolamento.
- Misurare utilizzo e prestazioni con dati e modelli rappresentativi.
- Definire quote, monitoraggio, aggiornamenti e finestre di manutenzione.
Il vantaggio della virtualizzazione, quindi, non è “fare AI gratis” né trasformare ogni GPU in una risorsa indistinta. È poter integrare accelerazione, governance e gestione del ciclo di vita in una piattaforma comune. Per molte organizzazioni, partire da un progetto pilota misurabile è il modo più concreto per capire quanta capacità condividere e quale livello di isolamento adottare.
Fonti per approfondire
- Broadcom: Securing Your Own AI Workloads in VCF — modalità di accesso alle GPU e considerazioni operative.
- Broadcom: Near-Bare-Metal Performance for Virtualized AI/ML — risultati dei benchmark citati e relativo contesto.