La sfida del dissipamento termico rappresenta uno dei freni più critici all'espansione dell'intelligenza artificiale. Mentre i processori sono capaci di elaborare quantità enormi di dati, la memoria ad alta larghezza di banda fatica a stare al passo, creando un collo di bottiglia noto come "memory wall". Le soluzioni attuali, come la memoria HBM3E integrata nei processori NVIDIA Blackwell Ultra B300, tentano di risolvere il problema impilando verticalmente decine di chip, ma questo approccio genera problemi termici significativi: il calore rimane intrappolato negli strati inferiori della pila, obbligato a traversare molteplici barriere di silicio e materiali prima di raggiungere il dissipatore.
Ora due team internazionali propongono una soluzione radicalmente diversa. I ricercatori dell'Università di Scienza e Tecnologia Ulsan in Corea del Sud hanno sviluppato il progetto V-Die, che orienta i chip di memoria verticalmente sul substrato, disponendoli come le alette di un radiatore. Questo design consente di inserire canali di raffreddamento liquido direttamente tra i die adiacenti, migliorando drasticamente la dispersione termica. Simultaneamente, il team dell'Università di Tokyo ha presentato MOSAIC, un'architettura che utilizza bobine induttive microscopiche per trasferire i dati senza contatti fisici diretti, eliminando la necessità di un allineamento perfetto tra le connessioni.
I numeri parlano da soli. Nel test simulato su un carico di lavoro analogo a GPT-3, il sistema V-Die ha raggiunto 540 token elaborati al secondo rispetto ai 296 della configurazione HBM4 contemporanea: quasi il doppio delle prestazioni. Inoltre, eliminando i through-silicon via tradizionali, questo approccio libera spazio utilizzabile per le celle di memoria vere e proprie, aumentando la densità di archiviazione fino a quattro volte rispetto a HBM4, mentre riduce i tempi di lettura del 37%. Il prototipo MOSAIC ha raggiunto 4 gigabit per secondo per canale e potrebbe potenzialmente raddoppiare la capacità di una soluzione HBM4 in configurazione DRAM-on-GPU.
Ma restano ostacoli significativi prima che queste tecnologie raggiungano il mercato. Entrambe rimangono ricerche sperimentali, non ancora validate commercialmente né pronte alla produzione su larga scala. L'implementazione richiederebbe sviluppare completamente nuovi processi di assemblaggio, creare interfacce proprietarie e affrontare complesse questioni di integrità del segnale. Nel caso di V-Die, alcuni percorsi dati devono attraversare distanze maggiori sul substrato, introducendo sfide di progettazione e sincronizzazione.
Nondimeno, l'interesse per questi approcci riflette l'urgenza del settore di superare i limiti fisici dell'architettura attuale. Con il consumo energetico dei data center per l'IA in crescita esponenziale, persino le strategie più estreme—come il raffreddamento dei server tramite acqua marina—vengono prese sul serio dalle aziende. Se V-Die e MOSAIC riusciranno a superare la fase sperimentale, potrebbero rappresentare il prossimo salto generazionale nel calcolo accelerato, liberando finalmente la potenza computazionale dai vincoli termici che ancora la frenano.
