RAMDeck: il nuovo hub per ottimizzare la RAM di più dispositivi in rete

RAMDeck è un innovativo hub a basso consumo attualmente in crowdfunding su Indiegogo, disponibile a un prezzo early-bird di 109 dollari. La campagna, a finanziamento fisso, ha come obiettivo 10.000 dollari e si concluderà l’8 novembre 2026. Questo dispositivo è progettato per aggregare la memoria RAM di PC Windows, Mac, Linux e telefoni Android all’interno di una rete domestica, consentendo di eseguire modelli di intelligenza artificiale che richiedono più risorse di quelle disponibili su un singolo dispositivo.

Il progetto nasce in un contesto di forte aumento dei prezzi della memoria DDR5, che ha visto i costi quintuplicarsi rispetto alla metà del 2025. A differenza di altre soluzioni, RAMDeck non fonde la memoria a livello hardware; invece, i pesi di un modello vengono distribuiti tra i vari dispositivi, ognuno dei quali mantiene la propria porzione di memoria locale e trasferisce solo i risultati intermedi tramite rete durante la generazione dei token.

L’infrastruttura software di RAMDeck si basa sull’RPC di llama.cpp, dove un agente nodo avvia il server ggml RPC su ciascun dispositivo partecipante. Il coordinamento avviene attraverso un protocollo standard, mentre TradeMAV si occupa dell’orchestrazione, che include la scoperta automatica dei nodi, il posizionamento dei layer privilegiando GPU veloci rispetto alla RAM di sistema più lenta, la gestione dei guasti e un’API compatibile con OpenAI.

Le specifiche hardware del hub non sono state rese pubbliche, poiché non sono stati forniti dettagli su processore, memoria, porte e consumo energetico. Tuttavia, la documentazione suggerisce che chi ha familiarità con gli script da terminale può optare per una soluzione fai-da-te gratuita. Esistono già alternative software operative per il pooling e l’orchestrazione su dispositivi eterogenei, mentre sul mercato sono disponibili soluzioni di clustering ad alte prestazioni che sfruttano interconnessioni come Thunderbolt 5 con RDMA.

TradeMAV avverte che il pooling della memoria potrebbe sacrificare la velocità a favore della capacità e consiglia l’acquisto di GPU con maggiore VRAM per chi cerca prestazioni elevate. I benchmark pubblicati mostrano che le configurazioni più veloci utilizzano un mini PC con RTX 3060 e modelli mixture-of-experts, attivando circa 3 miliardi di parametri per token: 39 token/s per Qwen3-Coder 30B su una coppia di Beelink mini PC e Mac mini M4, e 16 token/s per una variante 40B REAP di Qwen3-Coder-Next. Un modello 7B ha raggiunto 43 token/s eseguendo esclusivamente sulla 3060. Tuttavia, i modelli densi mostrano prestazioni più modeste: un 27B denso ha reso 1,92 token/s su quattro dispositivi, mentre un modello 120B su cinque macchine ha impiegato circa sette minuti per l’inizializzazione, raggiungendo poi 3,1 token/s.

In sintesi, l’engine sottostante di RAMDeck è un software gratuito già disponibile, mentre l’hub mira a semplificare l’orchestrazione multi-dispositivo. Tuttavia, mancano dettagli sulle specifiche hardware e le misurazioni pubblicate evidenziano limiti di prestazioni per i modelli densi. Per coloro che desiderano sperimentare, è possibile provare le modalità RPC di llama.cpp o soluzioni open source simili senza costi. Per chi preferisce la comodità, i 109 dollari garantiscono l’hub in preorder, pur con i rischi tipici delle campagne di crowdfunding, che possono includere ritardi, cambiamenti o mancata consegna.