RTX Spark apre le porte a un nuovo modo di usare il computer, preparandoci a un mondo in cui gli agenti IA potranno fare sempre più cose in locale al posto dell’utente. Ma la domanda aperta resta ancora come tutto questo verrà implementato nella pratica.
Premessa: in questo pezzo non mi dilungherò a parlare di RTX Spark come prodotto. Per quello ci sono tonnellate di contenuti online, realizzati da persone che hanno avuto modo di provare sul campo il prodotto e di fornire delle considerazioni con cognizione di causa.
C’è però da puntualizzare una cosa: ci sono due modi possibili per giudicare questo chip. Da un lato confrontando la potenza pura con quella delle macchine tradizionali, con processore x86 e grafica discreta Nvidia; dall’altro guardando a quello che effettivamente questo chip permette di fare e alle macchine che permette di costruire. Traendone conclusioni molto diverse.
Sul fronte delle prestazioni pure non siamo certamente davanti a un mostro. È sicuramente un chip molto potente, soprattutto per quanto riguarda la parte grafica, che ha prestazioni superiori a una 5070 laptop, pur incontrando a volte dei limiti dati dalla banda di memoria nettamente inferiore a una scheda video esterna come la 5070. Sul fronte CPU invece manca un po’ di spunto, soprattutto sul single core, che paga l’utilizzo dell’architettura Grace, lanciata oramai anni fa da Nvidia e realizzata in collaborazione con Mediatek. La situazione migliora se guardiamo al multi core, con prestazioni competitive con i principali processori top di gamma, ma certamente non entusiasmanti.
Questo però non è un chip giudicabile secondo le logiche tradizionali. A parte il fatto che siamo davanti a un chip realizzato inizialmente per il DGX Spark, che è in vendita da quasi due anni, e che quindi non sarebbe neanche del tutto corretto confrontare con piattaforme di ultima generazione (per quello bisognerebbe aspettare la prossima generazione di RTX Spark con i core progettati in casa da Nvidia), dobbiamo anche renderci conto che questo prodotto non risponde all’esigenza di massimizzare le prestazioni pure. Siamo invece davanti a un prodotto che deve garantire prima di tutto consumi compatibili con delle workstation portatili che devono essere relativamente sottili e leggere, e che devono poter lavorare con le massime prestazioni a batteria, e che allo stesso tempo deve garantire una enorme quantità di memoria allocabile dinamicamente alla GPU per far girare modelli pesanti in locale. E poi, certo, deve avere prestazioni sufficienti per lavorare in modo fluido all’interno dei programmi professionali con progetti pesanti aperti, senza però puntare a segnare punteggi altissimi nei benchmark o a dimostrare i tempi migliori in un rendering o in una esportazione. Tempi che oggi, con la possibilità di vedere il risultato in tempo reale all’interno degli ambienti di lavoro e senza la necessità di fare continuamente rendering per valutare il lavoro svolto, sono un valore sempre meno rilevante.
Quello che abilita questo chip è quindi un modo nuovo di usare il computer. Un’esperienza che negli ultimi mesi hanno potuto provare i possessori di Mac con M5 Pro e M5 Max, e che ora grazie a Nvidia sta arrivando anche su Windows. Un’esperienza in cui saranno sempre più determinanti gli agenti locali, che permettono di risparmiare token sui servizi cloud e allo stesso tempo di mantenere i dati sulla macchina.
Ma la parte più affascinante di questa nuova piattaforma è che siamo davanti a un continuo divenire nel modo di sfruttare la potenza e la quantità di memoria di sistema che mette a disposizione. Quale sarà la strada prevalente nei prossimi anni ancora non lo sappiamo: c’è chi punta a far usare il computer agli agenti direttamente tramite server MCP per il controllo dell’interfaccia grafica, anche se ad oggi per la maggior parte dei task questo approccio si sta rivelando lento e macchinoso; altri invece credono in un approccio meno legato al passato, in cui non sarà l’agente ad usare un software pensato per gli umani, ma svolgerà direttamente le elaborazioni necessarie per ottenere il risultato richiesto da un prompt, cosa che oggi avviene solitamente chiamando un modello in cloud, ma che a breve potrebbe avvenire direttamente il locale.
C’è quindi molta sperimentazione, ed è questo il bello di avere tra le mani una nuova piattaforma hardware. Non stiamo parlando di un miglioramento incrementale di quello che c’è oggi, ma di un cambiamento importante nel modo di lavorare che viene abilitato da questo nuovo chip e dal software che è in grado di far girare. Software che fino a oggi ha richiesto l’uso di servizi cloud e di costose API, ma che a tendere potrebbe funzionare direttamente sulla macchina locale. Macchina che sarà indubbiamente molto costosa (viaggiamo sui 7.000 euro per le versioni da 128 GB di RAM), ma che per un professionista o un’azienda potrebbe risultare conveniente e ripagarsi in poco tempo grazie al risparmio sulle fatture dei servizi cloud.