RTX Spark è la soluzione di Nvidia per rendere (davvero) agentici i PC Windows

Finora i notebook Windows hanno fatto fatica a soddisfare le esigenze di chi vuole far giare modelli IA e agenti in locale, a causa di limiti hardware, in primis la scarsità di memoria allocabile alla GPU, la cui abbondanza sulla piattaforma Apple Silicon ha reso d’altro canto MacBook Pro, Mac Mini e Mac Studio soluzioni molto popolari tra chi voleva far girare modelli in locale. Non solo: mentre la strategia Copilot + PC si è rivelata inefficace, ora stanno per arrivare sul mercato i Googlebook con Gemini profondamente integrato. Microsoft aveva quindi bisogno di rivedere la sua strategia per integrare l’IA all’interno di Windows: riuscirà Nvidia a portare l’IA agentica sui notebook Windows?

Microsoft è stata la prima tra le big tech a puntare sull’integrazione dell’IA a livello di sistema con i Copilot + PC, annunciati a metà 2024 in partnership con Qualcomm, la quale aveva bisogno di dare una spinta a quello che all’epoca era il suo nuovo chip per i laptop, lo Snapdragon X. Oggi, a distanza di un paio d’anni, è evidente (ma si era intuito fin da subito) che quella di Microsoft è stata più che altro una mossa di marketing per dare una spinta a Windows on ARM e al nuovo chip di Qualcomm, e non uno sforzo serio per rendere veramente “intelligenti” i PC Windows. Un modo, in fin dei conti, per dire di avere una visione per il futuro di Windows e del personal computer incentrata sull’IA, quando l’unica visione era quella di parlare di IA perché era il trend del momento e sentirne parlare faceva piacere agli azionisti.

Oggi però l’IA non è più solo uno strumento di marketing o una tendenza momentanea, ma è la tecnologia che abbastanza velocemente sta cambiando le abitudini e il modo di lavorare di milioni di persone in tutto il mondo. Microsoft certamente non è indietro sull’IA, tuttavia doveva recuperare terreno in termini di integrazione degli agenti all’interno di Windows e di semplicità di utilizzo.

Il paradosso è che Apple, che sui modelli è stata ultimamente in forte ritardo, tanto che ha reso ufficiale proprio ieri che i suoi nuovi “foundation models” sono stati realizzati sulla base del lavoro fatto da Google per Gemini, è in realtà in netto vantaggio rispetto a Microsoft se consideriamo l’uso di modelli e agenti installati in locale sul computer; questo grazie all’architettura dei SoC Apple Silicon, che consentono di portarsi a casa configurazioni con grandi quantità di memoria unificata a cui CPU, GPU, e neural engine possono accedere con bassa latenza e banda relativamente elevata per la categoria di prodotto. Questo ha permesso agli sviluppatori di creare una miriade di strumenti (agentici e non) da installare in locale e ben integrati con il sistema e con le applicazioni, tanto che oggi, pur essendo comunque in una fase iniziale, è più facile per un utente che si sta approcciando all’IA locale, cominciare con un Mac piuttosto che con un PC, anche per la maggiore facilità di utilizzo degli strumenti, che molto spesso sono facili da installare e si possono usare comodamente tramite interfaccia grafica. Non siamo ancora ai livelli di semplicità dell’App Store, ma il beneficio rispetto a un PC è notevole, se pensiamo che su PC bisogna avere molta più esperienza per usare l’IA locale, se non altro per la frequente necessità di passare attraverso interfacce a riga di comando e a causa della frammentazione delle piattaforme hardware. Insomma, usare l’IA locale su PC, ad oggi, è perfettamente possibile, ma richiede competenze informatiche non certo da tutti e hardware di un certo livello, in particolare schede Nvidia con tanta VRAM, il che preclude l’uso di strumenti avanzati sui laptop, che possono contare su quantità di memoria dedicata alla GPU troppo piccole per far girare modelli da decine di miliardi di parametri.

Il secondo paradosso è arrivato un mese fa con l’annuncio da parte di Google dei Googlebook, i portatili con Gemini integrato profondamente a livello di sistema. Google non ha neanche provato a integrare i modelli in locale, seguendo invece una ricetta analoga a quella che l’ha portata finora ad avere successo con i Chromebook, ovvero vendere computer leggeri, spostando in questo caso non solo i contenuti, ma anche l’elaborazione, in cloud. Google, due anni dopo l’introduzione da parte di Microsoft dei Copilot + PC, porta sul mercato una famiglia di notebook in cui l’IA è davvero integrata profondamente e nativamente a livello di sistema, e lo sarà probabilmente sempre di più in futuro, senza bisogno di alcuna elaborazione in locale. Google, del resto, ha già abituato da una vita gli utenti su mobile a tenere tutto in cloud, perciò quando gli utenti Android inizieranno a usare i Googlebook, i loro dati saranno già sul cloud di Google, pronti per essere elaborati da Gemini.

Microsoft, in tutto questo gran polverone, se guardiamo all’integrazione dell’IA nei PC Windows è rimasta un po’ tagliata fuori. Ecco perché si è interessata molto a RTX Spark e lo ha presentato congiuntamente con Nvidia; probabilmente perché vede in questo chip, e in quelli che verranno, una soluzione per integrare finalmente modelli IA potenti e agentici nel suo sistema, soprattutto sui laptop, che, come abbiamo detto sopra, sono rimasti finora abbastanza esclusi, a differenza dei MacBook Pro, per limiti hardware, e in particolare per la quantità insufficiente di memoria allocabile alla scheda video. RTX Spark porta quindi una piattaforma “alla Apple Silicon” sui laptop e mini pc Windows, permettendo quindi l’integrazione molto più agevole e con ottime prestazioni di modelli con decine di miliardi di parametri, in grado di rendere agentici computer con fattori di forma che fino ad oggi erano limitati ad alcune soluzioni AMD, che tuttavia non avranno mai le prestazioni e il supporto software che può avere un chip che di fatto ha la parte grafica equivalente a una 5070 e con il supporto nativo a tutto lo stack di tecnologie Nvidia, che oggi sono fondamentali in questo settore.