Durante il Microsoft Build 2023, Qualcomm ha mostrato le sue ultime innovazioni nel campo dell’AI on-device tra cui l’IA generativa in esecuzione sulle piattaforme di calcolo Snapdragon, oltre a nuovi percorsi per gli sviluppatori che realizzano applicazioni per i PC Windows 11 alimentati da Snapdragon. “Affinché l’IA generativa diventi veramente mainstream, gran parte dell’inferenza dovrà essere eseguita sui dispositivi edge” ha dichiarato Ziad Asghar, senior vice president of product management di Qualcomm.

Il futuro dell’IA deve includere sia l’IA su dispositivo, sia quella su cloud. L’esecuzione di applicazioni IA sul dispositivo migliora l’efficacia dei costi, la privacy, la personalizzazione e la latenza. Le piattaforme Snapdragon includono un Qualcomm AI Engine dedicato che elabora i carichi di lavoro di intelligenza artificiale in modo più efficiente rispetto all’elaborazione puramente su CPU o GPU, rendendo possibile l’AI on-device anche in dispositivi piccoli, sottili e leggeri.

Stable Diffusion, un modello di IA generativa da testo a immagine con oltre 1 miliardo di parametri, viene ora eseguito interamente sul dispositivo e l’azienda afferma di vedere un percorso chiaro per l’esecuzione di modelli con fino a 10 miliardi di parametri sui dispositivi nei prossimi mesi, compresi i modelli linguistici di grandi dimensioni (LLM). Con ONNX Runtime e Qualcomm AI Stack, oggi è possibile eseguire i carichi di lavoro IA su Snapdragon 8cx Gen 3 AI Engine sia su Surface Pro 9 5G, sia su Lenovo ThinkPad x13s.

qualcomm microsoft ia

“Per estendere l’IA al vasto universo dei dispositivi e delle applicazioni, sono necessari sia il cloud, sia l’elaborazione dei dispositivi” ha dichiarato Pavan Davuluri, Corporate VP, Windows Silicon and System Integration di Microsoft. “Unendo la leadership di Microsoft nel cloud AI e le capacità della piattaforma Windows con l’esperienza di Qualcomm Technologies nell’AI su dispositivo, accelereremo le opportunità di esperienze di AI generativa”.

Sempre durante Microsoft Build Qualcomm Technologies ha mostrato i miglioramenti delle prestazioni disponibili quando le applicazioni più diffuse vengono compilate in modo nativo per Snapdragon e ha lanciato un nuovo portale per gli sviluppatori che raccoglie gli strumenti, le risorse e il supporto più importanti per lo sviluppo di Windows su Snapdragon in un’unica posizione facile da usare.