Em janeiro, a Microsoft anunciou planos para trazer versões otimizadas para NPU do modelo DeepSeek-R1 diretamente para computadores Copilot+ com processadores Qualcomm Snapdragon X. Em fevereiro, o DeepSeek-R1-Distill-Qwen-1.5B foi lançado pela primeira vez no AIToolkit para VSCode.
Hoje, a empresa de Redmond anunciou oficialmente a disponibilidade de seus modelos refinados DeepSeek R1 7B e 14B para a plataforma de computação Copilot+ via Azure AI Foundry. A capacidade de executar modelos 7B e 14B diretamente no dispositivo Copilot+ permitirá que os desenvolvedores criem aplicativos de IA mais poderosos, o que não era possível antes.
Como esses modelos são executados em NPUs, os usuários podem esperar um desempenho de IA estável com pouco impacto na duração da bateria e no desempenho térmico do computador. Além disso, a CPU e a GPU ficarão livres para executar outras tarefas mais importantes no sistema.
A Microsoft enfatiza que usou o Aqua, uma ferramenta interna de quantização automática, para quantizar todas as variantes do modelo DeepSeek até int4. Entretanto, a velocidade de processamento de tokens do modelo é bastante baixa. A Microsoft relata apenas 8 tokens/segundo com o modelo 14B e quase 40 tokens/segundo com o modelo 1,5B. A Microsoft diz que continua otimizando para melhorar a velocidade. À medida que a Microsoft continua a melhorar o desempenho, espera-se que o impacto desses modelos nos computadores Copilot+ aumente significativamente.
Desenvolvedores interessados podem baixar e executar as variantes 1.5B, 7B e 14B do modelo DeepSeek em computadores Copilot+ por meio da extensão AI Toolkit para VS Code. O modelo DeepSeek é otimizado no formato ONNX QDQ e baixado diretamente do Azure AI Foundry. Esses modelos também aparecerão em futuros computadores Copilot+ com processadores Intel Core Ultra 200V e AMD Ryzen.
Muitas pessoas acham que a Microsoft está correndo um risco ao fazer parceria com a DeepSeek. Integrar o DeepSeek ao ecossistema do Windows pode causar problemas à Microsoft se as alegações de roubo de tecnologia forem comprovadas. No entanto, não há como negar que o DeepSeek está dando um grande passo à frente no mercado de IA. A iniciativa da Microsoft sinaliza um avanço em direção a recursos de IA mais poderosos nos dispositivos, abrindo novas perspectivas para aplicativos com tecnologia de IA.