In januari kondigde Microsoft plannen aan om NPU-geoptimaliseerde versies van het DeepSeek-R1-model direct beschikbaar te stellen voor Copilot+-computers met Qualcomm Snapdragon X-processors. In februari werd DeepSeek-R1-Distill-Qwen-1.5B voor het eerst uitgebracht in AIToolkit voor VSCode.
Vandaag heeft het bedrijf uit Redmond officieel de beschikbaarheid aangekondigd van zijn verbeterde DeepSeek R1 7B- en 14B-modellen voor het Copilot+-computerplatform via Azure AI Foundry. Doordat 7B- en 14B-modellen rechtstreeks op het Copilot+-apparaat kunnen worden uitgevoerd, kunnen ontwikkelaars krachtigere AI-toepassingen bouwen die voorheen niet mogelijk waren.
Omdat deze modellen op NPU's draaien, kunnen gebruikers stabiele AI-prestaties verwachten met minimale impact op de batterijduur en thermische prestaties van de computer. Bovendien worden de CPU en GPU vrijgemaakt om andere, belangrijkere taken op het systeem uit te voeren.
Microsoft benadrukt dat ze Aqua, een interne tool voor automatische kwantificering, hebben gebruikt om alle varianten van het DeepSeek-model tot int4 te kwantificeren. De tokenverwerkingssnelheid van het model is echter vrij laag. Microsoft meldt slechts 8 tokens/seconde bij het 14B-model en bijna 40 tokens/seconde bij het 1,5B-model. Microsoft zegt dat het doorgaat met het optimaliseren van de snelheid. Naarmate Microsoft de prestaties blijft verbeteren, zal de impact van deze modellen op Copilot+-computers naar verwachting aanzienlijk toenemen.
Geïnteresseerde ontwikkelaars kunnen de varianten 1.5B, 7B en 14B van het DeepSeek-model downloaden en uitvoeren op Copilot+-computers via de AI Toolkit-extensie voor VS Code. Het DeepSeek-model is geoptimaliseerd in ONNX QDQ-formaat en rechtstreeks gedownload van Azure AI Foundry. Deze modellen zullen ook verschijnen op toekomstige Copilot+-computers met Intel Core Ultra 200V- en AMD Ryzen-processors.
Veel mensen denken dat Microsoft een risico neemt door een partnerschap aan te gaan met DeepSeek. De integratie van DeepSeek in het Windows-ecosysteem zou Microsoft in de problemen kunnen brengen als de beschuldigingen van technologiediefstal gegrond blijken te zijn. Het valt echter niet te ontkennen dat DeepSeek een grote stap voorwaarts zet op de AI-markt. De stap van Microsoft duidt op een streven naar krachtigere AI-mogelijkheden op het apparaat zelf, wat nieuwe perspectieven opent voor AI-gestuurde applicaties.