Microsoft интегрирует DeepSeek R1 в Copilot+ PC: что это значит для пользователей?

Искусственный интеллект DeepSeek быстро завоевал популярность в мобильном сегменте и теперь делает шаг в мир Windows. Microsoft активно поддерживает этот процесс, интегрируя модель DeepSeek R1 в свою облачную платформу Azure AI Foundry. Но теперь компания пошла ещё дальше и объявила о добавлении дистиллированных версий этой модели на компьютеры Copilot+ PC.

Что такое дистиллированные модели DeepSeek R1?

Дистиллированная модель — это упрощённая версия большой нейросети, которая сохраняет ключевые возможности, но работает быстрее и эффективнее. Полная версия DeepSeek R1 содержит 671 миллиард параметров, тогда как дистиллированные модели будут варьироваться от 1,5 до 14 миллиардов. Это позволяет запускать их непосредственно на пользовательских устройствах без дорогостоящего специализированного оборудования.

Первой доступной моделью станет DeepSeek-R1-Distill-Qwen-1.5B (с 1,5 млрд параметров), а позже появятся версии 7B и 14B. Они будут доступны через Microsoft AI Toolkit и сначала работать на устройствах с чипами Snapdragon X и процессорами Intel Core Ultra 200V, а затем – на AMD Ryzen AI 9.

Как Microsoft оптимизировала модели для Copilot+ PC?

Чтобы обеспечить максимальную производительность на ПК, Microsoft адаптировала эти модели для нейропроцессоров (NPU). Ключевые вычисления, такие как блок трансформера, выполняются на NPU, а задачи, требующие частого доступа к памяти, обрабатываются центральным процессором.

Благодаря такой оптимизации удалось достичь времени отклика в 130 мс для первого токена и скорости обработки 16 токенов в секунду (для коротких запросов до 64 токенов). Это означает, что пользователи смогут получать мгновенные ответы от ИИ даже без подключения к облаку.

Microsoft расширяет экосистему ИИ

Хотя Microsoft активно сотрудничает с OpenAI, её стратегия явно ориентирована на диверсификацию. В Azure Playground уже представлены модели GPT (OpenAI), Llama (Meta) и Mistral, а теперь и DeepSeek R1. Это свидетельствует о стремлении компании создать открытую экосистему, в которой пользователи сами смогут выбирать, какой ИИ использовать.

DeepSeek R1 на Copilot+ PC — это ещё один шаг к интеграции мощных AI-инструментов в повседневные устройства. Теперь остаётся вопрос: насколько эффективной окажется эта технология на практике? Ответ узнаем совсем скоро.