Microsoft шокирует с помощью ИИ


Airdrop Telegram

Ловите лучшие криптораздачи!

  • Пошаговые инструкции
  • Рейтинги проектов
  • Эксклюзивные предложения
  • Своевременные уведомления
Получить Airdrop

Microsoft планирует представить «дружественные к NPU» версии модели DeepSeek-R1 AI для компьютеров Copilot+, начиная с устройств Snapdragon X, а затем переходя к процессорам Intel Lunar Lake и AMD Ryzen AI 9. Первоначальный релиз будет называться DeepSeek-R1-Distill-Qwen-1.5B и будет доступен разработчикам через Microsoft AI Toolkit. Позже они также предложат версии 7B и 14B.

Согласно сообщению в блоге Microsoft, анонсирующему поддержку DeepSeek R1, эти оптимизированные модели позволяют разработчикам создавать и запускать приложения на основе ИИ, которые работают гладко на устройствах, используя мощные NPU в ПК Copilot+. Наш проект Phi Silica максимизирует эффективный вывод, обеспечивая быстрое время первого токена и впечатляющие показатели пропускной способности без значительного истощения заряда батареи или чрезмерного использования ресурсов ПК. Более того, мы используем Windows Copilot Runtime (WCR) для адаптации к широкому спектру устройств в экосистеме Windows с форматом ONNX QDQ.

В сообщении в блоге Microsoft объясняет свой метод, позволяющий моделям R1 работать на устройствах с оборудованием NPU (Neural Processing Unit). Это достигается путем внедрения дизайна скользящего окна, который обеспечивает быстрый доступ к первому токену и поддержку длинных контекстов, даже несмотря на то, что аппаратный стек не предлагает динамическую поддержку тензоров. Кроме того, они используют 4-битный метод квантования QuaRot, чтобы максимизировать преимущества низкобитной обработки.

Компания Microsoft объявила, что модель 1.5B Distilled R1 скоро будет доступна для использования, и к ней можно будет получить доступ через расширение AI Toolkit в Visual Studio Code. Разработчики могут исследовать и тестировать DeepSeek R1 на совместимых системах Copilot+, используя функцию Playground локально. Кроме того, Microsoft предоставляет эти модели ИИ не только для локального использования, но и в облаке через Azure AI Foundry. Azure AI Foundry делает DeepSeek R1 доступным на безопасной масштабируемой корпоративной платформе, позволяя компаниям без усилий внедрять сложный ИИ, соблюдая соглашения об уровне обслуживания, стандарты безопасности и ответственные принципы ИИ, и все это с известной надежностью и инновациями Microsoft в качестве поддержки.

Microsoft быстро присоединилась к DeepSeek R1, в то время как американские технологические компании выразили обеспокоенность его появлением. OpenAI утверждает, что DeepSeek незаконно использовала проприетарный код при создании своей модели ИИ, проект, на завершение которого, как сообщается, потребовалось менее 10 миллионов долларов. Это значительно меньше по сравнению с огромными финансовыми инвестициями, сделанными американскими фирмами в разработку ИИ, которые в настоящее время составляют миллиарды долларов.

Смотрите также

2025-01-30 02:39