Microsoft анонсировала модель Mu для работы агентов genAI без интернета в Windows 11.

Прорыв в мире Windows
Microsoft активно работает над превращением Windows 11 в операционную систему, основанную на генеративном искусственном интеллекте (genAI). Компания анонсировала критическую технологию ИИ, позволяющую запускать агенты genAI на Windows без подключения к интернету.
Новая модель Mu
Модель Mu является небольшой языковой моделью, предназначенной для ответов на запросы на естественном языке внутри ОС. Ключевые особенности Mu:
- Работает на нейронных процессорах (NPUs) компьютеров Copilot PCs
- Обеспечивает высокую производительность при локальной работе
- Поддерживается тремя производителями чипов: Intel, AMD и Qualcomm
Применение на практике
Mu уже используется в агенте, обрабатывающем запросы в меню настроек предварительной версии Windows 11. Модель обеспечивает лучшее понимание запросов и контекст, что позволяет давать более точные ответы.
Сравнение с другими моделями
Mu использует архитектуру энкодер-декодер, что отличает ее от больших языковых моделей (LLMs), являющихся только декодерами. Этот подход позволяет значительно снизить вычислительные затраты и память.
Результаты сравнения:
- Mu в 10 раз меньше Phi-3.5-mini, но сопоставима по производительности
- Время ответа менее 500 миллисекунд
Источник: Читать оригинал
Комментариев нет
Отправить комментарий