Если вы до сих пор не слышали о нейропроцессорах (NPU), то, должно быть, пропустили целый год маркетинга ИИ от Intel, AMD и Qualcomm.
В последние 12 месяцев эти процессоры, ориентированные на искусственный интеллект, рекламировались как следующее важное обновление, которое, по-видимому, необходимо всем, чтобы максимально эффективно использовать искусственный интеллект. Но является ли всё это просто маркетинговым ходом или же NPU действительно обладают теми преимуществами, которые они обещают?
Что такое NPU?
NPU — это специализированные процессоры в составе систем на кристалле (SoC), предназначенные для выполнения задач, связанных с искусственным интеллектом, например, подавление фонового шума, улучшение качества видео в реальном времени и базовые функции генеративного ИИ. Такие компании, как Intel с VPU в Meteor Lake, AMD с Ryzen AI и Qualcomm с процессором Hexagon AI, встраивают NPU в свои процессоры, утверждая, что они произведут революцию в вычислительной технике, сделав устройства более умными и эффективными. Идея состоит в том, чтобы переложить задачи ИИ на центральный и графический процессоры для экономии энергии, что теоретически продлит срок службы батареи и обеспечит более быструю обработку ИИ на кристалле.
Но действительно ли эти процессоры с поддержкой ИИ меняют правила игры или они занимают драгоценное место на кристалле, которое можно было бы лучше использовать для удовлетворения реальных потребностей пользователей?
Реальность, стоящая за преимуществами NPU
Хотя NPU повышают эффективность, особенно в мобильных устройствах, где каждый сэкономленный ватт имеет значение, их влияние на ноутбуки, где срок службы батареи и так достаточно велик, сложнее обосновать. Задачи, которые выполняют NPU, в основном относятся к нишевым и оказывают ограниченное влияние на работу среднестатистического пользователя. Если вы часто пользуетесь голосовыми командами или в значительной степени полагаетесь на улучшения для видеозвонков, NPU может немного продлить срок службы батареи. Но для большинства пользователей в настоящее время это скорее приятная, чем необходимая функция. Процессоры и графические процессоры уже много лет успешно справляются с этими функциями, и хотя нейропроцессоры могут немного снизить энергопотребление, эта инновация скорее направлена на повышение эффективности, чем на предоставление новых значимых возможностей.
Возьмём, к примеру, Intel Meteor Lake VPU. Он позиционируется как решение для задач искусственного интеллекта на устройстве, таких как размытие фона при видеозвонках и шумоподавление — задач, с которыми эффективно справляются центральные и графические процессоры. Основное преимущество — незначительное повышение энергоэффективности, что, хотя и полезно, не является чем-то выдающимся, если рассматривать общую производительность. AMD Ryzen AI использует аналогичный подход, предлагая повышение производительности без революционных функций. Процессор Qualcomm Hexagon, созданный на основе мобильных процессоров, обеспечивает аналогичные возможности для ноутбуков, но не значительно расширяет спектр приложений для большинства пользователей.
Достоинства NPU
При обсуждении NPU производители часто упоминают TOPS как показатель производительности. Предстоящая платформа Intel Lunar Lake может похвастаться NPU с 48 TOPS, серия AMD Ryzen AI 300 способна обеспечить 55 TOPS, а Snapdragon X Elite от Qualcomm оснащён NPU с 45 TOPS. Эти цифры приводятся так, будто они имеют существенное значение для реальных пользователей.
Однако TOPS — это теоретическое измерение максимальной производительности в идеальных лабораторных условиях. Оно рассчитывается на основе количества блоков умножения-накопления (MAC) и рабочей частоты, но не обязательно соответствует реальному приросту производительности при повседневном использовании. Для обычного пользователя эти показатели так же значимы, как теоретическая мощность двигателя автомобиля, на котором он никогда не будет ездить на максимальной скорости.
Компромисс: использование пространства матрицы
Включение NPU занимает ценное место на кристалле, которое потенциально можно было бы использовать для улучшения более универсальных функций, включая ядра процессора или возможности графического процессора. Например, в мобильном SoC Ryzen AI 300 на базе Zen 5 от AMD NPU занимает около 10–15 процентов площади кристалла — значительную часть. Если бы это место было использовано для добавления дополнительных ядер процессора, пользователи могли бы заметить заметные улучшения в многопоточных приложениях, что выгодно как разработчикам, так и создателям контента и опытным пользователям.
Кроме того, расширение встроенного графического процессора может повысить производительность графики, что оценят геймеры и профессионалы, использующие ресурсоёмкие приложения. Учитывая, что графические процессоры традиционно используются для работы с искусственным интеллектом, расширение возможностей графического процессора может служить двойной цели.
Действительно ли NPU рассчитаны на будущее?
Производители позиционируют графические процессоры как необходимое дополнение для ноутбуков, ориентированных на будущее в мире, управляемом искусственным интеллектом. Однако, учитывая стремительное развитие искусственного интеллекта, сложно предсказать, какие аппаратные функции останутся актуальными. Хотя графические процессоры дают некоторые преимущества при выполнении конкретных задач, связанных с искусственным интеллектом, большинство пользователей вряд ли заметят их отсутствие. Большинство повседневных вычислительных задач, таких как просмотр веб-страниц, редактирование документов и просмотр мультимедиа, не требуют оптимизации с помощью искусственного интеллекта.
Даже для пользователей, которые время от времени взаимодействуют с функциями на базе ИИ, процессоров и графических процессоров, как правило, достаточно для обработки таких рабочих нагрузок, хотя и с немного более высоким энергопотреблением. Перспективы NPU заключаются скорее в потенциальных будущих применениях, чем в текущих ощутимых преимуществах для среднестатистического потребителя.
Трюк или подлинная инновация?
Несмотря на то, что у ИИ есть множество практических применений, таких как преобразование речи в текст и инструменты для перевода в реальном времени, включение нейропроцессоров в ноутбуки кажется преждевременным. Эта технология, по-видимому, является решением в поисках проблемы, обусловленным скорее маркетинговыми стратегиями, чем реальным спросом пользователей. До тех пор, пока приложения на основе ИИ не станут по-настоящему массовыми и незаменимыми в повседневных вычислениях, нейропроцессоры могут оставаться скорее разрекламированной функцией, чем важным компонентом.
Тем временем потребители могут получить больше пользы от повышения вычислительной мощности, графических возможностей и общей производительности системы — улучшений, которые дают немедленные и заметные преимущества. В нынешнем виде NPU — это интересная разработка, но, возможно, не революционная инновация, которой они должны были стать, — по крайней мере, для пользователей.
Источник: https://www.theregister.com/2024/11/11/npu_debate/