GPU серии E от Imagination: графический процессор как центр периферийных вычислений

ИИ быстро уходит из облака на периферию, нагрузки смартфонов, ИИ-ПК, автомобильных кабин и роботов сливаются, а архитектура чипов остаётся фрагментированной. Imagination опубликовала первые данные о производительности GPU IP серии E, обосновала стратегию GPU-First и представила решение нейронного суперразрешения NSR.

По мере быстрого проникновения искусственного интеллекта (ИИ) из облака на периферию вычислительные нагрузки таких устройств, как смартфоны, ИИ-ПК, интеллектуальные кабины и роботы, сливаются с невиданной ранее скоростью. Однако существующая аппаратная архитектура чипов по-прежнему фрагментирована, что создаёт множество узких мест — по энергоэффективности, задержкам и инженерным затратам.

Нагрузки уже слились, а кремний — нет. Так Imagination Technologies (далее — Imagination) оценивает ключевое противоречие нынешней отрасли периферийных вычислений, и это одна из отправных точек её стратегии GPU-First. Чтобы помочь отрасли преодолеть этот вызов, на днях Imagination опубликовала первые данные о производительности и результаты демонстраций GPU IP серии E, а также представила новое решение ИИ-ускоренного масштабирования изображения Neural Super Resolution (NSR, нейронное суперразрешение).

Генеральный директор Imagination Маркус Мозен (Markus Mosen) заявил: «Центр тяжести вычислений смещается в сторону GPU. Объединив графику, вычисления и функции ИИ в единой программируемой архитектуре, мы предлагаем разработчикам чипов платформенный процессор, пригодный для долгосрочного построения и развития. В конечном счёте всё сводится к одному слову — эффективность: как эффективность разработки у клиентов, так и эффективность работы продукта».

Противоречие отрасли: нагрузки слились, но аппаратура чипов остаётся фрагментированной

Как уже сказано в начале, задачи, которые решают сегодняшние периферийные устройства — будь то телефон, автомобиль или робот, — образуют единый замкнутый цикл: восприятие, моделирование, вывод, принятие решений и рендеринг. Эти этапы делят один бюджет памяти, один бюджет энергопотребления и одни требования ко времени отклика. Однако на уровне кремния аппаратная архитектура сильно фрагментирована.

В нынешних SoC графика отдана GPU, обработка сигналов — DSP, нейросети — NPU, а вычисления общего назначения — CPU; каждый ускоритель снабжён собственной SRAM, и образуются четыре не связанных между собой домена памяти. Каждый промежуточный результат должен покидать локальный вычислительный «остров», а модули вынуждены раз за разом перегонять промежуточные данные через самую дорогостоящую внешнюю DRAM.

Маркус Мозен называет это явление «пограничным налогом»: каждая граница модуля — это контрольно-пропускной пункт, и цена проявляется в трёх измерениях:

— Счёт по энергии: данные курсируют между «островами» ускорителей и внешней памятью, и само перемещение данных создаёт накладные расходы по энергопотреблению;

— Счёт по задержкам: межмодульная передача накладывается на задержки ожидания в очередях, и даже самый лучший планировщик не может полностью их скрыть;

— Счёт по инженерии: у каждого ускорителя свои инструментальная цепочка, драйверы и модель безопасности, а интеграция и сопровождение требуют огромных инженерных трудозатрат.

Помимо фрагментации есть и более глубокий временной разрыв: как только SoC прошла tape-out, аппаратная конфигурация фиксируется, тогда как ИИ-модели, низкоуровневые операторы и прикладные приложения обновляются гораздо быстрее аппаратуры. Поэтому один выбор аппаратной платформы должен обеспечивать поддержку новых требований, которые ещё даже не определены. Программируемость служит эффективным буфером: она позволяет максимально отсрочить устаревание продукта уже после его поставки заказчику.

Более глубокая тенденция — размывание границ между классами процессоров. CPU постоянно получают векторные и матричные расширения, NPU расширяют поддержку числовых форматов и программируемость, а GPU вбирают в себя возможности ИИ-вычислений и нейронного рендеринга. Когда все модули сближаются, перед отраслью встаёт ключевой вопрос: кто станет центром тяжести гетерогенных вычислений? Единый общий программируемый вычислительный центр означает меньше перемещений данных, более высокую утилизацию ресурсов и большую гибкость — и вопрос о том, кому достанется этот «центр тяжести», как раз и лежит в основе стратегии GPU-First компании Imagination.

Почему GPU может стать центром тяжести конвергентного ускорения

В процессе слияния вычислительных блоков у GPU есть четыре врождённых преимущества:

— Нативный массовый параллелизм и высокая программируемость: GPU по своей сути — массово-параллельный процессор, естественно подходящий для сложных, изменчивых и постоянно появляющихся ИИ-операторов и задач вычислений общего назначения, с достаточным и гибким пространством для программирования.

— База массового развёртывания: GPU уже широко применяются практически во всех периферийных устройствах с возможностью визуализации, это стандартный аппаратный модуль, отвечающий за вывод изображения и обработку графики.

— Зрелая экосистема: зрелые драйверы, стандартные API (такие как DirectX, Vulkan, OpenCL) и огромное сообщество разработчиков, что позволяет быстро привлекать разработчиков и расширять их возможности.

— Незаменимая функция графического рендеринга: любое устройство с дисплеем должно выполнять рендеринг графики, GPU — аппаратная основа для этой задачи, и другие процессоры не могут его полностью заменить.

Директор по доходам Imagination Джейк Кохнович (Jake Kochnowicz) добавляет: «GPU — ядро пользовательского опыта. Будь то телефон, планшет, ноутбук или цифровая кабина, за каждым пикселем, который мы видим, стоит рендеринг GPU. Сегодня в чипах и системах GPU зачастую уже является самым производительным и самым крупным по площади процессором. Раз это уже соответствующий стандартам высокопроизводительный процессор, то когда мы хотим улучшить пользовательский опыт с помощью ИИ, GPU естественным образом становится местом, где это внедряется первым и быстрее всего даёт результат».

Маркус Мозен также особо подчёркивает: «Любому другому кандидату на роль центра тяжести пришлось бы восполнять хотя бы одну из этих четырёх способностей, а у GPU есть все четыре». Однако требуется уточнение: стратегия GPU-First компании Imagination не означает «GPU забирает всё, а NPU отбрасывается». Imagination неоднократно подчёркивает, что серия E поддерживает гетерогенное сосуществование с другими ускорителями на кристалле; GPU-First утверждает лишь то, что при выборе архитектуры конвергентного ускорения программируемый GPU в качестве ядра позволяет получить максимальную гибкость при минимальных системных издержках.

Что касается вопроса «кто лучший поставщик GPU-технологий», уверенность Imagination опирается на многолетний технический задел: более 30 лет собственной разработки GPU-архитектур, свыше 4000 действующих патентов по всему миру и лидирующие позиции в графическом рендеринге, вычислениях, виртуализации и функциональной безопасности для автомобилей.

Глубокий разбор архитектуры GPU серии E: матричный ИИ-блок встроен глубоко в конвейер GPU

Почему серия E Imagination способна обеспечить слияние вычислений? Одна из ключевых причин в том, что в серии E блоки матричного умножения размещены непосредственно внутри шейдерных блоков GPU (USC), рядом с существующими графическими арифметическими блоками. Это означает, что ИИ может переиспользовать всю существующую инфраструктуру GPU — регистры, логику управления, кэши, память, прошивку, драйверы и инструментальную цепочку, максимально задействуя уже сделанные аппаратные и программные вложения.

По словам Джейка Кохновича, ключевая идея архитектуры GPU серии E — «три единства»: единая иерархия памяти, единое планирование, единый программный стек.

По аппаратным характеристикам и масштабируемости серия E демонстрирует большой потенциал:

— Базовые характеристики одного ядра (1 ГГц): 2 ТФлопс вычислений FP32, производительность матричных вычислений 32 ТОПС (INT8/FP8), пропускная способность текстурирования до 64 Гтексел/с. ИИ-производительность по сравнению с серией D выросла более чем в 4 раза.

— Превосходная масштабируемость: поддержка гибкой конфигурации от 1 до 4 ядер и готовность к многочиплетной архитектуре (Chiplet). В пиковой конфигурации поддерживается адресное пространство до 1 ТБ и пиковая пропускная способность 768 ГБ/с; через межсоединение AXI обеспечивается совместимость с памятью всех типов — HBM, LPDDR, GDDR и другими.

— Полная поддержка множества точностей: серия E впервые приносит во встраиваемую область форматы BF16, MXFP8, MXFP4. Для графического шейдинга и эталонных путей используются FP32/FP16; для основного инференса — BF16, INT8, FP8; для низкоточного инференса больших моделей — форматы с микромасштабированием MXFP8, MXFP4, подходящие для сценариев с ограниченной пропускной способностью и повышающие плотность вычислений. Все форматы предоставляются через отраслевое стандартное расширение Vulkan для кооперативных матриц, а на нижнем уровне по-прежнему используется единый программный стек.

— Интеллектуальное планирование: используется планировщик на прошивке RISC-V, способный параллельно планировать графические и ИИ-задачи. Поддерживается до 16 виртуальных машин (VM) с приоритетами QoS и изоляцией памяти, что идеально подходит для таких сложных сценариев, как облачные игры в автомобиле и безопасная изоляция.

Imagination хорошо понимает, что GPU IP не может работать сама по себе: она находится в экосистеме, которую совместно образуют поставщики IP, производители SoC и разработчики ПО, и «единственно правильного дизайна ИИ-системы не существует». Поэтому серия E на уровне архитектуры нативно поддерживает четыре режима гетерогенных комбинаций:

1. Только GPU: чисто GPU-решение, подходящее для ИИ-систем с длинным жизненным циклом продукта и крайне высокими требованиями к программируемости — например, автомобильных и промышленных;

2. GPU как основа + вспомогательный NPU: программируемые вычисления в качестве ядра в сочетании с целевым блоком ИИ-ускорения;

3. NPU как основа + GPU-сопроцессор: ставка на пиковую пропускную способность инференса, GPU отвечает за графический рендеринг и вычисления общего назначения;

4. Сбалансированное взаимодействие GPU/NPU: соотношение производительности, энергоэффективности и программируемости подбирается под потребности.

Для гладкого взаимодействия с другими IP на кристалле в серию E встроены аппаратный mailbox, механизмы передачи задач с низкой задержкой и общей памяти, а также открытый программный стек, который клиент может интегрировать в собственный SDK, — чтобы в нужный момент выбрать нужный процессор и выдать результат вычислений.

Разбор измеренной производительности: графика, нейронный рендеринг, ИИ-операторы и локальные большие модели

Помимо архитектурного дизайна, в конечном счёте важны измеренные данные. Первые данные о производительности серии E охватывают четыре измерения.

Графика остаётся ключевой возможностью серии E. При реальной игровой нагрузке частота кадров на единицу вычислительной мощности (FPS/ТФлопс) у серии E по сравнению с серией D выросла до 54%, а производительность на ватт — до 39%. Последнее обеспечивает совершенно новая низкоуровневая инновация: инструкции упаковываются и выполняются целиком, что максимизирует переиспользование данных и сокращает ненужные перемещения данных.

Серия E поддерживает DirectX 12 FL11_0 и Vulkan и может запускать сотни ПК и мобильных игр. В четырёхъядерной конфигурации некоторые настольные игры класса AAA, например Baldur's Gate 3, достигают частоты кадров выше 60 кадров/с; такие проекты, как Shadow of the Tomb Raider и Doom Eternal, также подтвердили её графическую достоверность. Эти возможности напрямую ориентированы на сценарии ПК, ИИ-ПК и игр в автомобильной кабине.

Если рост графической производительности — это обычная итерация, то нейронное суперразрешение (NSR, Neural Super Resolution) — самый наглядный результат ценности конвергентной архитектуры, прямо отвечающий на фундаментальный вопрос «зачем интегрировать ИИ в GPU».

Нейронное суперразрешение по сути относится к области нейронного рендеринга: GPU сначала рендерит кадр в более низком разрешении, а затем ИИ с помощью матричного ускорителя реконструирует его до полного разрешения; весь процесс выполняется за один проход (single-pass), данные обрабатываются на месте, не покидая матричный ускоритель, и не выгружаются во внешнюю DRAM. Технически здесь два ключевых решения: во-первых, глубокая связка матричного блока с шейдерами — графическому разработчику достаточно написать один набор шейдеров Vulkan/OpenCL и вести разработку в единой парадигме программирования; во-вторых, собственная технология самосжатия сетей Imagination, которая позволяет удалить около 65% избыточных весов нейросети, снижая энергопотребление и занимаемую пропускную способность.

Измеренные данные весьма убедительны: одноядерная серия E на 1 ГГц повышает разрешение с 540p до 1080p всего за 2,3 миллисекунды; по сравнению с нативным рендерингом в сценарии повышения 1080p до 4K потребление пропускной способности памяти снижается до 54%, а частота кадров вырастает до 2,5 раза, при этом при сравнении вживую заметных потерь качества изображения нет. По форме поставки NSR интегрировано в PowerVR SDK как библиотечная функция, также предлагаются плагины для Unreal Engine и открытого движка Godot.

На уровне базовых операторов ИИ, компьютерного зрения, обработки сигналов и вычислений общего назначения серия E также значительно ускорилась: ядро свёртки Conv2D — до 4,4 раза, ядро матричного умножения GEMM — до 4,8 раза; при нагрузке матричного умножения утилизация GPU достигает 89%. Эта возможность — низкоуровневая опора для построения таких базовых вычислительных задач, как языковые модели и сети обнаружения объектов.

Наконец, возможности локальных больших моделей. Чтобы понять производительность серии E на LLM, нужно различать два этапа работы LLM:

Этап Prefill (предзаполнение), то есть «вопрос»: обработка входного промпта с выполнением огромного объёма матричных вычислений для каждого токена контекста; он определяет время генерации первого токена (TTFT, Time to First Token);

Этап Decode (декодирование), то есть «ответ»: генерация ответа токен за токеном, для каждого токена нужно перемещать данные и заново загружать веса; пропускная способность (токенов/с) сильно зависит от пропускной способности системной памяти SoC.

В серии E производительность Prefill выросла в 4,7 раза относительно предыдущего поколения — это очень целенаправленная оптимизация. В эпоху агентного ИИ до вывода моделью первого токена требуются планировщик, сбор данных, вызов инструментов и завершение инференса, и каждый шаг добавляет вычисления Prefill; кодовому агенту нужно файл за файлом прочитать всю кодовую базу и многократно вызвать инструменты, прежде чем дать ответ, размер контекста растёт экспоненциально, и потому TTFT становится важнейшим показателем пользовательского опыта агентного ИИ. Например, для Qwen 3.5 4B при типичной нагрузке четырёхъядерный GPU серии E на 1,5 ГГц обеспечивает время генерации первого токена 0,2 секунды и пропускную способность декодирования 150 токенов в секунду.

Что касается Decode, Джейк Кохнович заявил, что цель серии E — предоставить разработчикам достаточную вычислительную мощность, чтобы системные интеграторы могли сосредоточиться на разработке всей системы конечного продукта.

Заключение

Если поместить серию E в отраслевую систему координат, можно сделать несколько выводов.

Во-первых, GPU-First — это системный ответ на тенденцию конвергенции периферийных вычислений. «Пограничный налог», порождаемый слиянием нагрузок и фрагментацией аппаратуры, реален: энергопотребление считается в наноджоулях, задержки — в миллисекундах, инженерные затраты — в человеко-годах инженеров; а GPU как вычислительный блок, одновременно обладающий программируемостью, базой массового развёртывания, зрелой экосистемой и обязательной графической функцией, естественно подходит на роль центра тяжести конвергентного ускорения. Серия E через архитектуру «единая иерархия памяти, единое планирование, единый программный стек» превращает этот отраслевой вывод в лицензируемое инженерное решение и подтверждает его измеренными данными: ростом частоты кадров на единицу мощности на 54%, ускорением Prefill в 4,7 раза, суперразрешением NSR за 2,3 миллисекунды.

Во-вторых, серия E — не «универсальный чип». Её потолок производительности ограничен системой памяти SoC, конфигурацией пропускной способности и системным дизайном клиента: пропускная способность декодирования зависит от системной полосы, объём памяти и интеграция чиплетов — от реализации SoC. Imagination этого не скрывает и даже сама подчёркивает, что «ИИ-производительность нельзя оценивать только по ТОПС». Для клиента серия E — это высокогибкое IP-решение: на выбор от одного до четырёх ядер, возможность работать как самостоятельно, так и в четырёх режимах гетерогенных комбинаций, а выбор системной архитектуры остаётся в руках разработчика чипа.

В технологической дорожной карте Imagination серия D заложила основу вычислений на графическом процессоре общего назначения, серия E завершает слияние ИИ внутри GPU, серия F сосредоточится на эффективности масштабирования, а последующие итерации — на плотности ИИ и энергоэффективности; вся линейка использует единый программный стек, и оптимизации, выполненные клиентом для каждого поколения GPU, могут переиспользоваться и не теряют силы.

Материал Elecfans, перевод ЭлектроПоиск.
Оригинал публикации: https://www.elecfans.com/d/8355091.html
Смотреть в каталоге

Другие новости

Заметили ошибку?