EdgeCortix представила RAIDEN — масштабируемую чиплетную ИИ-платформу для физического ИИ
Единая энергоэффективная архитектура масштабируется от одного кристалла до четырёхкристального флагмана RAIDEN-X4: до 3,36 ПФлопс ИИ-вычислений в FP4, 256 ГБ памяти, 1,54 ТБ/с между кристаллами и до 6,4 Тбит/с межчиповой связи; первые дизайн-вины у заказчиков уже получены.
У физического ИИ есть системная проблема. Машины, которые воспринимают, рассуждают и действуют в реальном мире, невозможно масштабировать одним лишь добавлением ИИ-ускорителей. Вычисления, объём памяти, пропускная способность памяти, связность и программное обеспечение должны масштабироваться вместе — и продолжать масштабироваться по мере развития ИИ-моделей и прикладных нагрузок. Сегодня EdgeCortix, ведущая японская fabless-компания, специализирующаяся на энергоэффективной обработке ИИ, представила RAIDEN — свою масштабируемую чиплетную ИИ-платформу нового поколения, созданную специально для решения этой задачи. Благодаря чиплетной платформе RAIDEN переносит энергоэффективный подход EdgeCortix в новый класс производительности, масштабируясь под требования физического ИИ, развёртываемого вне централизованных ЦОД.
RAIDEN предлагает единую энергоэффективную архитектуру, масштабируемую от одного вычислительного кристалла до четырёхкристального флагмана в рамках одной аппаратной и программной платформы. В максимальной конфигурации RAIDEN спроектирована так, чтобы обеспечивать до 3,36 ПФлопс (3360 ТФлопс) ИИ-вычислений в формате FP4, до 256 ГБ памяти, 548 ГБ/с пропускной способности памяти и до 1,54 ТБ/с суммарной пропускной способности между кристаллами, а также настраиваемые режимы энергопотребления и до 6,4 Тбит/с межчиповой связи для масштабирования за пределы одного корпуса. RAIDEN выходит на рынок с уже подтверждёнными дизайн-винами заказчиков в требовательных областях физического ИИ — от аэрокосмических и оборонных систем нового поколения и робототехнических платформ до высокопроизводительных периферийных ИИ-серверов.
RAIDEN создана для физического ИИ на «толстой периферии» (thick edge) — формирующегося класса высокопроизводительных ИИ-систем, развёртываемых вне централизованных ЦОД, ближе к машинам, датчикам и производственной среде. Вместо создания отдельных архитектур для разных классов производительности RAIDEN масштабируется за счёт модульной чиплетной архитектуры: однокристальная (X1), двухкристальная (X2) и четырёхкристальная флагманская (X4) конфигурации. Все три конфигурации используют новейшую архитектуру ускорителя DNA-X и программный стек MERA от EdgeCortix. Вычисления, объём памяти, пропускная способность памяти и пропускная способность между кристаллами масштабируются вместе с платформой, позволяя заказчикам закрывать разные требования по производительности, энергопотреблению и развёртыванию без перехода на совершенно другую ИИ-архитектуру или программную среду. Общая архитектура призвана дать заказчикам возможность переходить между конфигурациями RAIDEN, сохраняя вложения в ПО и прикладную среду. Подробные характеристики и позиционирование конфигураций X1 и X2 будут представлены на последующих этапах программы запуска RAIDEN.
На вершине платформы — флагман RAIDEN-X4, спроектированный так, чтобы четыре вычислительных кристалла работали как тесно интегрированная система, а не как набор изолированных ускорителей. Флагманская конфигурация RAIDEN-X4 обеспечивает:
— до 3,36 ПФлопс ИИ-вычислений в формате FP4;
— до 256 ГБ памяти;
— 548 ГБ/с пропускной способности памяти;
— до 1,54 ТБ/с пропускной способности между кристаллами (DNA-X — DNA-X);
— до 6,4 Тбит/с межчиповой связи для горизонтального масштабирования;
— настраиваемые режимы энергопотребления под разные требования к производительности и развёртыванию;
— интегрированную многоядерную хост-обработку на каждом кристалле и высокоскоростные системные интерфейсы для автономных решений.
По мере того как мультимодальные, генеративные и агентные ИИ-модели становятся частью самых разных приложений в области физического ИИ, системы должны одновременно вмещать более крупные модели, больший контекст, несколько параллельных нагрузок и всё более жёсткие требования к работе в реальном времени — и всё это в рамках практичных бюджетов энергопотребления системы. Масштабируемая чиплетная архитектура RAIDEN призвана закрыть весь этот континуум единой платформой, масштабируя гетерогенные вычисления, память и связность от одного кристалла до четырёх при сохранении общей программной среды. Для приложений, требующих дополнительного масштаба на уровне системы, высокоскоростная межчиповая связь RAIDEN обеспечивает до 6,4 Тбит/с пропускной способности для горизонтального масштабирования, расширяя архитектуру за пределы отдельного многокристального корпуса. Архитектура помогает уменьшить системные компромиссы, которые всё сильнее ограничивают продвинутые нагрузки физического ИИ: перекачку моделей и данных между внутренней и внешней памятью, агрессивное квантование, разделение ИИ- и не-ИИ-нагрузок, а также необходимость разносить единый конвейер физического ИИ по нескольким отдельным вычислительным системам.
Физический ИИ требует большего, чем инференс нейросетей. В основе RAIDEN лежит новейшая архитектура DNA-X, спроектированная для выполнения всей рабочей нагрузки целиком при масштабировании системы как единой платформы. Она сохраняет преимущества реконфигурируемости во время выполнения, присущие предыдущим поколениям, и добавляет матричные и векторные движки с программируемым микрокодом. Это нововведение расширяет универсальность за пределы стандартного инференса нейросетей, обеспечивая необходимую поддержку совместной работы нагрузок восприятия, рассуждения, прикладной обработки и управления в рамках общей масштабируемой платформы.
Единый программный стек MERA предоставляет общую среду разработки и развёртывания для всего семейства RAIDEN, позволяя переносить модели, инструменты и вложения в ПО между разными конфигурациями платформы. Тот же стек охватывает и разные поколения продуктов EdgeCortix, поэтому работа, выполненная сегодня на SAKURA-II, переносится на RAIDEN, а не делается заново.
«Победу в физическом ИИ не принесёт просто более быстрый ускоритель. Нужна платформа, в которой вычисления, память, пропускная способность, связность и ПО масштабируются вместе — и в которой оборудование, развёрнутое сегодня, сможет исполнять модели, которые заказчики примут через годы, — сказал д-р Сакьясингха Дасгупта (Sakyasingha Dasgupta), основатель и генеральный директор EdgeCortix. — Именно для этого мы создали RAIDEN. Одна архитектура и одна программная платформа, масштабируемая от одного кристалла внутри интеллектуальной машины до четырёхкристального флагмана для самых требовательных нагрузок физического ИИ. И самое главное — заказчики уже проектируют свои решения вокруг RAIDEN».
RAIDEN расширяет концепцию EdgeCortix Powering AI That Acts за рамки традиционного периферийного инференса на более широкий класс систем физического ИИ — робототехнику и автономные системы, интеллектуальное производство, телекоммуникации, аэрокосмическую и оборонную отрасли, а также периферийную ИИ-инфраструктуру.
RAIDEN уже переходит от архитектуры к нескольким программам заказчиков. Kawasaki Heavy Industries, Ltd. выбрала решения на базе RAIDEN для ряда аэрокосмических и оборонных продуктов нового поколения с поддержкой ИИ, где вычислительные платформы должны работать в жёстких системных ограничениях и при этом поддерживать сложные ИИ-нагрузки, продолжающие развиваться на протяжении долгого жизненного цикла изделий. Unigen Corporation, поставщик корпоративного оборудования со штаб-квартирой в США, разрабатывает серверные платформы на базе RAIDEN, расширяя действующее сотрудничество с EdgeCortix, в рамках которого сегодня поставляются модули и серверные системы на базе SAKURA-II. Вместе эти проекты демонстрируют широту задач, для которых создавалась архитектура RAIDEN: от ИИ, встроенного непосредственно в интеллектуальные и автономные машины, до высокопроизводительных многокристальных систем для локальной и периферийной ИИ-инфраструктуры. Дальнейшие дизайн-вины RAIDEN, категории приложений и партнёры по экосистеме будут объявляться по мере развития программы.
Поставки образцов заказчикам ожидаются в начале 2027 года, серийное производство запланировано на второе полугодие 2027 года. Программа раннего доступа RAIDEN Early Access Program уже открыта: она даёт квалифицированным заказчикам и партнёрам по экосистеме возможность взаимодействовать с EdgeCortix в ходе программы разработки и получить приоритет при распределении образцов. Программа уже вызвала высокий интерес заказчиков, опираясь на полученные к настоящему моменту дизайн-вины.