От кластеров на десять тысяч карт до милливаттных устройств: панорама войны ИИ-чипов
Большой обзор рынка ИИ-чипов: облачные и периферийные решения, четыре архитектуры (GPU, ASIC, ПЛИС, NPU), роль программной экосистемы, международные гиганты и китайские компании, передовая упаковка, прикладные сценарии, большие модели на устройстве и прогноз рынка до 2027 года.
В эпоху, когда генеративный искусственный интеллект и технологии больших моделей охватывают весь мир, вычислительные мощности пришли на смену традиционной энергетике в качестве самого главного стратегического ресурса эпохи цифровой экономики. Когда мы говорим о чипах искусственного интеллекта, внимание публики, как правило, сосредоточено на облачных гигантах вроде NVIDIA H100 или B200, на которых обучаются большие модели, и при этом легко упустить из виду революцию периферийных и оконечных вычислений, которая незаметно разворачивается в смартфонах, автомобилях на новых источниках энергии, промышленном оборудовании и даже миниатюрных датчиках.
На самом деле чипы ИИ — отнюдь не монолитная технологическая категория. От кластеров на десять тысяч карт с киловаттным энергопотреблением в дата-центрах до милливаттных нейросетевых процессоров в оконечных устройствах — повсюду разворачивается война различий в архитектуре, программной экосистеме и сценариях применения. Чтобы понять эти перемены, необходимо разобрать картину по многим измерениям — только так можно по-настоящему уловить базовую логику того, как вычислительные мощности меняют мир.
Два пути: облако и периферия
Философия проектирования ИИ-чипов по сути сводится к поиску оптимума между четырьмя ключевыми факторами: производительностью, энергопотреблением, стоимостью и задержкой. В зависимости от места развёртывания и обслуживаемых задач вся отрасль чётко делится на два лагеря: облачное обучение и инференс — и периферийный и оконечный инференс.
Облачные ИИ-чипы устанавливаются главным образом в гипермасштабных дата-центрах и берут на себя предварительное обучение больших моделей с сотнями миллиардов параметров, а также высоконагруженный онлайн-инференс. Их цель — любой ценой добиться предельной абсолютной производительности, пропускной способности видеопамяти и скорости соединения между картами. Такие чипы обычно выпускаются по самым передовым техпроцессам 3 нм или 4 нм, используют продвинутую упаковку вроде CoWoS и оснащаются памятью высокой пропускной способности большого объёма; энергопотребление одного чипа может достигать нескольких сотен и даже тысячи ватт. Их ключевая ценность — быть всемогущим «мозгом» для универсального ИИ.
Периферийные и оконечные ИИ-чипы, напротив, работают в близких к пользователю сценариях — в телефонах, персональных компьютерах, автомобилях, устройствах интернета вещей и периферийных серверах — и отвечают в основном за локальный инференс в реальном времени и лёгкую донастройку моделей. Главные критерии при их проектировании — энергоэффективность, задержка отклика, безопасность и конфиденциальность данных, а также ограничения по габаритам и теплоотводу. Обычно они интегрируются в систему на кристалле в виде нейросетевого процессора в роли сопроцессора, широко поддерживают вычисления с пониженной точностью — квантование INT8 или INT4 — и обеспечивают быстрый отклик при крайне низком энергопотреблении, от милливатт до нескольких ватт.
Облачные чипы призваны строить универсальный интеллектуальный фундамент, а периферийные и оконечные сосредоточены на том, чтобы в конкретном сценарии с минимальными затратами выполнять задачи как можно быстрее, экономнее и стабильнее. Они не просто заменяют друг друга, а образуют единую систему вычислительных мощностей, в которой облако, периферия и оконечные устройства сосуществуют и взаимодействуют.
Четыре основные архитектуры и эволюция технологий
С точки зрения технической архитектуры ИИ-чипы демонстрируют большое разнообразие форм, но в целом их можно разделить на четыре направления: графические процессоры, специализированные интегральные схемы, программируемые логические интегральные схемы и встраиваемые нейросетевые движки.
Графические процессоры благодаря тысячам параллельных вычислительных ядер и глубокому барьеру программной экосистемы CUDA стали бесспорным фактическим стандартом в области обучения больших моделей. Хотя изначально они создавались для рендеринга графики и в сценариях инференса имеют определённую избыточность по энергоэффективности, NVIDIA H100, B200 и AMD MI300X по-прежнему представляют вершину универсальных вычислительных мощностей.
Специализированные интегральные схемы — это архитектура, рождённая ради предельной эффективности: она глубоко кастомизирована на аппаратном уровне под конкретные алгоритмы ИИ, например Transformer, и лишена всех схемных элементов, не относящихся к целевому алгоритму. Поэтому в конкретных задачах её энергоэффективность и пропускная способность зачастую намного превосходят универсальные графические процессоры. Типичные представители этого пути — Google TPU, чип Tesla FSD и серия Huawei Ascend 910; однако гибкость таких решений ниже, и они сталкиваются с риском того, что алгоритмы обновляются быстрее, чем длится цикл выпуска чипа.
Программируемые логические интегральные схемы как аппаратно реконфигурируемый тип чипов способны и адаптироваться к быстрым изменениям алгоритмов, и работать эффективнее универсальных графических процессоров. Их часто применяют в картах ускорения ИИ-инференса, базовых станциях связи и на этапе прототипирования чипов — это гибкое переходное решение между универсальным и специализированным подходами.
В оконечных устройствах нейросетевой движок уже стал стандартным модулем современных систем на кристалле. Apple ANE, Qualcomm Hexagon и MediaTek APU — это матричные ускорители, спроектированные специально для глубокого обучения; из вспомогательных функциональных модулей они постепенно превращаются в ключевые вычислительные блоки, обеспечивающие локальный запуск больших моделей на устройстве.
Одновременно технологии вычислений в памяти и чиплетов (Chiplet) становятся ключевыми инновационными направлениями для преодоления «стены памяти» и ограничений закона Мура. Благодаря глубокому слиянию вычислений и хранения данных или объединению кристаллов разных техпроцессов с помощью передовой упаковки ИИ-чипы вступают в эпоху архитектурного обновления «после Мура».
Программная экосистема: недооценённый настоящий защитный ров
Говоря о конкуренции ИИ-чипов, мы часто чрезмерно сосредотачиваемся на числе транзисторов и пиковой производительности, упуская ключевой фактор, определяющий, будет ли чип реально использоваться, — программную экосистему. NVIDIA так трудно заменить именно потому, что её настоящий защитный ров — глубина и широта экосистемы CUDA. Это не просто набор программных интерфейсов, а полный замкнутый цикл опыта разработчика, включающий зрелые библиотеки операторов, инструменты отладки, профилировщики производительности, огромный массив документации сообщества и лучшие практики, накопленные за десятилетия.
Многие китайские ИИ-чипы по теоретической производительности на бумаге уже приблизились к A100 или даже превзошли его, но в реальных задачах обучения больших моделей эффективная утилизация вычислительных мощностей зачастую достигает лишь 30–50 %. Коренная причина такого огромного разрыва — не само «железо», а неполная адаптация операторов, недостаточная оптимизация компиляторов и нехватка стабильности фреймворков распределённого обучения. Чтобы перенести стандартный слой Transformer на китайский чип, инженерам, как правило, приходится проходить через череду утомительных и трудоёмких процедур: вручную переписывать операторы, многократно сверять точность, настраивать низкоуровневые коммуникационные примитивы. Именно эта пропасть между «работает» и «удобно работает» является самым большим невидимым барьером на пути прорыва китайских чипов.
Перед лицом этой проблемы отрасль исследует несколько путей выхода. С одной стороны, подъём открытых промежуточных представлений, таких как Triton и MLIR, — попытка построить стандартизованный слой абстракции между прикладными фреймворками и низкоуровневым оборудованием и тем самым избавиться от прямой зависимости от CUDA. С другой стороны, механизм torch.compile, появившийся в PyTorch 2.0, за счёт бэкенд-плагинов существенно снизил инженерные затраты на перенос моделей на новое оборудование. В Китае ведущие производители чипов тоже начали осознавать, что в одиночку экосистему не построить, и совместно продвигают единые стандарты операторов и проекты открытых компиляторов, пытаясь коллективными усилиями восполнить слабость программного стека отдельных компаний. Строительство программной экосистемы — это марафон; оно труднее, чем выпуск кристалла, но и важнее.
Глобальный расклад сил и китайские силы прорыва
На глобальной карте конкуренции ИИ-чипов международный рынок демонстрирует монополию гигантов, защищённых двойным рвом — экосистемой и технологиями, тогда как китайские компании ускоренно догоняют на пути самостоятельности, контролируемости и дифференцированного прорыва.
Рисунок: международные гиганты ИИ-чипов (часть)
NVIDIA как абсолютный гегемон закрывает сериями H100, H200, B200 и GB200 весь спектр потребностей от обучения до инференса, а серии Jetson Orin и Thor прочно удерживают рынок периферийных вычислений для робототехники и автономного вождения. AMD с сериями Instinct MI300X и MI325X стала самым сильным претендентом, выходя на облачный рынок с выдающимся соотношением цены и производительности, и одновременно продвигает распространение ИИ-ПК с помощью процессоров серии Ryzen AI. Intel совершает разворот старого гиганта с помощью ускорителей Gaudi 3 и серии Core Ultra со встроенным NPU, делая ставку на экономичный инференс и интеллектуализацию оконечных устройств.
Google — пионер собственных чипов: её TPU v5p и v6 Trillium оптимизированы специально под собственную модель Gemini и предоставляются эксклюзивно в облачном сервисе, образуя замкнутую экосистему. Qualcomm — король оконечного сегмента: Snapdragon 8 Gen 3/4 и Snapdragon X Elite задали эталон пользовательского опыта соответственно для ИИ-смартфонов и ИИ-ПК, а Cloud AI 100 занимает важное место на рынке карт периферийного инференса.
Рисунок: основные китайские облачные ИИ-чипы (часть)
В сегменте облачных вычислений в Китае Huawei HiSilicon с облачными обучающими чипами Ascend 910B/910C и периферийным инференс-чипом Ascend 310, в сочетании с программным стеком CANN, фреймворком MindSpore и экосистемой HarmonyOS, стала единственным в стране лидером, обладающим полным собственным стеком «железа» и программного обеспечения, и главной опорой обучения китайских больших моделей. Cambricon — «чистая» компания ИИ-чипов: её Сыюань 590 (思元590) и Сыюань 370 (思元370) получили большое количество централизованных заказов от центров интеллектуальных вычислений соответственно на рынках облачного обучения и периферийного инференса.
Помимо названных лидеров, в облачном сегменте китайской индустрии ИИ-чипов появилось и несколько дифференцированных игроков. GPU серии Сиюнь (曦云) компании Муси (沐曦集成电路) по архитектуре поддерживают одновременно полный графический конвейер и ИИ-вычисления, что даёт им уникальную конкурентоспособность в сценариях, где требуется сочетание рендеринга графики и ИИ-усиления, — облачные рабочие столы, облачные игры, — и позволяет избежать лобового столкновения с чистыми чипами для обучения ИИ на перенасыщенном рынке. Серия Тяньгай (天垓) компании Тяньшу Чжисинь (天数智芯) сосредоточена на стыке высокоточных научных вычислений и обучения ИИ: поддерживаемые ею вычисления двойной точности FP64 незаменимы в сценариях с жёсткими требованиями к численной точности — прогнозе погоды, геологоразведке, ценообразовании финансовых деривативов, — заполняя пробел китайских чипов в области высокопроизводительных вычислений.
Куньлуньсинь (昆仑芯科技) — компания ИИ-чипов, вышедшая из Baidu; её ценность не только в «использовании для себя», но и в том, что её чипы прошли многолетнюю обкатку на огромных реальных нагрузках Baidu — поиске, рекомендациях, распознавании речи, — а глубокая связка с фреймворком Фэйцзян (飞桨) сформировала положительный цикл совместной оптимизации «фреймворк — чип». Новые игроки — Моэр Сяньчэн (摩尔线程), Бижэнь (壁仞科技), Суйюань (燧原科技) — нацелились на двойной спрос: облачное обучение и инференс плюс рендеринг графики — и стремятся добиться замещения импортных решений китайскими через совместимость с экосистемой CUDA или построение открытой экосистемы. Совокупное присутствие этих компаний показывает, что китайские облачные ИИ-чипы переходят от «всестороннего равнения на NVIDIA» к «точечным прорывам в нишевых сценариях», отвоёвывая себе пространство для жизни в тени гигантов за счёт дифференцированного позиционирования.
Рисунок: китайские периферийные и оконечные ИИ-чипы (часть)
В периферийном и оконечном сегменте Horizon Robotics чипами серии Чжэнчэн 6 (征程6) закрывает все сценарии интеллектуального вождения — от базовых ADAS до продвинутой навигации NOA, успешно вышла в серийное производство на автомобилях ведущих автопроизводителей — BYD, Li Auto, NIO — и преодолела отметку отгрузок в 10 млн чипов. Rockchip и Amlogic — скрытые чемпионы в области AIoT: такие чипы, как RK3588 и RK3576, благодаря очень высокому соотношению цены и производительности и активному сообществу разработчиков широко применяются в периферийных сценариях — ARM-ПК, роботах и умных экранах.
Айсинь Юаньчжи (爱芯元智) закрыла слепую зону в ключевой нише оконечного компьютерного зрения. В отличие от большинства SoC, где ISP и NPU обрабатываются как независимые модули, её чипы серии AX построены на архитектуре совместного проектирования ISP+NPU, благодаря чему предобработка изображения и ИИ-инференс глубоко сливаются на уровне тракта данных; в сложных условиях освещения — при низкой освещённости, высоком динамическом диапазоне — их возможности обработки заметно превосходят универсальные решения, что позволило компании создать технологический барьер в сценариях интеллектуальной безопасности, видеорегистраторов высокого класса и машинного зрения промышленных роботов.
BM1684X/BM1688 компании Суаньнэн (算能科技) — первые в Китае серийные ИИ-процессоры на RISC-V; их значение не только в открытости самого «железа», но и в комплекте зрелых компилятора, отладчика и инструментов конвертации моделей, что резко снижает порог миграции для разработчиков. В условиях двойного тренда — политики «синьчуан» (信创, инновации в ИТ-приложениях) и открытой экосистемы — RISC-V может стать важным фактором, позволяющим периферийным ИИ-чипам избавиться от зависимости от лицензирования архитектур.
Рисунок: китайские исследователи новых архитектур (вычисления в памяти)
В архитектурном обновлении эпохи «после Мура» три компании — Хоумо Чжинэн (后摩智能), Таньцзин (探境科技) и Чжицунь (知存科技) — совместно очерчивают картину индустриализации технологии вычислений в памяти. Хоумо Чжинэн на основе цифровой архитектуры вычислений в памяти на SRAM добилась значительного повышения энергоэффективности при сохранении совместимости с проектированием цифровых схем; оригинальная архитектура «приоритет хранения» компании Таньцзин в корне перестраивает способ движения данных, снижая накладные расходы на перемещение данных на 90 %, и особенно подходит для задач, чувствительных к пропускной способности; WTM2101 компании Чжицунь — первый в мире серийный аналоговый ИИ-чип с вычислениями в памяти, который при милливаттном энергопотреблении выполняет голосовое пробуждение и распознавание ключевых слов, давая устройствам с предельно низким энергопотреблением невиданные ранее возможности ИИ. Сосуществование этих трёх компаний показывает, что в исследовании вычислительных архитектур следующего поколения Китай не ставит на единственный технологический путь, а продвигается по нескольким направлениям параллельно, стремясь захватить инициативу в архитектурном обновлении эпохи «после Мура».
Коллективное появление этих компаний поднимает нарратив китайской индустрии ИИ-чипов с уровня «догнать и заместить» до уровня «многообразного сосуществования». Возможно, по абсолютной производительности они пока не могут равняться с NVIDIA, но в конкретных сценариях и при конкретных ограничениях они строят собственные технологические защитные рвы и замкнутые бизнес-циклы. Именно такой многоуровневый, многодорожечный формат прорыва — признак настоящего взросления китайских ИИ-чипов.
Передовая упаковка: асимметричное оружие в условиях геополитики
В нынешних условиях ограниченного доступа к передовым техпроцессам передовая упаковка для китайской индустрии ИИ-чипов — уже не просто техническое средство повышения производительности, а «асимметричная стратегия выживания», позволяющая обойти ограничения на EUV-литографы. Когда невозможно получить монолитный большой кристалл по нормам тоньше 5 нм, высокоплотное соединение нескольких малых кристаллов, выпущенных по зрелым техпроцессам (например, 7 нм или 14 нм), с помощью 2.5D- или 3D-упаковки теоретически позволяет приблизиться к совокупной производительности одного чипа на передовом техпроцессе. Хотя такой подход влечёт инженерные издержки — рост площади чипа, снижение выхода годных и усложнение теплоотвода, — в реальных ограничениях это на сегодня единственный реализуемый путь скачка производительности.
Несколько ведущих китайских компаний-разработчиков ИИ-чипов уже сделали в этом направлении реальные шаги. Например, часть китайских обучающих чипов высокого класса использует 2.5D-упаковку, аналогичную CoWoS, соединяя вычислительные чиплеты с памятью HBM через кремниевый интерпозер, чтобы компенсировать нехватку производительности и пропускной способности одного кристалла. Такой подход — «разделить целое на части и вновь собрать части в целое» — позволяет китайским чипам даже на ограниченных технологических узлах поставлять продукты, отвечающие базовым потребностям обучения больших моделей.
Этому сопутствует быстрый рост китайской цепочки упаковочного производства. Лидеры отрасли упаковки и тестирования — Чандянь (长电科技), Тунфу Вэйдянь (通富微电), Шэнхэ Мэйсинь (盛合美芯) — уже добились прорывов в технологиях класса CoWoS и способны принимать заказы на передовую упаковку китайских ИИ-чипов. Однако нужно трезво осознавать, что в верхних звеньях цепочки сохраняются явные слабые места: высокопроизводительные подложки из материала ABF, оборудование высокоточного гибридного бондинга, оборудование контроля передовой упаковки — доля китайской продукции здесь по-прежнему низка. Передовая упаковка выиграла для нас ценное окно времени, но для подлинной всесторонней устойчивости цепочки поставок по-прежнему требуются непрерывные инвестиции и упорная работа по всей цепочке полупроводникового производства.
Внедрение в прикладных сценариях и типичные примеры
Технология создаёт настоящую ценность, только воплощаясь в конкретных сценариях, и ИИ-чипы с невиданной прежде глубиной перестраивают модели работы тысяч отраслей.
В области инфраструктуры больших моделей предобучение моделей с сотнями миллиардов параметров, генерация с дополненным поиском и инференс агентов опираются на облачные кластеры уровня десяти тысяч карт. За китайскими большими моделями — Вэньсинь Иянь (文心一言) от Baidu, Тунъи Цяньвэнь (通义千问) от Alibaba — стоит огромный вычислительный фундамент из чипов Ascend и NVIDIA, а генерация изображений в реальном времени в таких приложениях, как Midjourney и Stable Diffusion, полностью зависит от эластичных мощностей облачных GPU. Сегодня спрос на инференс-мощности растёт быстрее, чем на обучающие, и специализированные инференс-чипы вроде Groq LPU благодаря сверхнизкой задержке начинают выходить на первый план.
В сфере умных автомобилей и автономного вождения слияние данных восприятия, планирование маршрута, взаимодействие в кабине и сквозное автономное вождение предъявляют к автомобильным чипам чрезвычайно высокие требования. Tesla FSD V12 на чипе HW4.0 реализует сквозное вождение на чистом машинном зрении, XPeng XNGP на двух чипах Orin-X обеспечивает навигационное ассистирование вождению в городе, а система «Небесное око» (天神之眼) BYD на чипах Чжэнчэн от Horizon Robotics делает интеллектуальное вождение высокого уровня общедоступным. Появление единых чипов «кабина + вождение» позволяет одному чипу одновременно управлять развлекательной системой кабины и системой автономного вождения, что существенно снижает стоимость электронно-электрической архитектуры автомобиля.
В сегменте потребительской электроники — ИИ-ПК и ИИ-смартфонов — локальное реферирование документов, перевод в реальном времени, удаление объектов с изображений, построение персональной базы знаний и офлайн-ассистенты заново определяют пользовательский опыт. Серия Apple iPhone 16 на чипе A18 Pro поддерживает Apple Intelligence, Lenovo Yoga Air 14s на Snapdragon X Elite обеспечивает ИИ-работу в течение всего дня, серия Samsung Galaxy S24 делает ставку на функцию «обведи и найди». Производительность NPU стала ключевым критерием для потребителей при смене устройства — начинается волна обновления на ИИ-нативные устройства.
Большие модели на устройстве: от маркетинговой концепции к инженерной реальности
Когда крупные производители смартфонов и ПК наперебой заявляют, что их устройства могут «локально запускать большие модели», мало кто задаётся вопросом, как именно модель с 7 млрд параметров втискивается в мобильное устройство с памятью всего 8 ГБ или 12 ГБ. За этим стоит не магия, а совместное действие целого ряда точных инженерных оптимизаций. Внедрение больших моделей на устройствах — это, по сути, предельное сжатие и ускорение модели в условиях крайне ограниченного бюджета вычислительных мощностей, памяти и энергопотребления.
Квантование — самое базовое и самое важное звено. Преобразование весов модели из формата с плавающей точкой FP16 в целочисленное представление INT4 или INT8 уменьшает размер модели в 4–8 раз и одновременно заметно ускоряет инференс, а потерю точности после калибровки можно удержать в приемлемых пределах. Разрежение и прунинг дополнительно удаляют из модели избыточные веса, мало влияющие на результат, сокращая объём вычислений и занимаемую память без заметного ухудшения качества генерации. Оптимизация KV Cache решает проблему узкого места пропускной способности памяти при авторегрессионной генерации: постраничное управление, квантование кэша и другие приёмы существенно снижают нагрузку на видеопамять при инференсе. Спекулятивное декодирование использует небольшую модель для быстрой генерации последовательности токенов-кандидатов, которую затем параллельно проверяет большая модель; так обходится последовательное узкое место авторегрессионной генерации, а скорость генерации на устройстве вырастает в 2–3 раза.
Разные оконечные платформы заметно различаются по реальным показателям. При запуске одной и той же квантованной модели Llama-3-8B-Q4 Snapdragon 8 Gen 3, Dimensity 9300 и Apple M4 имеют свои сильные и слабые стороны по числу генерируемых токенов в секунду, задержке первого токена, энергопотреблению и занимаемой памяти. За этими различиями стоит совокупность факторов: архитектура NPU, пропускная способность памяти, иерархия кэшей и уровень оптимизации компилятора. Понимание этих инженерных деталей помогает пробиться сквозь туман маркетинговых формулировок и реально оценить уровень интеллекта ИИ-устройства, а разработчикам оконечных ИИ-чипов даёт чёткое направление оптимизации.
В промышленном производстве и робототехнике контроль качества машинным зрением, предиктивное обслуживание и управление воплощённым интеллектом невозможны без периферийных чипов. На производственных линиях CATL Rockchip RK3588 используется для выявления дефектов аккумуляторов, снижая долю ложных срабатываний до одной десятитысячной; человекоподобный робот Unitree на Jetson Orin адаптивно ходит по сложному рельефу. Периферийные чипы дают роботу «мозжечок» — управление движением, а облачные большие модели — «мозг», принимающий решения; вместе они двигают модернизацию интеллектуального производства.
В умных городах и безопасности традиционные сценарии — структурированный анализ видео, регулирование транспортных потоков, распознавание аномального поведения — обретают новую жизнь благодаря встраиванию ИИ-чипов на переднем крае. «Городской мозг» Ханчжоу с помощью периферийных ИИ-боксов в реальном времени оптимизирует фазы светофоров, повышая пропускную способность на 15 %; камеры Hikvision со встроенным ИИ-чипом извлекают признаки лиц и автомобилей прямо на месте, экономя 90 % полосы обратной передачи и делая управление городом более тонким и эффективным.
Состояние рынка, вызовы и будущие тенденции
Что касается рынка в целом, объём мирового рынка ИИ-чипов, как ожидается, превысит 100 млрд долларов в 2027 году при среднегодовом темпе роста более 30 %. При этом периферийные ИИ-чипы растут заметно быстрее облачных: ожидается, что к 2026 году доля периферийных чипов на рынке превысит 40 %, а китайский рынок под двойным действием государственной политики и замещения импорта китайской продукцией лидирует в мире по темпам роста.
Однако развитие отрасли по-прежнему сталкивается с многочисленными вызовами. Ограниченный доступ к передовым техпроцессам вынуждает китайские компании компенсировать отставание архитектурными инновациями и оптимизацией зрелых техпроцессов; глубоко укоренившаяся экосистема CUDA и разрозненность китайских программных стеков делают миграцию для разработчиков дорогостоящей. Проблемы теплоотвода при энергопотреблении одного чипа, приближающемся к киловатту, и баланс автономности оконечных устройств также повышают требования к инженерному проектированию.
В перспективе взаимодействие облака, периферии и оконечных устройств станет нормой. Большие модели после обучения в облаке будут дистиллироваться и развёртываться для инференса на периферии и устройствах, а данные обратной связи с устройств — возвращаться в облако для донастройки, образуя «маховик данных». Архитектурные инновации постепенно преодолеют зависимость от техпроцесса: вычисления в памяти, фотонные вычисления, нейроморфные вычисления и технология чиплетов могут обеспечить обгон «на повороте» в эпоху «после Мура».
Ускорится и подъём специализированных чипов для вертикальных отраслей. В медицине, финансах, метеорологии и других областях появится больше специализированных чипов, оптимизированных под конкретные модели, чтобы достигать более высокой производительности при меньших затратах. Открытая архитектура RISC-V благодаря своей открытости становится новым фаворитом ИИ-чипов и может разрушить многолетнюю монополию x86 и ARM. «Зелёный» ИИ станет жёстким ограничением: цели стран по углеродной нейтральности заставляют проектирование чипов переходить от культа производительности к приоритету производительности на ватт, и способность к энергоэффективному проектированию станет ключевым конкурентным преимуществом.
Настоящая революция интеллекта происходит не только в гудящих залах дата-центров, но и в устройствах в наших руках, в едущих автомобилях и работающих заводах. Лишь когда вычислительные мощности станут такими же вездесущими и доступными, как электричество, миссия ИИ-чипов по переустройству мира будет по-настоящему выполнена.