Nvidia видит зарю AGI, OpenAI предупреждает о скрытых рисках
Дженсен Хуанг заявил, что AGI уже наступил, ссылаясь на модель OpenAI GPT-6 Astra, обученную более чем на 100 тысячах систем Grace Blackwell NVL72, и на обещание Nvidia ввести в строй ещё 400 тысяч GPU; главный научный сотрудник OpenAI Якуб Пахоцкий, напротив, указывает на пробелы в безопасности.
Заявление Дженсена Хуанга о том, что «универсальный искусственный интеллект (AGI) уже наступил», — это не столько научный вывод, сколько обобщение состояния инфраструктуры, экономики бизнеса и импульса развития отрасли. Его аргументы опираются на модель OpenAI GPT-6 Astra: по сообщениям, для её обучения задействовано более 100 тысяч систем Nvidia Grace Blackwell NVL72, а Nvidia пообещала ввести в эксплуатацию ещё 400 тысяч GPU. По-настоящему важная цифра — не ярлык «AGI», а стоящая за ним индустриальная система вычислительных мощностей.
Определение AGI: гипотетический искусственный интеллект, способный учиться и рассуждать в нескольких областях, справляться с подавляющим большинством интеллектуальных задач на уровне человека или выше, а не только преуспевать в какой-то одной конкретной задаче.
Общепризнанного теста для определения AGI в мире пока нет. Даже если модель превосходит человека в программировании, математике, научных исследованиях и управлении компьютером, она всё ещё может быть системно хрупкой, плохо управляемой и сильно зависимой от тщательно выстроенной вспомогательной инфраструктуры. Бенчмарки проверяют лишь способности на выборке задач и не доказывают, что модель обладает стабильными и надёжными комплексными умениями в незнакомой среде; они также не доказывают наличия долговременной памяти, надёжного долгосрочного планирования, реалистичного восприятия мира и способности распознавать ошибки в собственных выводах. Поэтому мнение Хуанга нельзя проверить как спецификацию чипа — это суждение, сделанное исходя из порога возможностей.
Тем не менее Astra, похоже, изменила техническую сторону дискуссии. Передовые ИИ-системы — уже не просто предсказатели следующего токена в окне чата: они всё чаще работают как агенты — разбивают целевую задачу на части, вызывают инструменты, просматривают веб, пишут и исполняют код, проверяют промежуточные результаты и координируют параллельные попытки по нескольким направлениям. Когда суммируются вычисления на стороне инференса, внешняя память и возможность вызова инструментов, объектом оценки становится не базовая модель, а целая система. Обобщающую способность порождает весь технологический стек, даже если ни один его компонент по отдельности универсальным интеллектом не обладает.
Это объясняет и план Nvidia по развёртыванию 400 тысяч GPU. Огромное количество ускорителей нужно не только для обучения более крупной модели следующего поколения, но и для обучения с подкреплением, генерации синтетических данных, непрерывной оценки моделей и массовых инференс-нагрузок. Тысячи ИИ-агентов могут сообща решать сложные задачи, тестировать и отбирать варианты решений и сводить результаты. Вычислительные мощности после завершения обучения становятся средством покупки более глубокого пространства поиска, большего числа экспериментальных итераций и более высокой надёжности. Отраслевая мера модели — уже не число параметров, а вычислительный кластер из множества моделей, где каждой задаче динамически выделяется разный объём ресурсов.
Но масштабирование вычислений усиливает и потенциальные риски. ИИ-агент, отлично справляющийся с задачами кибербезопасности, точно так же способен искать уязвимости систем, красть учётные данные или скрытно выполнять опасные операции. Множество параллельно работающих агентов могут сжать эксперименты, на которые у людей ушли бы месяцы, до нескольких часов — включая эксперименты, которых защищающаяся сторона не предвидела. Если с ростом производительности внутренняя логика рассуждений системы становится всё менее интерпретируемой, разработчики будут получать новые возможности быстрее, чем осваивать средства контроля.
Это и объясняет, почему предупреждение главного научного сотрудника OpenAI Якуба Пахоцкого не обязательно противоречит словам Хуанга: это две стороны одной медали. Хуанг видит выход возможностей на новый порог и спрос на аппаратуру, которая делает эти возможности реализуемыми и коммерчески оправданными; Пахоцкий видит пробел в безопасности: ни одна лаборатория пока не доказала, что методы выравнивания и средства мониторинга достаточно сильны, чтобы позволить ИИ безгранично масштабироваться на максимальной скорости. Одна сторона рассматривает модель как продукт и бизнес-платформу, другая — как субъекта действия с растущей автономией.
Мотивы обеих позиций заслуживают внимания. Nvidia продаёт дефицитное в этой ИИ-волне вычислительное оборудование. Признание наступления эпохи AGI оправдывает беспрецедентные капитальные вложения рынка в ускорители, сетевое оборудование, электропитание и дата-центры. OpenAI же должна и коммерциализировать ИИ-системы, и напрямую нести последствия их неудачного развёртывания. Поэтому оптимизм поставщика оборудования и предостережения лаборатории вполне могут быть верны одновременно — ни одна из сторон не лукавит.
Ключевой практический вопрос не в том, похожа ли Astra на человека, а в том, смогут ли институты прогнозировать, ограничивать и аудировать ИИ-системы, если с каждой добавленной единицей вычислительной мощности растёт их автономная дееспособность, а конкуренция подталкивает компании развёртывать их раньше, чем появятся единые стандарты.
Сейчас главное — сделать управление ИИ таким же измеримым, как показатели производительности. Понятие «AGI» само по себе слишком размыто, чтобы напрямую запускать регуляторную политику. Нужны более чёткие пороги оценки с отслеживанием таких показателей, как длительность автономного выполнения задач, способность к кибератакам, самовоспроизведение, обманное поведение, доступ к ресурсам и способность ускорять итерации ИИ-разработки. Оценку должны проводить независимые третьи стороны, повторять её после развёртывания системы, а результаты — увязывать с принудительно исполняемыми ограничениями доступа и масштаба.
Итог: спор о том, наступил ли AGI, возможно, никогда не получит точной даты, но соответствующая инфраструктура приходит вполне реально. Дополнительные 400 тысяч GPU означают больше экспериментов, больше ИИ-агентов и более короткие циклы обратной связи. Если прав Хуанг, общество реагирует на исторический технологический перелом слишком медленно; если прав Пахоцкий, человечество приближается к AGI без достаточных предохранительных тормозов. Тревожная вероятность в том, что правы могут быть оба.