Modal и Vera: стоимость вычислений для ИИ-агентов не сводится к тестам процессора

Modal сообщила 19 октября: ранние тесты Vera показали до двукратной пропускной способности сопоставимого Intel GNR, без универсального ускорения последовательных задач; поддержка Vera в песочницах планируется.¹

Открытый тест использует 50 задач Terminal-Bench с эталонными решениями, прогретыми контейнерами, без сетевых вызовов и ожидания модели; завершение засчитывается после проверки результата.² Поэтому объявление служит отправной точкой для оценки инфраструктуры, а не готовым ответом на вопрос о стоимости полноценного сервиса агентов.

Архивное фото: штаб-квартира NVIDIA, Санта-Клара, Калифорния, 4 августа 2018 года. Автор фотографии: Coolcaesar; производная версия с коррекцией перспективы и кадрированием: Jacek Halicki, 2020 год. Источник: NVIDIA Headquarters. CC BY-SA 4.0.

Сначала определить, когда запускается секундомер

Время обслуживания агента может включать очередь, подготовку среды, ответы модели, исполнение инструментов, проверку и передачу результата. Отсчёт после готовности среды отвечает не на тот же вопрос, что отсчёт с момента отправки запроса клиентом. Обе методики допустимы. Ошибка возникает, когда результат первой выдают за результат второй.

Система облачных метрик NIST задаёт условия и границы измерения.³ Практическое применение здесь — фиксировать поступление запроса, готовность среды и принятие результата. Это отделяет ожидание и подготовку от исполнения, не меняя незаметно точку отсчёта при переходе между платформами.

Чисто условный процесс занимает 100 секунд: 30 приходятся на ускоряемые вычисления, а 70 — на неизменившееся ожидание или другие операции. Если сократить вычислительную часть вдвое, весь процесс займёт 85 секунд: экономия времени составит 15%, а не 50%. Это арифметический пример, не прогноз для Vera. Он показывает, зачем сначала определить изменяемую часть работы и лишь затем переносить результат компонента на сервис целиком.

Пропускной способности нужны срок и проверка результата

Сервис способен завершать больше заданий в час, не ускоряя каждое из них. И наоборот, быстрое выполнение одной задачи не доказывает устойчивость при одновременном поступлении запросов. Для оператора важнее сравнивать корректные результаты, полученные в пределах срока, действительно обещанного клиентам.

Поэтому опоздания, тайм-ауты и неудачи должны оставаться видимыми. Если исключить расходы на неуспешные попытки из числителя, но оставить в знаменателе лишь успешные результаты, стоимость будет искусственно занижена. Одна средняя величина также может скрыть опыт пользователей с наибольшими задержками. Медиана, высокий процентиль, состав задач и характер поступления запросов отвечают на разные, взаимодополняющие вопросы.

Другой вымышленный пример поясняет расчёт. Сервис за период наблюдения обошёлся в 100 долларов и дал 1 000 принятых результатов: каждый стоит десять центов. Другая конфигурация за те же 100 долларов дала только 800 принятых результатов: по 12,5 цента, сколько бы попыток она ни запускала. Это не тарифы Modal и не измеренные частоты ошибок. Сравнение имеет смысл лишь при неизменных критериях приёмки.

Общий пул ресурсов превращает вопрос о чипе в вопрос о сервисе

Определение облачных вычислений NIST включает объединение ресурсов, быструю эластичность и измеряемость сервиса. Ресурсы могут перераспределяться между клиентами, расширяться и освобождаться, а их использование учитывается на подходящем уровне.⁴ Именно поэтому покупка сервера и счёт за облако не являются взаимозаменяемыми единицами сравнения.

Аналитический вывод состоит в том, что мощность следует оценивать на уровне полезного сервиса. Если запросов слишком мало, чтобы занять дополнительную мощность, рост предельной производительности не обязательно уменьшит фиксированный счёт. Если спрос превышает возможности системы, необходимо определить ограничение: вычисления, память, хранилище, внешний сервис или правила допуска. Дополнительный процессорный ресурс не снимает узкое место в другой части системы.

Зарезервированный ускоритель тоже может создавать расходы, пока ждёт предварительной операции. Но её сокращение даст экономический эффект лишь тогда, когда высвободит оплачиваемое время или позволит получить дополнительный полезный результат. Нельзя просто умножать сэкономленные секунды на объявленную часовую ставку, не проверив шаг тарификации, условия резервирования и готовность следующей стадии к запуску. Это вопрос экономики всей системы, а не доказательство определённой маржи от конкретного чипа.

Совместимость должна входить в бюджет переноса

Docker перечисляет эмуляцию, нативную и кросс-компиляцию для многоплатформенных образов; код контейнера должен соответствовать архитектуре хоста.⁵ Наличие способа переноса не означает отсутствия затрат на перенос всего набора приложений.

Практическое сравнение требует одинаковых приёмочных тестов на обеих платформах и учёта зависимостей, которые предстоит пересобрать, заменить либо оставить на старой. Успешный запуск контейнера — более слабое доказательство, чем правильное завершение бизнес-задачи. Настройки компилятора, версии библиотек и резервные пути исполнения могут изменить результат даже при одинаковом названии приложения.

Сама миграция тоже стоит денег. Поддержка двух семейств образов, дополнительных тестовых сред и возможности отката может быть оправданна, но её стоимость необходимо учитывать наряду с серверами. Поэтапный перенос репрезентативных задач позволяет обнаружить эти расходы, не предполагая заранее, что перенести можно всё. Это не доказывает невыгодность миграции; это определяет, что нужно измерить, прежде чем объявлять её выгодной.

Изоляция — не необязательная накладная статья

Руководство NIST по безопасности контейнеров рассматривает образы, реестры, оркестрацию, среду исполнения и операционную систему хоста. Оно предупреждает, что изоляция с общим ядром не равнозначна изоляции гипервизором, и рекомендует доверенные образы, ограниченные привилегии и хранение секретов вне образов.⁶ Это общие рекомендации, а не оценка конкретной архитектуры изоляции Modal.

Для инфраструктуры агентов отсюда следует прямой вывод: производительность надо сравнивать с защитой, действительно необходимой в эксплуатации. Удаление границы, расширение прав или отказ от аудита ради ускорения теста меняет предмет сравнения. Более дешёвый принятый результат нельзя считать тем же продуктом, если риски доступа и нарушения изоляции существенно различаются.

Следующим убедительным доказательством станет связь репрезентативного набора задач с воспроизводимыми конфигурациями, проверкой корректности, полной задержкой и исчерпывающими условиями оплаты. Объявление ставит полезный вопрос о вычислениях для агентов. Ответ потребует показать, что дополнительная мощность сохраняет ценность после переноса программ, соблюдения сроков обслуживания и требований безопасности, превращаясь в полезную работу, а не только в более высокий балл теста.

Источники

1. Modal, 19 октября 2026 года, «Процессоры NVIDIA Vera удваивают пропускную способность Modal Sandboxes». ↩

2. Modal Projects, без даты; просмотрено 20 октября 2026 года, «Agentless Agent Bench». ↩

3. Frederic de Vaulx, Eric Simmon и Robert Bohn, NIST, апрель 2018 года, «Описание метрик облачных сервисов», SP 500-307. ↩

4. Peter Mell и Timothy Grance, NIST, сентябрь 2011 года, «Определение облачных вычислений NIST», SP 800-145; редакционная поправка от 27 апреля 2012 года. Пояснительный пересказ. Republished courtesy of the National Institute of Standards and Technology; условия использования. ↩

5. Docker, без даты; просмотрено 20 октября 2026 года, «Многоплатформенные сборки». Лицензия Apache 2.0. ↩

6. Murugiah Souppaya, John Morello и Karen Scarfone, NIST, сентябрь 2017 года, «Руководство по безопасности контейнеров приложений», SP 800-190. Пояснительный пересказ. Republished courtesy of the National Institute of Standards and Technology; условия использования. Графики источника не воспроизводятся. ↩