На фоне стремительного развития искусственного интеллекта востребованной оказывается практически любая доступная вычислительная мощность. Даже ускорители NVIDIA A100, представленные около шести лет назад, продолжают активно использоваться в инфраструктуре для обучения и запуска ИИ-моделей.
Компания CoreWeave сообщила о заключении соглашения с неназванным заказчиком, который будет арендовать ускорители NVIDIA A100 ещё несколько лет — вплоть до 2029 года. Эту информацию также подтвердил генеральный директор NVIDIA Дженсен Хуанг.
NVIDIA представила архитектуру Ampere и ускоритель A100 в 2020 году. Позднее компания выпустила версию GA100 с 6912 ядрами CUDA и до 80 ГБ памяти HBM2E.
По современным меркам количество вычислительных ядер A100 уже не выглядит впечатляющим. Новые поколения Hopper, Blackwell и Rubin обеспечивают значительно более высокую производительность, энергоэффективность и объём памяти. Однако в условиях сохраняющегося дефицита ИИ-ускорителей даже относительно старая карта с 80 ГБ HBM2E остаётся полезным ресурсом.
Вероятно, аренда A100 обходится заметно дешевле использования современных ускорителей. Если производительности карты достаточно для конкретной задачи, заказчику может быть выгоднее задействовать проверенное оборудование, чем переплачивать за новейшее поколение.
Дженсен Хуанг отметил, что ценность платформ NVIDIA определяется не одними характеристиками чипов. По его словам, CUDA позволяет разработчикам и инженерам NVIDIA совершенствовать программную поддержку ускорителей Ampere, Hopper и Blackwell на протяжении всего срока их эксплуатации.
«Могучий A100 остаётся боеспособным с 2020 по 2029 год. Вычислительные решения NVIDIA — это не только чипы. CUDA предоставляет разработчикам и инженерам NVIDIA единую платформу, позволяющую постоянно улучшать Ampere, Hopper и Blackwell на протяжении всего срока их службы».
Глава NVIDIA также подчеркнул, что CUDA делает вычислительную инфраструктуру компании универсальной. Универсальность, в свою очередь, повышает взаимозаменяемость и загрузку оборудования, продлевая срок его эффективной эксплуатации.
«CUDA делает вычисления NVIDIA универсальными. Универсальность повышает взаимозаменяемость. Взаимозаменяемость увеличивает загрузку и продлевает срок службы, превращая вычислительные ресурсы NVIDIA в продуктивный актив — доступный для аренды, долговечный и пригодный для финансирования».
A100 уступает современным решениям NVIDIA по скорости вычислений и эффективности, но сохраняет важное преимущество — зрелую программную экосистему. Заказчикам не всегда требуется максимальная производительность: для некоторых задач обучения и инференса выгоднее использовать более старые и дешёвые ускорители.
Контракт CoreWeave подтверждает, что NVIDIA A100 могут сохранять коммерческую ценность почти десятилетие после выхода. На фоне растущего спроса на вычисления для искусственного интеллекта даже оборудование 2020 года пока рано считать устаревшим.