Разделите разрешение и размер batch
Модель компьютерного зрения, работающая на небольших изображениях, не позволяет напрямую предсказать объём памяти, который потребуют ваши рабочие изображения. Сначала постройте серию с постоянным batch и возрастающими разрешениями, затем серию с фиксированным разрешением и возрастающими batch. Это позволяет отнести различия на счёт конкретного фактора. Сохраняйте одинаковые правила изменения размера и обрезки: изменение предобработки может повлиять на оценку так же сильно, как выбор модели.
Измерьте полное обучение или адаптацию
48 ГБ дают больше места, чем карта на 24 ГБ, для активаций и вспомогательных компонентов. Однако они не определяют универсально допустимый размер модели. Измеряйте обратное распространение, если вы обучаете, весь конвейер, если вы создаёте embeddings, и самые крупные образцы, если формы варьируются. Фиксируйте пик и параметры, которые его вызвали.
Для адаптации сравните качество на наборе, отложенном от настроек. Увеличение batch, чтобы заполнить всю память, само по себе не является научным улучшением.
Ada и Ampere: сравнение при неизменных рецептах
RTX 6000 Ada и RTX A6000 в этом каталоге обе имеют 48 ГБ, но относятся к разным архитектурам. Поэтому держите ваши версии CUDA, PyTorch и библиотек настолько сопоставимыми, насколько возможно. Проверьте скомпилированные расширения для Ada и протестируйте самую специализированную операцию вашей модели. L40S — ещё одно сравнение на 48 ГБ; RTX 4090 может быть достаточно, если ваши пики остаются в её объёме 24 ГБ.
Подготовьте данные до выбора тарифа
Трёх дней достаточно для картографии разрешение/batch. Семь дней позволяют адаптировать и оценить несколько вариантов. Тридцать дней сопровождают кампанию в области компьютерного зрения с повторами и организованными экспортами. Подготовьте манифест изображений, их разбиения и скрипт оценки до выбора длительности. Заказ объединяет конфигурацию, желаемое окружение и ваши контактные данные; ваша криптовалютная оплата затем отслеживается в том же кабинете.