해상도와 배치 크기 분리
작은 이미지에서 작동하는 비전 모델이 실제 작업 이미지의 메모리 사용량을 직접 예측하지는 않습니다. 먼저 배치를 고정하고 해상도를 높여가는 시리즈를 구성한 다음, 해상도를 고정하고 배치를 늘려가는 시리즈를 구성하세요. 이렇게 하면 차이를 원인별로 귀속시킬 수 있습니다. 리사이즈와 크롭 규칙을 동일하게 유지하세요. 전처리 변경은 모델 선택만큼이나 점수를 바꿀 수 있습니다.
전체 학습 또는 적응 측정
48GB는 24GB 카드보다 활성화와 보조 구성 요소를 위한 공간이 더 많습니다. 그러나 보편적으로 허용되는 모델 크기를 정의하지는 않습니다. 학습한다면 역전파를, 임베딩을 생성한다면 전체 파이프라인을, 형태가 다양하다면 가장 큰 샘플을 측정하세요. 피크와 이를 유발한 파라미터를 기록하세요.
적응의 경우, 설정과 분리된 홀드아웃 세트에서 품질을 비교하세요. 메모리를 모두 채우기 위해 배치를 늘리는 것만으로는 과학적 개선이 되지 않습니다.
Ada와 Ampere: 동일한 레시피로 비교하기
RTX 6000 Ada와 RTX A6000은 이 카탈로그에서 모두 48GB이지만 서로 다른 아키텍처에 속합니다. 따라서 CUDA, PyTorch 및 라이브러리 버전을 가능한 한 비슷하게 유지하세요. Ada용으로 컴파일된 확장을 확인하고 모델에서 가장 특수한 연산을 테스트하세요. L40S도 또 다른 48GB 비교 대상입니다. 피크가 24GB 한도 내에 머문다면 RTX 4090으로 충분할 수 있습니다.
요금제 전에 데이터 준비하기
3일은 해상도/배치 매핑에 적합합니다. 7일이면 몇 가지 변형을 조정하고 평가할 수 있습니다. 30일은 반복과 체계적인 내보내기가 있는 비전 캠페인에 어울립니다. 기간을 선택하기 전에 이미지 매니페스트, 분할, 평가 스크립트를 준비하세요. 주문 하나에 구성, 원하는 환경, 연락처가 모두 담기며, 암호화폐 결제는 같은 주문에서 이어서 추적할 수 있습니다.