Pisahkan resolusi dan ukuran batch
Model visi yang berjalan pada gambar kecil tidak secara langsung memprediksi kebutuhan memori untuk gambar kerja Anda. Susun dulu satu rangkaian dengan batch konstan dan resolusi yang meningkat, lalu satu rangkaian dengan resolusi tetap dan batch yang meningkat. Ini memungkinkan Anda mengaitkan perbedaannya. Pertahankan aturan pengubahan ukuran dan pemotongan yang sama: mengubah prapemrosesan bisa mengubah skor sama besarnya dengan pilihan model.
Mengukur pelatihan atau adaptasi penuh
48 GB memberi lebih banyak ruang daripada kartu 24 GB untuk aktivasi dan komponen tambahan. Namun, ini tidak menentukan ukuran model yang bisa diterima secara universal. Ukur propagasi balik jika Anda melatih, seluruh alur jika Anda menghasilkan embedding, dan sampel terbesar jika bentuknya bervariasi. Catat puncaknya dan parameter yang menyebabkannya.
Untuk adaptasi, bandingkan kualitas pada himpunan yang disisihkan dari penyetelan. Memperbesar batch untuk mengisi seluruh memori bukanlah, dengan sendirinya, sebuah peningkatan ilmiah.
Ada dan Ampere: perbandingan dengan resep yang konstan
RTX 6000 Ada dan RTX A6000 keduanya memiliki 48 GB dalam katalog ini, tetapi berasal dari arsitektur yang berbeda. Karena itu, jaga agar versi CUDA, PyTorch, dan pustaka Anda sedapat mungkin sebanding. Periksa ekstensi yang dikompilasi untuk Ada dan uji operasi paling khusus dari model Anda. L40S merupakan perbandingan 48 GB lainnya; RTX 4090 bisa cukup jika puncak memori Anda tetap dalam batas 24 GB-nya.
Siapkan data sebelum memilih paket
Tiga hari cocok untuk pemetaan resolusi/batch. Tujuh hari memungkinkan Anda mengadaptasi dan mengevaluasi beberapa varian. Tiga puluh hari mendampingi kampanye visi dengan pengulangan dan ekspor yang terorganisir. Siapkan manifes gambar, pemisahannya, dan skrip evaluasi sebelum memilih durasi. Pesanan mencakup konfigurasi, lingkungan yang diinginkan, dan kontak Anda; pembayaran kripto Anda selanjutnya dilacak dalam berkas yang sama.