Denemeleri çoğaltmadan önce işlem hattını doğrulayın
Küçük bir veri kümesi üzerinde tensör şekillerini, etiketleri, doğrulama ayrımını ve çıktı tutarlılığını kontrol edin. Göreviniz için uygun olduğunda önce minimini bir yığını öğrenmeyi deneyin: başarısızlık bir veri, kayıp veya gradyan sorununu ortaya çıkarabilir. Bu adım, ara kontrol yapılmadan başlatılan uzun bir çalıştırmadan daha faydalı bir temel sağlar.
Basit bir bellek kaydı oluşturun
Bu 24 GB'lık zarf için yükleme sonrası hacmi, bir eğitim adımının tepe değerini ve değerlendirme tepe değerini not edin. Hassasiyeti, microbatch'i ve girdilerin uzunluğunu veya çözünürlüğünü ekleyin. Bu kadar kısa bir kayıt, modelden kaynaklanan bir doygunluğu veriyle ilgili bir doygunluktan ayırt etmeyi sağlar. Deneyi genişletirseniz bir sonraki GPU'yu seçmeye de yarar.
Nicelleştirilmiş bir modelin çıkarımı için, bir referans çıktıyla karşılaştırma örneklerini saklayın. Uyarlama için, eğitilen parametreleri saklayın ve dışa aktarımı temiz bir oturumda yeniden yükleyin. Kaydedilen dosya ile onu yeniden üreten komut birbiriyle ilişkili kalmalıdır.
Ampere nesliyle tutarlı kalın
CUDA/PyTorch yığınınızın ve özel kitaplıklarınızın Ampere'ı desteklediğinden emin olun. Projeniz tarafından belgelenmiş bir kombinasyonla başlamayı tercih edin, ardından gerekirse sürümleri birer birer değiştirin. RTX 3090, başka bir 24 GB karşılaştırması sunar. Girdileriniz sorunu değiştirmeden küçültülemiyorsa, yorumlanması zor uyarlamaları biriktirmek yerine 48 GB'lık A40'ı inceleyin.
Paketi yeniden kullanılabilir bir başlangıç noktasına dönüştürün
Üç gün, doğrulanmış bir işlem hattı ve yeniden yüklenebilir bir checkpoint üretebilir. Yedi gün, birkaç veri veya hiperparametre seçimini incelemeyi sağlar. Otuz gün, çalışmaya ve değerlendirilmeye hazır mütevazı bir kampanya için uygundur. Sipariş vermeden önce deneme verilerini ve dışa aktarılacak sonuçların listesini hazırlayın. Süreyi, miktarı ve istediğiniz ortamı seçin, ardından iletişim bilgilerinizi tamamlayın. Kripto ödemesi, dosyada « J'ai payé » ile bildirilir.