A100 SXM 80 GB: ML protokolünüze yer açın.

İyileştirmeden önce bir deneyi yeniden oluşturmak

Başlangıç kontrol noktasını, veri sürümünü, eğitim/doğrulama bölünmesini ve tam parametreleri bir araya getirin. İlk çalıştırma basit bir soruyu yanıtlamalıdır: Beklenen tarifle tutarlı bir sonuç elde ediliyor mu? Python, PyTorch ve CUDA sürümlerini ve sayısal seçenekleri saklayın. Bir tohum sabitlemek takibi kolaylaştırır, ancak iki farklı ortamı mutlaka bit bit aynı hale getirmez.

80 GB'lık eksiksiz bir bütçe oluşturmak

Eğitim yalnızca ağırlıkları kullanmaz. Geri yayılım için saklanan aktivasyonlar ve optimize edici durumları, mümkün olan microbatch boyutunu belirleyebilir. Gerçek bir adımı, ardından değerlendirme ve kaydetmeyi test edin; çünkü bunların bellek ayak izi farklı olabilir. Aktivasyon checkpointing, bir miktar belleği ek hesaplama karşılığında takas eder: yaygınlaştırmadan önce adım süreniz üzerindeki maliyetini karşılaştırın.

Ampere özellikle BF16 ve TF32 işlemlerini sunar. Varsayılan bir yapılandırmanın iki sürüm arasında değişmeden kaldığını varsaymak yerine yazılımınızın kullandığı formatları belirtin. Bu tercihler açıkça yazıldığında sayısal bir karşılaştırmayı yeniden gözden geçirmek kolaylaşır.

A100'ü faydalı bir karşılaştırma noktası haline getirmek

H100 SXM, aynı 80 GB kapasiteyle daha yeni bir nesli incelemenizi sağlar. Yalnızca tek bir adımın maliyetini değil, hedef metriğinize ulaşmanın maliyetini ölçün. İş yükünüz 48 GB'a rahatça sığıyorsa, bir A40 veya RTX A6000 de protokole dahil edilebilir. Her durumda, CUDA projenizin derlenmiş uzantılarının hedeflediği mimarileri doğrulayın.

Tekrarları ve rezervasyonu düzenleyin

Üç gün, bir temel modeli yeniden oluşturmak ve bir devam eğitimini test etmek için yeterlidir. Yedi gün, birden fazla seed veya ablation için bir pencere sunar. Otuz gün, düzenli kontrol noktaları ve nihai dışa aktarım içeren yapılandırılmış bir seri için uygundur. Deney manifestinizi hazırlayın, süreyi ve kart sayısını seçin, ardından sipariş bilgilerini tamamlayın. Kripto transferinden sonra « Ödedim » ile bildirin ve dosyayı hesabınızda bulun.