Die Pipeline prüfen, bevor die Versuche vervielfacht werden
Prüfen Sie auf einem kleinen Datensatz die Formen der Tensoren, die Etiketten, die Validierungstrennung und die Konsistenz der Ausgaben. Versuchen Sie zunächst, einen winzigen Batch zu lernen, wenn dies für Ihre Aufgabe relevant ist: Ein Fehlschlag kann ein Daten-, Verlust- oder Gradientenproblem aufdecken. Dieser Schritt liefert eine nützlichere Grundlage als ein langer Lauf ohne Zwischenkontrolle.
Ein einfaches Speicherprotokoll erstellen
Notieren Sie für diese Hülle von 24 GB das Volumen nach dem Laden, die Spitze eines Trainingsschritts und die Spitze der Evaluierung. Fügen Sie die Genauigkeit, den Microbatch und die Länge oder Auflösung der Eingaben hinzu. Ein so kurzes Protokoll ermöglicht es, eine durch das Modell bedingte Sättigung von einer datenbedingten Sättigung zu unterscheiden. Es dient auch der Wahl der nächsten GPU, wenn Sie das Experiment erweitern.
Bewahren Sie für die Inferenz eines quantisierten Modells Vergleichsbeispiele mit einer Referenzausgabe auf. Behalten Sie für die Anpassung die trainierten Parameter und laden Sie den Export in einer sauberen Sitzung neu. Die gespeicherte Datei und der Befehl, der sie reproduziert, müssen miteinander verbunden bleiben.
Mit der Ampere-Generation konsistent bleiben
Vergewissern Sie sich, dass Ihr CUDA/PyTorch-Stack und Ihre spezialisierten Bibliotheken Ampere unterstützen. Beginnen Sie bevorzugt mit einer von Ihrem Projekt dokumentierten Kombination und ändern Sie die Versionen bei Bedarf eine nach der anderen. Die RTX 3090 stellt einen weiteren Vergleich mit 24 GB dar. Wenn Ihre Eingaben nicht reduziert werden können, ohne das Problem zu verändern, ziehen Sie die A40 mit 48 GB in Betracht, statt schwer interpretierbare Anpassungen anzuhäufen.
Das Paket in einen wiederverwendbaren Ausgangspunkt verwandeln
Drei Tage können eine validierte Pipeline und einen wieder ladbaren Checkpoint hervorbringen. Sieben Tage ermöglichen die Untersuchung mehrerer Daten- oder Hyperparameterentscheidungen. Dreißig Tage eignen sich für eine bescheidene Kampagne, die bereits bereit ist zu laufen und bewertet zu werden. Bereiten Sie vor der Bestellung die Testdaten und die Liste der zu exportierenden Ergebnisse vor. Wählen Sie die Dauer, die Menge und die gewünschte Umgebung, dann vervollständigen Sie Ihre Kontaktdaten. Die Krypto-Zahlung wird im Vorgang mit „J’ai payé“ angezeigt.