De pipeline controleren voordat je het aantal pogingen opvoert
Controleer op een kleine dataset de tensorvormen, de labels, de validatiesplitsing en de consistentie van de uitvoer. Probeer eerst een piepkleine batch te leren wanneer dat relevant is voor je taak: een mislukking kan een probleem met data, loss of gradiënten onthullen. Deze stap geeft een nuttiger basis dan een lange run die zonder tussentijdse controle wordt gestart.
Een eenvoudig geheugenoverzicht opstellen
Noteer voor dit budget van 24 GB het volume na laden, de piek van een trainingsstap en de piek van de evaluatie. Voeg de precisie, de microbatch en de lengte of resolutie van de invoer toe. Zo'n kort overzicht maakt het mogelijk een verzadiging door het model te onderscheiden van een verzadiging door de data. Het helpt ook bij het kiezen van de volgende GPU als je het experiment uitbreidt.
Bewaar voor de inferentie van een gekwantiseerd model vergelijkingsvoorbeelden met een referentie-uitvoer. Bewaar voor de aanpassing de getrainde parameters en laad de export in een schone sessie. Het opgeslagen bestand en het commando dat het reproduceert moeten aan elkaar gekoppeld blijven.
Consistent blijven met de Ampere-generatie
Controleer dat je CUDA/PyTorch-stack en je gespecialiseerde bibliotheken Ampere ondersteunen. Begin bij voorkeur met een combinatie die door je project wordt gedocumenteerd en wijzig de versies daarna één voor één indien nodig. De RTX 3090 vormt een andere vergelijking van 24 GB. Als je invoer niet kan worden verkleind zonder het probleem te veranderen, bekijk dan de A40 van 48 GB in plaats van moeilijk te interpreteren aanpassingen op te stapelen.
Het pakket omvormen tot een herbruikbaar startpunt
Drie dagen kunnen een gevalideerde pipeline en een herlaadbaar checkpoint opleveren. Zeven dagen maken het mogelijk verschillende datakeuzes of hyperparameters te onderzoeken. Dertig dagen passen bij een bescheiden campagne die al klaar is om te draaien en te worden geëvalueerd. Bereid vóór het bestellen de testdata en de lijst met te exporteren resultaten voor. Kies de duur, de hoeveelheid en de gewenste omgeving, en vul daarna je gegevens in. De cryptobetaling wordt in het dossier gemeld met 'Ik heb betaald'.