Des méthodes pour construire votre prochaine preuve.
Quinze références pour dimensionner, évaluer, comparer et conserver vos expériences. Choisissez une question, travaillez un exemple, puis reprenez le protocole et les ressources utiles à votre décision.
Votre prochaine décision
a un point de départ.
- Calculer une enveloppe
Posez les paramètres, la précision et une réserve explicite.
- Observer les phases
Reliez le pic aux entrées et au travail réellement exécuté.
- Comparer les résultats
Fixez la qualité avant le coût du résultat utile.
À votre paillasse : IteraGPU Lab v1
Estimer les poids → instrumenter un petit réseau → préparer une comparaison à qualité fixée. Le notebook et le tableau sont vierges ; le dossier mémoire précise la portée de l’essai de validation du script.
Faire tenir la charge
Séparer le calcul des poids, le cache et les phases qui créent le pic.
Dimensionner la mémoire GPU : calcul, réserves et validation
Calculez les poids en Gio, construisez une réserve explicite et validez le pic par phase. Exemples chiffrés, pièges de quantification et choix par carte.
Lire la méthodeMémoire GPU : expliquer l’écart entre estimation et pic
Distinguez poids, cache et activations, mesurez allocated et reserved par phase, puis choisissez une marge avec un notebook et un protocole PyTorch.
Lire la méthodeCache KV : calculer la mémoire selon contexte, GQA et batch
Calculez le cache KV avec les têtes KV, le contexte et les séquences simultanées. Distinguez GQA, précision et cache statique avant un essai réel.
Lire la méthodeMicrobatch et accumulation : calculer le batch effectif
Calculez le batch effectif, normalisez la perte et vérifiez une accumulation de gradients sur une ou plusieurs cartes, avec ses limites d’équivalence.
Lire la méthodeDéfinir une qualité acceptable
Préparer les exemples, lire les erreurs et contrôler ce que change une compression.
Construire un jeu d’évaluation ML sans fuite de données
Séparez groupes, doublons et usages des données pour construire un jeu d’évaluation ML tenu à part, contrôlable et adapté à votre décision.
Lire la méthodeAnalyser les erreurs ML pour choisir la prochaine expérience
Analysez les erreurs de classification et d’extraction : matrice de confusion, références, taxonomie, régressions et contrôle de la correction suivante.
Lire la méthodeComparer des quantifications : mémoire, qualité et coût utile
Comparez référence, calibration, format des poids et cache KV avec les mêmes données. Mesurez mémoire et qualité avant de décider du budget GPU.
Lire la méthodeInférence GPU : choisir selon mémoire, contexte et qualité
Dimensionnez l’inférence avec le contexte, la concurrence, le pic mémoire et la qualité des sorties. Un protocole concret avant de choisir votre forfait GPU.
Lire la méthodeAttribuer les différences
Choisir un témoin, organiser les variantes et distinguer un effet de la variabilité.
Planifier des ablations ML : témoin, effets et budget
Construisez un plan d’ablation ML avec témoin, facteurs, interactions et budget d’essais. Un exemple calculé pour prioriser les variantes et conclure.
Lire la méthodeVariabilité entre seeds : un écart ML est-il convaincant ?
Interprétez les répétitions ML avec des graines appariées, la dispersion et un seuil d’effet utile. Exemple calculé et limites d’un petit échantillon.
Lire la méthodeEntraînement GPU : valider la boucle avant la campagne
Préparez les données, le batch et la reprise d’un entraînement. Un protocole par phase pour contrôler mémoire, gradients, validation et fichiers de sortie.
Lire la méthodeFine-tuning : choisir une adaptation et vérifier son apport
Préparez un fine-tuning avec une référence, des données séparées et un contrôle de rechargement. LoRA, base quantifiée, budget et analyse des régressions.
Lire la méthodeConserver et financer la preuve
Relier les observations aux fichiers, au forfait engagé et à la prochaine décision.
Tracer ses expériences ML : du run à la décision
Reliez données, code, paramètres, prédictions et décision avec un manifeste d’expérience ML. Exemple de contrôle des runs et artefacts sans outil imposé.
Lire la méthodeBenchmark ML : comparer le coût à qualité équivalente
Fixez la qualité, mesurez le même corpus et comparez le coût entier des forfaits GPU de 3, 7 ou 30 jours. Protocole et tableau brut à télécharger.
Lire la méthodeBudgéter une campagne ML : essais, décisions et forfait entier
Décomposez une campagne ML, priorisez les variantes et reliez le forfait GPU aux résultats utiles, avec un exemple de calendrier et de budget en USD.
Lire la méthodeIteraGPU Lab v1
Calcul mémoire, petit réseau synthétique, protocole de qualité et tableau de résultats vierge : les deux dossiers expliquent comment utiliser le pack, puis ce qui reste à mesurer sur votre charge.
- Télécharger le pack IteraGPU Lab v1
Ressources originales sous licence MIT. Les résultats restent vierges ; le petit contrôle local de l’instrument ne qualifie pas les GPU du catalogue.