Welke vraag houdt u vandaag tegen?
Van de eerste lading tot checkpoints: organiseer de punten die u moet controleren vóór een rekenronde. Vind gidsen om resultaten te dimensioneren, te meten en bruikbaar te bewaren.
Mijn model heeft nog niet gedraaid. Waar begin ik?
Een geheugen-envelope en de invoer voor de eerste test.
GPU-geheugen dimensioneren: berekening, reserves en validatie
Bereken de gewichten in Gio, bouw een expliciete reserve en valideer de piek per fase. Berekende voorbeelden, valkuilen bij kwantisatie en keuze per kaart.
GPU-geheugen: het verschil tussen schatting en piek verklaren
Onderscheid gewichten, cache en activaties, meet allocated en reserved per fase en kies een marge met een notebook en een PyTorch-protocol.
KV-cache: geheugen berekenen op basis van context, GQA en batch
Bereken de KV-cache met de KV-heads, de context en gelijktijdige sequenties. Maak onderscheid tussen GQA, precisie en statische cache vóór een echte test.
De score gaat vooruit, maar kan ik die vertrouwen?
Een geïsoleerde evaluatieset, nagekeken fouten en een gekwalificeerd verschil.
Een ML-evaluatieset bouwen zonder datalek
Scheid groepen, duplicaten en datagebruik om een apart gehouden, controleerbare ML-evaluatieset te bouwen die past bij je beslissing.
ML-fouten analyseren om het volgende experiment te kiezen
Analyseer fouten bij classificatie en extractie: verwarringsmatrix, referenties, taxonomie, regressies en controle van de volgende correctie.
Variabiliteit tussen seeds: is een ML-verschil overtuigend?
Interpreteer ML-herhalingen met gepaarde seeds, de spreiding en een drempel voor een nuttig effect. Uitgewerkt voorbeeld en beperkingen van een kleine steekproef.
Ik bereid een training voor. Wat moet ik controleren vóór de reeks?
Een volledige update, een expliciete batch en bruikbare traces.
GPU-training: de lus valideren vóór de campagne
Bereid de data, de batch en het hervatten van een training voor. Een protocol per fase om geheugen, gradiënten, validatie en uitvoerbestanden te controleren.
Microbatch en accumulatie: de effectieve batch berekenen
Bereken de effectieve batch, normaliseer de loss en verifieer een gradiëntaccumulatie op één of meerdere kaarten, met de beperkingen van de equivalentie.
Je ML-experimenten traceren: van run tot beslissing
Verbind data, code, parameters, voorspellingen en beslissing met een manifest voor ML-experimenten. Voorbeeld van het beheren van runs en artefacten zonder opgedrongen tool.
Het model aanpassen of comprimeren: hoe kies je een variant?
Een referentie, een gecontroleerde wijziging en vergelijkbare kwaliteit.
Fine-tuning: een aanpassing kiezen en de bijdrage controleren
Bereid een fine-tuning voor met een referentie, gescheiden data en een herlaadcontrole. LoRA, gekwantiseerde basis, budget en analyse van regressies.
Quantificaties vergelijken: geheugen, kwaliteit en nuttige kost
Vergelijk referentie, calibratie, gewichtsformaat en KV-cache met dezelfde data. Meet geheugen en kwaliteit voordat je over het GPU-budget beslist.
ML-ablatieplanning: controle, effecten en budget
Bouw een ML-ablatieplan met controle, factoren, interacties en testbudget. Een uitgewerkt voorbeeld om varianten te prioriteren en conclusies te trekken.
Het budget is beperkt. Welke tests voer ik eerst uit?
Een volgorde van experimenten en de kostprijs van het forfait afgezet tegen nuttige resultaten.
Een ML-campagne budgetteren: proeven, beslissingen en het volledige pakket
Splits een ML-campagne op, prioriteer de varianten en koppel het GPU-pakket aan nuttige resultaten, met een voorbeeld van een planning en budget in USD.
ML-ablatieplanning: controle, effecten en budget
Bouw een ML-ablatieplan met controle, factoren, interacties en testbudget. Een uitgewerkt voorbeeld om varianten te prioriteren en conclusies te trekken.
ML-benchmark: kosten vergelijken bij gelijkwaardige kwaliteit
Leg de kwaliteit vast, meet hetzelfde corpus en vergelijk de volledige kosten van GPU-forfaits van 3, 7 of 30 dagen. Protocol en ruwe tabel om te downloaden.