Costruire un set di valutazione ML senza fuga di dati
Separa gruppi, duplicati e usi dei dati per costruire un set di valutazione ML tenuto da parte, controllabile e adatto alla tua decisione.
Cache KV: calcolare la memoria in base a contesto, GQA e batch
Calcola la cache KV con le teste KV, il contesto e le sequenze simultanee. Distingui GQA, precisione e cache statica prima di una prova reale.
Pianificare ablazioni ML: controllo, effetti e budget
Costruisci un piano di ablazione ML con controllo, fattori, interazioni e budget di prove. Un esempio calcolato per dare priorità alle varianti e concludere.
Analizzare gli errori ML per scegliere il prossimo esperimento
Analizza gli errori di classificazione ed estrazione: matrice di confusione, riferimenti, tassonomia, regressioni e controllo della correzione successiva.