Metody, które pozwolą zbudować Twój następny dowód.
Piętnaście materiałów referencyjnych do szacowania rozmiarów, oceny, porównywania i zachowywania eksperymentów. Wybierz pytanie, przeanalizuj przykład, a następnie wykorzystaj protokół i zasoby potrzebne do Twojej decyzji.
Twoja następna decyzja
ma punkt wyjścia.
- Obliczyć zapotrzebowanie
Ustal parametry, precyzję i jawny zapas.
- Obserwować fazy
Powiąż szczyt z danymi wejściowymi i faktycznie wykonaną pracą.
- Porównać wyniki
Ustal jakość przed kosztem użytecznego wyniku.
Na Twoim stanowisku pracy: IteraGPU Lab v1
Oszacować wagi → oprzyrządować małą sieć → przygotować porównanie przy ustalonej jakości. Notebook i tabela są puste; teczka pamięci określa zakres testu walidacyjnego skryptu.
Utrzymanie obciążenia
Oddziel obliczanie wag, pamięć podręczną i fazy, które tworzą szczyt.
Wymiarowanie pamięci GPU: obliczenia, rezerwy i walidacja
Oblicz wagi w GiB, zbuduj jawną rezerwę i zatwierdź pik według fazy. Przykłady liczbowe, pułapki kwantyzacji i wybór według karty.
Przeczytaj metodęPamięć GPU: wyjaśnić rozbieżność między szacowaniem a szczytem
Rozróżnij wagi, cache i aktywacje, zmierz allocated i reserved na każdym etapie, a następnie wybierz margines za pomocą notebooka i protokołu PyTorch.
Przeczytaj metodęCache KV: oblicz pamięć według kontekstu, GQA i batcha
Oblicz cache KV na podstawie głów KV, kontekstu i równoczesnych sekwencji. Rozróżnij GQA, precyzję i cache statyczny przed rzeczywistą próbą.
Przeczytaj metodęMicrobatch i akumulacja: obliczyć efektywny batch
Oblicz efektywny batch, znormalizuj stratę i zweryfikuj akumulację gradientów na jednej lub wielu kartach, wraz z jej ograniczeniami równoważności.
Przeczytaj metodęZdefiniować akceptowalną jakość
Przygotuj przykłady, przeanalizuj błędy i sprawdź, co zmienia kompresja.
Zbuduj zbiór ewaluacyjny ML bez wycieku danych
Oddziel grupy, duplikaty i sposoby użycia danych, aby zbudować odłożony na bok zbiór ewaluacyjny ML: kontrolowalny i dopasowany do twojej decyzji.
Przeczytaj metodęAnaliza błędów ML w celu wyboru następnego eksperymentu
Analizuj błędy klasyfikacji i ekstrakcji: macierz pomyłek, odniesienia, taksonomia, regresje i kontrola następnej poprawki.
Przeczytaj metodęPorównywanie kwantyzacji: pamięć, jakość i użyteczny koszt
Porównaj referencję, kalibrację, format wag i cache KV na tych samych danych. Zmierz pamięć i jakość, zanim zdecydujesz o budżecie GPU.
Przeczytaj metodęInferencja GPU: wybór według pamięci, kontekstu i jakości
Zwymiaruj inferencję z uwzględnieniem kontekstu, współbieżności, szczytu pamięci i jakości wyników. Konkretny protokół przed wyborem pakietu GPU.
Przeczytaj metodęPrzypisać różnice
Wybierz próbę kontrolną, uporządkuj warianty i odróżnij efekt od zmienności.
Planowanie ablacji ML: próba kontrolna, efekty i budżet
Zbuduj plan ablacji ML z próbą kontrolną, czynnikami, interakcjami i budżetem prób. Obliczony przykład priorytetyzacji wariantów i wyciągania wniosków.
Przeczytaj metodęZmienność między ziarnami: czy różnica w ML jest przekonująca?
Interpretuj powtórzenia w ML za pomocą sparowanych ziaren, rozproszenia i progu użytecznego efektu. Obliczony przykład i ograniczenia małej próby.
Przeczytaj metodęTrening GPU: zweryfikuj pętlę przed kampanią
Przygotuj dane, batch i wznowienie treningu. Protokół według faz do kontroli pamięci, gradientów, walidacji i plików wyjściowych.
Przeczytaj metodęFine-tuning: wybrać adaptację i zweryfikować jej wkład
Przygotuj fine-tuning z odniesieniem, rozdzielonymi danymi i kontrolą ponownego wczytania. LoRA, skwantyzowana baza, budżet i analiza regresji.
Przeczytaj metodęZachować i sfinansować dowód
Powiąż obserwacje z plikami, wybranym planem i następną decyzją.
Śledzenie eksperymentów ML: od uruchomienia do decyzji
Połącz dane, kod, parametry, predykcje i decyzję za pomocą manifestu eksperymentu ML. Przykład kontroli runów i artefaktów bez narzucania narzędzia.
Przeczytaj metodęBenchmark ML: porównaj koszt przy równoważnej jakości
Ustal jakość, zmierz ten sam korpus i porównaj pełny koszt forfaitów GPU na 3, 7 lub 30 dni. Protokół i surowa tabela do pobrania.
Przeczytaj metodęBudżetowanie kampanii ML: próby, decyzje i cały forfait
Rozłóż kampanię ML na części, ustal priorytety wariantów i powiąż forfait GPU z użytecznymi wynikami, z przykładem harmonogramu i budżetu w USD.
Przeczytaj metodęIteraGPU Lab v1
Obliczenia pamięci, mała sieć syntetyczna, protokół jakości i pusta tabela wyników: obie teczki wyjaśniają, jak korzystać z pakietu, a potem co pozostaje zmierzyć na Twoim obciążeniu.
- Pobierz pakiet IteraGPU Lab v1
Materiały oryginalne na licencji MIT. Wyniki pozostają puste; mała lokalna kontrola instrumentu nie kwalifikuje GPU z katalogu.