Яке питання вас зараз зупиняє?
Від першого завантаження до чекпойнтів — упорядкуйте пункти, які слід перевірити перед обчислювальною кампанією. Знайдіть посібники, щоб розрахувати, виміряти та зберегти придатні до використання результати.
Моя модель ще не запускалася. З чого почати?
Обсяг пам'яті та вхідні дані для першого пробного запуску.
Розрахунок пам’яті GPU: обчислення, резерви та перевірка
Обчисліть ваги в Gio, побудуйте явний резерв і підтвердьте пік за фазами. Числові приклади, пастки квантування та вибір за картою.
Пам’ять GPU: пояснення розбіжності між оцінкою та піком
Розрізняйте ваги, кеш і активації, вимірюйте allocated та reserved за фазами, а потім обирайте запас за допомогою ноутбука та протоколу PyTorch.
KV-кеш: обчислення пам'яті за контекстом, GQA і батчем
Обчисліть KV-кеш за KV-головами, контекстом і одночасними послідовностями. Розрізняйте GQA, точність і статичний кеш перед реальним запуском.
Показник зростає, але чи можна йому довіряти?
Ізольований набір для оцінювання, перевірені помилки та якісно описана різниця.
Побудувати набір для оцінювання ML без витоку даних
Відокремте групи, дублікати та способи використання даних, щоб побудувати відкладений набір для оцінювання ML — контрольований і придатний для вашого рішення.
Аналіз помилок ML для вибору наступного експерименту
Аналізуйте помилки класифікації та вилучення: матриця плутанини, еталони, таксономія, регресії та контроль наступного виправлення.
Мінливість між seeds: чи переконлива різниця в ML?
Тлумачте повторення в ML за допомогою спарених зерен, розсіювання та порогу корисної величини ефекту. Розрахований приклад і обмеження малої вибірки.
Я готую навчання. Що перевірити перед серією?
Повне оновлення, явно заданий batch і придатні для аналізу логи.
Навчання на GPU: перевірити цикл перед кампанією
Підготуйте дані, batch і відновлення навчання. Протокол за фазами для контролю пам'яті, градієнтів, валідації та вихідних файлів.
Мікробатч і накопичення: обчислити ефективний батч
Обчисліть ефективний батч, нормалізуйте втрати та перевірте накопичення градієнтів на одній чи кількох картах разом із межами його еквівалентності.
Відстеження ML-експериментів: від запуску до рішення
Пов'яжіть дані, код, параметри, прогнози та рішення за допомогою маніфесту ML-експерименту. Приклад контролю запусків і артефактів без нав'язаного інструмента.
Адаптувати чи стискати модель: як обрати варіант?
Еталон, контрольована зміна та порівнювана якість.
Доонавчання: вибір адаптації та перевірка її внеску
Підготуйте доонавчання з еталоном, відокремленими даними та контролем перезавантаження. LoRA, квантована база, бюджет і аналіз регресій.
Порівняння квантизацій: пам'ять, якість і корисна вартість
Порівнюйте референс, калібрацію, формат ваг і KV-кеш на тих самих даних. Вимірюйте пам'ять і якість, перш ніж вирішувати щодо бюджету GPU.
Планування ML-абляцій: контроль, ефекти та бюджет
Побудуйте план ML-абляції з контролем, факторами, взаємодіями та бюджетом спроб. Розрахований приклад для пріоритизації варіантів і висновку.
Бюджет обмежений. Які експерименти проводити першими?
Порядок експериментів і вартість тарифу, зіставлена з корисними результатами.
Бюджетувати ML-кампанію: спроби, рішення та повний тариф
Розкладіть ML-кампанію на етапи, визначте пріоритет варіантів і пов’яжіть тариф GPU з корисними результатами, з прикладом календаря та бюджету в USD.
Планування ML-абляцій: контроль, ефекти та бюджет
Побудуйте план ML-абляції з контролем, факторами, взаємодіями та бюджетом спроб. Розрахований приклад для пріоритизації варіантів і висновку.
ML-бенчмарк: порівняння вартості за однакової якості
Зафіксуйте якість, виміряйте той самий корпус і порівняйте повну вартість тарифів GPU на 3, 7 або 30 днів. Протокол і необроблену таблицю можна завантажити.