Как построить набор для оценки ML без утечки данных
Разделите группы, дубликаты и варианты использования данных, чтобы построить отложенный набор для оценки ML — контролируемый и подходящий для вашего решения.
KV-кэш: расчёт памяти по контексту, GQA и батчу
Рассчитайте KV-кэш с учётом KV-голов, контекста и одновременных последовательностей. Разберитесь с GQA, точностью и статическим кэшем перед реальным запуском.
Планирование ML-абляций: контроль, эффекты и бюджет
Постройте план ML-абляции с контролем, факторами, взаимодействиями и бюджетом испытаний. Расчётный пример для приоритизации вариантов и выводов.
Анализировать ошибки ML, чтобы выбрать следующий эксперимент
Анализируйте ошибки классификации и извлечения: матрица ошибок, эталоны, таксономия, регрессии и контроль следующей коррекции.