Métodos para construir tu próxima prueba.
Quince referencias para dimensionar, evaluar, comparar y conservar tus experimentos. Elige una pregunta, trabaja un ejemplo y luego retoma el protocolo y los recursos útiles para tu decisión.
Tu próxima decisión
tiene un punto de partida.
- Calcular un presupuesto
Define los parámetros, la precisión y una reserva explícita.
- Observar las fases
Relaciona el pico con las entradas y el trabajo realmente ejecutado.
- Comparar los resultados
Fija la calidad antes que el costo del resultado útil.
En tu mesa de trabajo: IteraGPU Lab v1
Estimar los pesos → instrumentar una red pequeña → preparar una comparación con la calidad fijada. El notebook y la tabla están vacíos; el dossier de memoria precisa el alcance del ensayo de validación del script.
Hacer frente a la carga
Separar el cálculo de los pesos, la caché y las fases que crean el pico.
Dimensionar la memoria GPU: cálculo, reservas y validación
Calcula los pesos en GiB, construye una reserva explícita y valida el pico por fase. Ejemplos con cifras, trampas de cuantización y elección por tarjeta.
Leer el métodoMemoria GPU: explicar la diferencia entre la estimación y el pico
Distingue pesos, caché y activaciones, mide allocated y reserved por fase y luego elige un margen con un notebook y un protocolo de PyTorch.
Leer el métodoCaché KV: calcular la memoria según contexto, GQA y batch
Calcula la caché KV con las cabezas KV, el contexto y las secuencias simultáneas. Distingue GQA, precisión y caché estática antes de una prueba real.
Leer el métodoMicrobatch y acumulación: calcular el batch efectivo
Calcula el batch efectivo, normaliza la pérdida y verifica una acumulación de gradientes en una o varias tarjetas, con sus límites de equivalencia.
Leer el métodoDefinir una calidad aceptable
Preparar los ejemplos, leer los errores y controlar qué cambia una compresión.
Construir un conjunto de evaluación ML sin fuga de datos
Separa grupos, duplicados y usos de los datos para construir un conjunto de evaluación ML reservado, controlable y adaptado a tu decisión.
Leer el métodoAnalizar los errores de ML para elegir el próximo experimento
Analiza los errores de clasificación y extracción: matriz de confusión, referencias, taxonomía, regresiones y control de la siguiente corrección.
Leer el métodoComparar cuantizaciones: memoria, calidad y costo útil
Compara referencia, calibración, formato de los pesos y caché KV con los mismos datos. Mide memoria y calidad antes de decidir el presupuesto de GPU.
Leer el métodoInferencia GPU: elegir según memoria, contexto y calidad
Dimensiona la inferencia con el contexto, la concurrencia, el pico de memoria y la calidad de las salidas. Un protocolo concreto antes de elegir tu forfait GPU.
Leer el métodoAtribuir las diferencias
Elegir un control, organizar las variantes y distinguir un efecto de la variabilidad.
Planificar ablaciones ML: control, efectos y presupuesto
Construye un plan de ablación ML con control, factores, interacciones y presupuesto de ensayos. Un ejemplo calculado para priorizar las variantes y concluir.
Leer el métodoVariabilidad entre seeds: ¿es convincente una diferencia en ML?
Interpreta las repeticiones en ML con semillas emparejadas, la dispersión y un umbral de efecto útil. Ejemplo calculado y límites de una muestra pequeña.
Leer el métodoEntrenamiento con GPU: validar el bucle antes de la campaña
Prepara los datos, el batch y la reanudación de un entrenamiento. Un protocolo por fase para controlar memoria, gradientes, validación y archivos de salida.
Leer el métodoFine-tuning: elegir una adaptación y verificar su aporte
Prepara un fine-tuning con una referencia, datos separados y un control de recarga. LoRA, base cuantizada, presupuesto y análisis de las regresiones.
Leer el métodoConservar y financiar la prueba
Vincular las observaciones con los archivos, el plan contratado y la próxima decisión.
Trazar tus experimentos ML: del run a la decisión
Conecta datos, código, parámetros, predicciones y decisión con un manifiesto de experimento de ML. Ejemplo de control de runs y artefactos sin imponer ninguna herramienta.
Leer el métodoBenchmark ML: comparar el coste con calidad equivalente
Fija la calidad, mide el mismo corpus y compara el coste completo de los precios de GPU de 3, 7 o 30 días. Protocolo y tabla en bruto para descargar.
Leer el métodoPresupuestar una campaña ML: ensayos, decisiones y forfait completo
Descompón una campaña ML, prioriza las variantes y vincula el forfait de GPU a los resultados útiles, con un ejemplo de calendario y de presupuesto en USD.
Leer el métodoIteraGPU Lab v1
Cálculo de memoria, red sintética pequeña, protocolo de calidad y tabla de resultados vacía: los dos dossiers explican cómo usar el paquete y, después, lo que queda por medir en tu carga.
- Descargar el paquete IteraGPU Lab v1
Recursos originales bajo licencia MIT. Los resultados permanecen vacíos; la pequeña comprobación local del instrumento no cualifica las GPU del catálogo.