Laboratório / GPU para treinamento, inferência e fine-tuning
IteraGPU / Pesquisa ML
Qual trabalho você confia ao modelo?
O treinamento, a inferência e a adaptação exigem compromissos diferentes entre memória, precisão e duração. Parta da sua carga de trabalho para preparar a configuração e o protocolo adequados.
Treinamento em GPU: validar o loop antes da campanha
Prepare os dados, o batch e a retomada de um treinamento. Um protocolo por fase para controlar memória, gradientes, validação e arquivos de saída.
Preparar o protocoloInferência em GPU: escolher por memória, contexto e qualidade
Dimensione a inferência com o contexto, a concorrência, o pico de memória e a qualidade das saídas. Um protocolo concreto antes de escolher seu pacote de GPU.
Preparar o protocoloFine-tuning: escolher uma adaptação e verificar seu aporte
Prepare um fine-tuning com uma referência, dados separados e um controle de recarregamento. LoRA, base quantizada, orçamento e análise das regressões.
Preparar o protocolo