Uyarlamanıza ihtiyaç duyduğu kapasiteyi verin.

Kampanyanızı meşrulaştıracak kazancı tanımlayın.

Gözlemlenebilir bir görev tanımlayın: bir ticket'ı sınıflandırmak, alanları çıkarmak veya bir yanıt biçimine uymak. Önce bir referans talimat üzerinde çalışın ve çıktılarını saklayın. Bir prompt değişikliği yeterliyse, karşılaştırılacak bir aday haline gelir. Bu kontrol olmadan, fine-tuning'e atfedilen bir kazanç yalnızca daha iyi bir ifadeden veya yanıtların başka bir şekilde işlenmesinden kaynaklanabilir.

Format geçerliliğini içerik doğruluğundan ayırın. Ayrıştırıcıdan geçen bir JSON nesnesi yanlış kategoriyi içerebilir. Korunması gereken davranışları ekleyin; örneğin eksik bir alanın işlenmesi veya nadir bir sınıf. Sıralamayı, öğrenme oranını veya adım sayısını seçmeden önce kabul kurallarını ve reddetme gerekçelerini belirleyin.

Karar vermenizi sağlayacak verileri seçin.

Aynı konuşmanın, aynı belgenin veya aynı kaynağın varyantlarını, yakınlıkları değerlendirmenin bağımsızlığını tehdit ediyorsa tek bir kümede tutun. Ayrımı öğrenilen dönüşümlerden veya sonuçlara göre yönlendirilen ayarlardan önce yapın. Satır bazında rastgele bir bölme, neredeyse görülmüş örneklerde ilerleme izlenimi verebilir.

Öğretici örnek: konuşmaya göre gruplanmış 1.200 bilet, gruplara uyulduktan sonra 840 öğrenme, 180 doğrulama ve 180 test örneğine ayrılır. Bu sayılar örnekleyici bir planı tanımlar, sağlanan bir bütünü değil. Doğrulama varyant seçimine hizmet eder; nihai test ayrı tutulur. Yalnızca oranın kalitelerini garanti ettiğine inanmak yerine her kümedeki kategorileri ve uzunlukları inceleyin.

Referansınızla karşılaştıracağınız uyarlamayı belirleyin.

Tam ince ayar, temel modelin ilgili ağırlıklarını değiştirir. LoRA, hedeflenen modüllere düşük rütbeli matrisler ekler ve bunların katkısını öğrenir. Rütbe, hedeflenen modüller, ölçek ve seçilen seçenekler deneyi tanımlar. Daha yüksek bir rütbe, bağdaştırıcının parametre sayısını artırır, ancak görevinizi iyileştireceğini kanıtlamaz.

Örnekleyici bir 4.096 × 4.096 matris için, rütbe 8'lik iki LoRA matrisi 8 × (4.096 + 4.096) = 65.536 değer içerir; yoğun matriste ise bu sayı, yanlılıklar ve diğer modüller hariç, 16.777.216'dır. Bu sayı oranı ne tüm modeli ne de bellek zirvesini tanımlar: temel model, aktivasyonlar ve öğrenilen parametrelerin durumları hâlâ dikkate alınmalıdır.

Teknik kaynaklar: PEFT — yapılandırma ve LoRA matrisleri

Tüm çalışma döngüsü için hassasiyeti seçin.

Dört bit olarak yüklenen bir temel model, tüm işlemlerin, tüm tensörlerin ve önbelleğin dört bit kullandığı anlamına gelmez. Nicemleme üst verileri ve başka bir hassasiyette tutulan modüller tahsisi etkiler. bitsandbytes'te dört veya sekiz bit olarak yüklenen modellerin eğitimi ek parametrelerle ilgilidir; nicemlenmiş ağırlıkların genel bir güncellemesi değildir.

Temel modelin formatını, hesaplama türünü, eğitilebilir modülleri ve sürümleri kaydedin. Gerçek bir adımı, değerlendirmeyi ve kullanmak istediğiniz dışa aktarma işlemini karşılaştırın. Birleştirmek, nicemini çözmek veya başka bir format üretmek, eğitimden farklı bir alan gerektirebilir. Uyarlama sırasında dayanan bir yöntem, tüm döngünün aynı kartta dayanacağının kanıtı değildir.

Teknik kaynaklar: Transformers 5.17 — bitsandbytes ve ek parametreler

Varyantlarınızı tanımlı bir deneme bütçesiyle karşılaştırın.

Örnekleyici kümede, uyarlamasız bir referans, rütbe 8'lik bir LoRA ve rütbe 16'lık bir varyantı aynı modüller, veriler, adım bütçesi ve değerlendirme kurallarıyla tutun. Böylece incelenen etken rütbedir. Rütbe ile öğrenme oranını aynı anda değiştirirseniz başka bir soru yaratırsınız; ablasyon kılavuzu bu etkileşimi nasıl okunur kılacağınızı açıklar.

Her denemeden önce birkaç tokenize edilmiş örneği ve kayba katkıda bulunan kısımları kontrol edin. Denemeden sonra belirlenen tahminleri aynı değerlendiriciyle karşılaştırın. Yalnızca ortalamayı değil, eksik çıktıları ve gerilemeleri de not edin. Sistematik olarak yanlış hâle gelen nadir bir sınıf, kalite sözleşmenize göre genel bir kazancı geçersiz kılabilir.

Ayrıca alpha, dropout ve başlatmayı belgeleyin. Klasik LoRA ayarında ölçek alpha/r'dir; rütbe değiştiğinde alpha'yı mı yoksa alpha/r oranını mı koruduğunuzu bildirin. Bu protokoller tam olarak aynı soruya yanıt vermez. rsLoRA gibi başka bir ölçek kuralı ayrı olarak belirtilmelidir.

Teknik kaynaklar: PEFT — rank, alpha ve LoRA ölçekleme kuralları

Daha fazla hesaplama ayırmadan önce neyi düzelteceğinize karar verin.

Kaybın azalırken doğrulama kalitesinin sabit kalması, otomatik olarak daha fazla adım değil, bir analiz gerektirir. Etiket hatalarını, formülasyon tekrarlarını, kırpılmış girdileri ve eğitim formatı ile çıkarım formatı arasındaki farklılıkları inceleyin. Düzeltmeyi seçebilmek için her kategori için bir hata örneği saklayın.

Bir sınıflandırma veya ayrıştırma düzeltmesi yaparsanız, değerlendiriciyi sürümleyin ve gerekli adayların puanlarını yeniden hesaplayın. Farklı kurallarla elde edilen iki sayıyı doğrudan karşılaştırmayın. Bir düzeltme seçmek için nihai testi incelerseniz, o artık geliştirmenin bir parçasıdır: bir sonraki sonuç için yeni ve bağımsız bir değerlendirme hazırlayın.

Yeniden kullanmak istediğiniz sonucu doğrulayın.

PEFT formatı adaptörün parametrelerini ve yapılandırmasını saklar; genellikle temel modelin ağırlıklarını içermez. Bu nedenle temel modelin tam kimliğini ve revizyonunu artefaktla birlikte saklayın. Değişken bir sürüme işaret eden tek başına bir model adı, koşulları yeniden oluşturmak için yeterli değildir.

Gerçekten kullanıma yönelik sonucu yeni bir süreçte yeniden yükleyin. Birkaç kontrol girdisini, ardından değerlendirme protokolünü yeniden çalıştırın. Tokenizer, şablon, üretim parametreleri, bağımlılıklar, metrikler ve veri kaynağını arşivleyin. Artefakt birleştirilmişse, bu dönüşümü not edin ve çıktılarını kontrol edin; bu, görünmez bir formalite değil, doğrulanması gereken bir adımdır.

Teknik kaynaklar: PEFT — checkpoint içeriği ve temel model

Sonuçlara göre bir sonraki adımı seçin.

GPU'ları tam adımın ve değerlendirmenin zirvesi, gereken maksimum girdiler ve uyumlu yazılım yığını temelinde karşılaştırın. Pakette kontrol, öncelikli varyantlar, hata okuma ve kurtarma için zaman ayırın. Sipariş sırasında bir ortam seçmek, arzu edilen bir hazırlığı ifade eder; uyarlamanızın otomatik olarak nitelendirilmesi anlamına gelmez.

Sonuç, seçilen adayı veya yeterli kazanç olmadığını, kapsanan grupları, bilinen regresyonları ve yeniden yükleme koşullarını belirtmelidir. Defteriniz referansları ve seçim gerekçesini saklar. Bellek ölçüm paketi, enstrümantasyonu anlamaya yardımcı olur; sizin yerinize test edilmiş bir LoRA eğitimi sunmaz.