LoRA vs. QLoRA vs. Full Fine-Tuning: Hangi Yöntemi Kullanmalısınız?

Kendi verilerinizle 7B bir modeli fine-tune etmeye karar verdiniz. Sonra ilk gerçek ayrım noktasına geldiniz: üç yöntem adı, her birine farklı bir cevap bağlı. Unsloth'un dokümantasyonu QLoRA ile başlamanızı söylüyor. Axolotl bunun donanımınıza bağlı olduğunu söylüyor. Göz gezdirdiğiniz blog yazılarının yarısı "çoğu şey için LoRA kullanın" deyip geçiyor. Bu arada tek bir GPU'ya bakıyorsunuz ve bunlardan birini bile çalıştırıp çalıştıramayacağından emin değilsiniz.

Bu, her şeyin önünde yer alan karardır. Seçtiğiniz yöntem VRAM bütçenizi belirler, VRAM bütçesi donanımınızı seçer ve donanım da maliyetinizi belirler. Yanlış yöntemi seçerseniz ya ihtiyacınız olmayan GPU belleği için para yakarsınız ya da işi asla kaldıramayacak bir kartta bellek yetersizliği çökmelerini kovalayarak bir hafta sonu geçirirsiniz.

Öyleyse bu meseleyi çözelim. LoRA, QLoRA ve full fine-tuning arasındaki gerçek farklar, her birinin bellek ve kalite açısından size maliyeti, ve kendi durumunuzu bunlardan birine yönlendirecek bir kural.

Kısa Versiyon

• Varsayılan yöntem QLoRA'dır. Çoğu tek GPU fine-tuning için QLoRA ile başlayın. Axolotl'un tablosuna göre 7-8B QLoRA çalıştırması, kısa bağlam ve küçük mikro-batch'ler varsayıldığında yaklaşık 10-14 GB VRAM gerektiriyor. Bu, 12-24 GB'lık birçok tüketici veya prosumer kart için uygun ama her düşük VRAM kart için değil. Bellek fazlanız varsa ve daha hızlı adımlar istiyorsanız düz LoRA'ya yönelin; full fine-tuning'i gerçekten gerektiren nadir durumlar için ayırın.
• VRAM farkı büyük. Axolotl'un yayınlanan verilerine göre, 7B bir modeli fine-tune etmek full fine-tuning için yaklaşık 60-80 GB, LoRA için 16-24 GB ve QLoRA için 10-14 GB gerektiriyor. Bu fark, parametre açısından verimli yöntemlerin var olma sebebinin tamamı.
• Kalite kaybı göreve bağlıdır, sabit değildir. Çoğu talimat takibi ve yapılandırılmış çıktı görevinde LoRA ve QLoRA, tam fine-tuning'in yüzde birkaç puanı içinde kalır. Fark, matematik gibi karmaşık akıl yürütmede büyür. Tam fine-tuning maliyetini asıl orada hak eder.
• Tam fine-tuning istisnadır, varsayılan değildir. Buna, büyük dağılım kaymaları, ön eğitim ölçeğindeki değişiklikler veya kıyaslamaların farkı gösterdiği akıl yürütme açısından kritik görevler için başvurulur; güvenli varsayılan seçenek olarak değil.

Bu Kılavuzun Kapsamadıkları

Bu bir yöntem seçim kılavuzudur, uygulama anlatımı değildir. Bazı şeyler bilinçli olarak kapsam dışı bırakılmıştır:

• LoRA çeşitleri (DoRA, VeRA, LoRA+). Üç temel yöntem önce verilmesi gereken karardır; çeşitler ise daha sonra başvurulan iyileştirmelerdir.
• Adım adım kod. Burada kurulum komutları veya eğitim betikleri yok. Bu, ayrı bir uygulamalı anlatımdır ve burada ele alınmamaktadır.
• Çok GPU'lu eğitim (FSDP, DeepSpeed ZeRO) ve veri kümesi hazırlığı: ikisi de kendi başına büyük konular.
• RLHF, DPO ve tercih optimizasyonu. Bunlar denetimli ince ayardan farklı bir hedef sınıfıdır.
• İnce ayar yapıp yapmamanız gerektiği. İnce ayarın retrieval'a karşı doğru araç olup olmadığından emin değilseniz, o karşılaştırma burada bir yöntem seçmeden önce kendi başına bir yanıt gerektirir.

LoRA, QLoRA ve tam ince ayar arasındaki gerçek fark nedir?

Tam ince ayar, modeldeki her parametreyi güncelleştirir. LoRA ise temel modeli dondurur ve onun yerine küçük, düşük ranklı adaptör matrislerini eğitir (parametre sayısının kabaca %0,1-2'si). QLoRA, LoRA'nın üzerine bir adım daha ekler: dondurulmuş temel modeli 4 bit hassasiyete kadar kuantalar (NF4, NormalFloat adlı bir veri tipi kullanarak), böylece adaptörleri eğitirken temel model çok daha az bellek kaplar.

Üçünü kafanızda tutmanın en temiz yolu, her basamağın altındaki basamaktan bir maliyeti kaldırdığı bir merdiven olarak düşünmektir.

Tam ince ayar en alt basamaktır ve en ağırıdır. Her ağırlık eğitilebilir olduğundan, optimizer modeldeki her parametre için bir gradyan ve optimizer durumu takip etmek zorundadır. Belleğin gittiği yer burasıdır, matematiğe bir sonraki bölümde geleceğiz.

LoRA (Low-Rank Adaptation), orijinal ağırlıkları dondurur ve modelin katmanlarına küçük, eğitilebilir matrisler enjekte eder. Sadece bu matrisler öğrenir; temel model işe sadece eşlik eder. LoRA makalesi, bunun 175B'lik bir model için eğitilebilir parametreleri 10.000x'e kadar azalttığını ve bu ölçekte GPU belleğini kabaca 3x düşürdüğünü, bununla birlikte yazarların test ettiği modellerde "model kalitesinde ince ayarla eşit veya daha iyi" performans sergilediğini bildiriyor. Çok az parametre değiştiği için, eğitilmiş sonuç son derece küçüktür. Hugging Face'in PEFT blogu iki yararlı referans noktası verir: biri bigscience/mt0-xxl, diğeri kaydedilen adaptörün sadece 19 MB olduğu ayrı bir LoRA örneğidir. Nokta yine aynı: PEFT checkpoint'leri genellikle tam model checkpoint'lerine kıyasla çok küçüktür.

QLoRA LoRA'yı alır ve LoRA'nın dokunmadan bıraktığı kısmı, dondurulmuş tabanı, küçültür. Bu ağırlıkları 4-bit NF4'e kuantalamak, temel modelin 16-bit'te işgal edeceği belleğin sadece bir kısmını işgal etmesi anlamına gelir, adaptörler ise üstte tam hassasiyetle eğitilmeyi sürdürür. QLoRA makalesi NF4'ü "normal dağılımlı ağırlıklar için bilgi teorisi açısından optimal" olarak tanımlar, bu da 4-bit temsilin model ağırlıklarının gerçekte nasıl dağıldığına uyacak şekilde seçildiğini kesin biçimde ifade eder, dolayısıyla naif bir 4-bit yuvarlamanın maliyetinden daha az kayıp yaşarsınız.

Kavramsal yığının tamamı bu: tam ince ayar her şeyi eğitir, LoRA tabanı dondurur ve adaptörleri eğitir, QLoRA dondurulmuş tabanı sıkıştırır ve adaptörleri eğitir. Diğer her şey (VRAM, kalite, hangisinin ne zaman kullanılacağı) bu üç seçimden kaynaklanır.

Her yöntem ne kadar VRAM'a ihtiyaç duyar?

7B model için kaba rakamlar full fine-tuning için 60-80 GB, LoRA için 16-24 GB ve QLoRA için 10-14 GB civarında, Axolotl'ın yayınladığı tablo. Pratik sonuç: QLoRA genellikle kısa bağlam ve küçük batch ayarlarında 12-24 GB'lık tek tüketici veya prosumer GPU'lara sığar, oysa 7B modelin full fine-tuning'i veri merkezi belleği veya çoklu GPU kurulumu gerektirir.

Full fine-tuning neden bu kadar ağır? Kısa bir hesap. Her parametreyi eğittiğinizde, GPU her parametre için üç şeyi tutar: ağırlığın kendisi, gradyanı ve optimizer durumu (Adam tarzı optimizer'lar her ağırlık için iki ekstra değer tutar). Bu yüzden bellek faturası, modelin kendi boyutunun kat kat üzerine çıkar. LoRA taban modeli dondurur, böylece bu gradyan-ve-optimizer vergisini yalnızca küçük adaptör matrisleri için öder. QLoRA ek olarak donmuş tabanı 16-bit yerine 4-bit olarak saklar ve kalan en büyük maliyeti düşürür.

İşte üç yöntemin model boyutlarına göre karşılaştırması, Axolotl'ın dokümantasyonu ve büyük modellerin rakamları için QLoRA makalesinden alınmıştır:

Kaynaklar: model boyutlarına göre üç yöntemin tümü için Axolotl belgeleri; QLoRA makalesi, tek bir 48 GB GPU üzerinde 65B'lik bir modelin "tam 16-bit fine-tuning görev performansını koruyarak" ince ayar yapıldığını bağımsız olarak bildiriyor, bu da 70B QLoRA rakamıyla örtüşüyor. Hugging Face'in 4-bit kuantizasyon blogu ayrıca tek bir 16 GB T4 üzerinde eğitilmiş bir 13B modeli ile QLoRA kullanılarak 24 GB'lık bir GPU'da eğitilmiş bir 33B modeli gösteriyor. Hedefiniz tablodaki satırların arasında bir yerdeyse bunlar yararlı referans noktalarıdır.

Akılda kalması gereken tek sayı: tek bir 48 GB kartta 65B'lik bir model. Bu, QLoRA'nın öne çıkan sonucu ve "tek bir GPU'm var" ifadesinin anlamını yeniden tanımlıyor.

Bölümün özeti: VRAM hiyerarşisi full >> LoRA > QLoRA şeklindedir ve full'den QLoRA'ya geçiş, bir işi çok GPU'lu bir rack'ten tek bir karta taşımaya yetecek kadar büyüktür.

LoRA veya QLoRA gerçekten kaliteden ödün mü verdiriyor?

Talimat takibi ve yapılandırılmış çıktı görevlerinin çoğunda LoRA ve QLoRA, tam fine-tuning'e sadece birkaç yüzde puanı kadar yaklaşır. Karmaşık akıl yürütmede (özellikle matematikte) bu fark büyür ve tam fine-tuning açıkça öne geçer. Yani cevap "neredeyse eşdeğer" veya "daha kötü" değildir. Göreve bağlıdır ve görev türü, bu çizginin hangi tarafında olduğunuzu size gösterir.

Göreve göre en açık kanıt, Eylül 2023 tarihli bir Anyscale çalışmasından geliyor: Llama 2 üzerine Anyscale çalışması. Yapılandırılmış işlevsel temsil görevi olan ViGGO'da, LoRA 7B ve 13B modellerinde tam ince ayarın doğruluğunun kabaca %95'ine ulaştı: yazarların kabul edilebilir bir takas olarak değerlendirdiği %2'lik bir fark. SQL üretiminde LoRA, tam ince ayara neredeyse eşitti ve LoRA 13B modeli, tam ince ayarlı 7B modelini gerçekten geride bıraktı. Bir matematik akıl yürütme karşılaştırması olan GSM8k'de LoRA, 7B ve 13B'de tam ince ayarın sürekli altında performans gösterdi ve fark yalnızca 70B'de azaldı. Anyscale ekibinin yorumu, LoRA'nın düşük rank yaklaşımının çok adımlı matematik gibi karmaşık bir beceriyi yakalayamayabileceği yönünde.

Bu sayılarla ilgili bir uyarı: bu çalışma Eylül 2023'te Llama 2 üzerinde yapıldı. Görev türü kalıbı (yapılandırılmış çıktı yakın, karmaşık akıl yürütme daha uzak) o zamandan beri ruhen geçerliliğini koruyan kalıcı çıkarımdır. Ama tam yüzdeler Llama 3 veya Mistral gibi daha yeni bir temel modelde farklılık gösterebilir, bu yüzden rakamları modeliniz için bir garanti değil, takasın şekli olarak değerlendirin.

QLoRA'nın kalite hikayesi kendine özgüdür. QLoRA makalesi, QLoRA ile eğitilen 65B modeli Guanaco'nun, Vicuna karşılaştırmasında ChatGPT performansının %99,3'üne ulaştığını bildiriyor. Güçlü, ama o belirli karşılaştırmaya ve 2023 karşılaştırmasına bağlı, genel bir "QLoRA ChatGPT'ye eşittir" iddiası değil. Sade LoRA'ya karşı, Axolotl QLoRA'yı "kuantizasyon gürültüsü nedeniyle hafif bir bozulma" taşıyan olarak tanımlıyor: 4-bit taban, LoRA'nın tam hassasiyetli tabanının taşımadığı küçük hatalar getiriyor. Çoğu iş için bu görünmezdir; küçük hassasiyet kaymalarına duyarlı bir görev için, varsaymak yerine kontrol etmeye değer bir şeydir.

Profesyonel İpucu: En yaygın kalite sürprizi QLoRA'ya karşı LoRA değildir. Başladığınız temel modelden daha kötü çıkan ince ayarlanmış bir modeldir. Bu genellikle eğitimin amaçlamadığınız bir şey yaptığı anlamına gelir: dar bir veri kümesinde çok agresif olması veya genel yetenek sessizce gerilerken sadece yeni görevde değerlendirilmesi. İnce ayarlanmış modeli güvenmeden önce her zaman eğitim dağılımınızın dışındaki birkaç istemde test edin. Oradaki bir gerileme, geri çekilme sinyalidir, göndermeme değil.

Bölümün özeti: kalite eşitliği göreve bağlıdır. Yapılandırılmış çıktı ve talimat takibi LoRA/QLoRA için güvenlidir; karmaşık akıl yürütme, tam ince ayarın maliyetini hâlâ kazandığı yerdir.

Her Yöntemi Ne Zaman Seçmelisiniz?

Tek GPU'lu ince ayarların çoğu için QLoRA ile başlayın. VRAM alanınız olduğunda ve daha hızlı adımlar veya biraz daha yüksek bir kalite tavanı istediğinizde sade LoRA'ya geçin. Tam ince ayarı gerçekten gerektiren durumlar için ayırın: büyük dağılım kaymaları, ön eğitim ölçeğinde değişiklikler veya karşılaştırma farkının gerçek olduğu akıl yürütme açısından kritik görevler. Sırasıyla üç girdiye göre yönlendirin: mevcut VRAM, görev türü ve kalite gereksinimi, ardından hız.

İşte "bunu yap, onu yapma" şeklinde yönlendirme:

1. Önce VRAM'inizi kontrol edin. Tek bir kartta 24 GB veya daha az belleğiniz varsa (çoğu tüketici ve prosumer GPU), QLoRA varsayılan yönteminizdir, çünkü üç yöntemden bu bellek sınırına 7B bir modeli güvenilir şekilde sığdırabilen tek yöntem odur. Tek bir tüketici kartında full fine-tuning'e yönelmeyin; yukarıdaki tablo size 7B bir işin sığmayacağını zaten söylüyor ve bunu hafta sonunuzu harcayarak zor yoldan öğreneceksiniz.

2. Ardından görevinizi ve kalite barınızı kontrol edin. Göreviniz talimat takibi, yapılandırılmış çıktı, SQL veya genel alan uyarlaması ise, Anyscale'in verileri LoRA ve QLoRA'nın size neredeyse tam kaliteyi verdiğini gösteriyor. Varsayılan seçenekte kalın. Göreviniz akıl yürütme ağırlıklıysa (çok adımlı matematik, karmaşık mantıksal zincirler) ve kalite tartışmaya açık değilse, bu full fine-tuning'e geçmeyi düşünmeniz için ilk gerçek sebebiniz olur, çünkü kıyaslamaların tutarlı bir fark gösterdiği tek görev türü budur.

3. Ardından hızı değerlendirin. QLoRA, bellek tasarrufu için adım başına bir miktar hızdan ödün verir: 4-bit taban, anlık olarak dekuantize edilmek zorundadır. Sade LoRA'yı çalıştıracak VRAM'iniz varsa (7B için 16-24 GB), daha hızlı adımlar elde eder ve kuantizasyon gürültüsünden kurtulursunuz; bu da bellek sınırlayıcı bir faktör olmadığında ve çok sık iterasyon yaptığınızda LoRA'yı daha iyi seçim yapar.

Peki is full fine-tuning doğru cevap mı? Axolotl'un yönlendirmesi açık: pre-training için gereklidir ve "bol GPU belleğiniz veya çoklu GPU kurulumunuz varsa ve maksimum performansa ihtiyacınız olduğunda" tercih edilecek seçenektir. Bu koşulların dışında (ve pratikte yapılan fine-tuning çalışmalarının büyük çoğunluğu için, yani mevcut bir modeli belirli bir davranışa veya alana uyarlama söz konusu olduğunda), parametre açısından verimli yöntemler donanımın çok az bir kısmıyla kalitenin büyük kısmını size verir.

Unsloth varsayılan seçeneği açıkça belirtiyor:

"Modelleri eğitmek için en erişilebilir ve etkili yöntemlerden biri olduğundan, QLoRA ile başlamanızı öneririz."

Kural bu. Varsayılan olarak QLoRA kullanın, belleğiniz yeterliyse hız için LoRA'ya geçin, tam ince ayarı (fine-tuning) yalnızca görev veya ölçek bunu zorunlu kıldığında kullanın.

Bölümün özeti: QLoRA varsayılan seçenektir; LoRA hız ve alan kazandıran bir yükseltmedir; tam ince ayar ise dağılım kayması, ön eğitim veya bir muhakeme testiyle gerekçelendirilen istisnadır.

İnsanlar fine-tuning yöntemleri konusunda neyi yanlış anlıyor?

Boşa geçen hafta sonlarının çoğu iki yanlış kanıdan kaynaklanır. Birincisi, fine-tuning'i bir modele yeni gerçekler öğretmenin yolu olarak görmektir, oysa asıl etkisi davranışı şekillendirmektir. İkincisi, kaliteyi bir düğmeyi çevirerek satın alabileceğinizi düşünmektir: daha yüksek bir LoRA rank değerinin veya QLoRA yerine full fine-tuning yapmanın otomatik olarak daha iyi bir model sağlayacağı. İkisi de yarı doğru, ve tam da bu yüzden yanıltıcı.

Fine-tuning bir modele yeni gerçekler öğretir mi?

Burada uzmanlar arasında gerçek bir görüş ayrılığı var, bu yüzden bir tarafı seçmek yerine nüansı doğru kavramak daha önemli. Birçok uygulayıcı rehberi, "fine-tuning yeni gerçekler öğretir" ifadesini bir numaralı yanlış kanı olarak nitelendiriyor: buradaki nokta, fine-tuning'in bir modelin nasıl yanıt verdiğini şekillendirmede, ön eğitim sırasında hiç görmediği belirli gerçekleri güvenilir bir şekilde eklemekten çok daha iyi olduğu. Unsloth'un dokümantasyonu buna doğrudan karşı çıkıyor ve fine-tuning'in yeni bilgi öğretemeyeceği iddiasını "yanlış" olarak nitelendirip, fine-tuning'i "yeni alana özgü bilgiyi ekleme ve öğrenme" yolu olarak tanımlıyor.

İkisi de kısmen doğru, ve uzlaştırıcı okuma şu: fine-tuning, davranışı şekillendirmede ve temel modelde zaten örtük olarak bulunan bilgiyi güçlendirmede güvenilirdir, ve alana özgü kalıpları kodlayabilir. Güvenilmediği nokta, ön eğitimde tamamen bulunmayan ayrık gerçekleri yerleştirmektir. Hedefiniz "bu belirli belgeyi ezberlemek"e ne kadar yakınsa, o kadar yanlış aracı kullanıyor olma ihtimaliniz artar, ve retrieval size daha iyi hizmet edebilir. Yani pratik tavsiye bu görüş ayrılığından sağ çıkıyor: davranış ve stil için fine-tuning'e güvenin, onu bir gerçek enjeksiyon mekanizması olarak kullanmaya karşı şüpheci olun.

Daha yüksek bir LoRA rank değeri her zaman kaliteyi artırır mı?

Hayır, ve bu en kolay fazla çevrilebilecek düğme. Sezgi, daha yüksek bir rank'ın adaptöre daha fazla kapasite verdiği, dolayısıyla daha fazlasının daha iyi olması gerektiği yönünde. Databricks bunu ampirik olarak test etti ve rank'ı iki katına çıkarmanın "çıktı kalitesinde algılanabilir bir artışa yol açmadığını" buldu. Deneylerinde asıl fark yaratan şey hangi katmanların hedeflendiğiydi (sadece attention bloklarını değil, tüm doğrusal katmanları uyarlamak), rank sayısını yükseltmek değil. Çıkarılması gereken sonuç şu: ayarlama çalışmanızı rank'ı şişirmeden önce hedef modüllere ve veri kalitesine harcayın.

LoRA kalitesi her zaman tam ince ayar (full fine-tuning) ile eşit mi?

Evrensel olarak değil ve yakın zamanlı bir araştırma makalesi belirli bir hata modunu ortaya koyuyor. "LoRA vs Full Fine-tuning: An Illusion of Equivalence" (Shuttleworth ve ark.) LoRA eğitiminin "davetsiz misafir boyutları" (tam ince ayarlı modellerde bulunmayan yüksek sıralı tekil vektörler) ortaya çıkarabildiğini ve bunları, aynı modelin tekrar tekrar ince ayarlandığı sürekli öğrenme senaryolarındaki unutmayla ilişkilendirdiğini gösteriyor. Bu genel bir çürütme değil, spesifik bir uyarı: tek bir görev için tek bir ince ayar turu yapıyorsanız, kalite eşdeğerliğine dair geniş kanıtlar hâlâ geçerli. İnce ayarları zincirliyorsanız ve temel modelin genel yeteneğini korumayı önemsiyorsanız, izlemeniz gereken hata modu tam olarak bu.

Sıkça Sorulan Sorular

LoRA, QLoRA ve tam ince ayar (full fine-tuning) arasındaki fark nedir?

Tam ince ayar, modeldeki her parametreyi günceller. LoRA ise temel modeli dondurur ve bunun yerine parametrelerin yaklaşık %0,1-2'si kadar küçük, düşük ranklı adaptör matrisleri eğitir. QLoRA, LoRA'nın yaptığını yapar ve ayrıca dondurulmuş temel modeli 4-bit NF4 hassasiyetine kuantalar, böylece adaptörler eğitilirken temel model çok daha az bellek kaplar. Sonuç açık bir bellek merdiveni: tam ince ayar en ağırı, LoRA daha hafif, QLoRA ise en hafifi.

7B'lik bir modeli ince ayar yapmak için ne kadar VRAM'a ihtiyacım var?

7B'lik bir model için Axolotl'un verilerine göre tam ince ayar yaklaşık 60-80 GB, LoRA 16-24 GB ve QLoRA 10-14 GB gerektiriyor. Üçünden yalnızca QLoRA, genellikle 12-24 GB'lik tek bir tüketici veya prosumer GPU'ya sığar; 7B'lik bir modelin tam ince ayarı ise veri merkezi sınıfı bellek veya birden fazla GPU gerektirir.

QLoRA'nın kalitesi LoRA'ya veya tam ince ayara göre daha kötü mü?

Bu göreve bağlıdır. Talimat takibi ve yapılandırılmış çıktı işlerinin çoğunda, QLoRA tam ince ayarın birkaç yüzdesi içinde kalır ve Axolotl, sade LoRA'ya kıyasla yalnızca "kuantizasyon gürültüsü nedeniyle hafif bir bozulma" tanımlar. Fark, matematik gibi karmaşık akıl yürütme görevlerinde büyür; burada tam ince ayar, Llama 2 üzerine 2023 Anyscale çalışmasında tutarlı bir avantaj gösterdi.

Tam İnce Ayar Gerçekten Ne Zaman Değer?

Tam ince ayar, ön eğitim, büyük dağılım kaymaları ve karşılaştırmaların gerçek bir kalite farkı gösterdiği akıl yürütme açısından kritik görevler için maliyetine değer. Ayrıca bol GPU belleğiniz veya çok GPU'lu bir kurulumunuz olduğunda ve maksimum kaliteye ihtiyaç duyduğunuzda izlenecek yoldur. Yaygın durum için (mevcut bir modeli belirli bir davranışa veya alana uyarlamak), LoRA veya QLoRA donanımın küçük bir kısmıyla kalitenin çoğunu size verir.

Fine-tuning bir modele yeni gerçekler öğretir mi?

Kısmen. İnce ayar, davranışı şekillendirmek ve temel modelde zaten gizli olan bilgiyi güçlendirmek konusunda güvenilirdir ve alana özgü kalıpları kodlayabilir. Ön eğitimde tamamen yok olan ayrık gerçekleri yerleştirme konusunda güvenilir değildir. Burada gerçek bir uzman anlaşmazlığı var. Unsloth'un belgeleri, ince ayarın yeni bilgi öğretebileceğini savunurken, diğer kılavuzlar bunu en büyük yanlış anlama olarak adlandırıyor ve uzlaştırıcı görüş, ince ayarı davranış ve stil için kullanmak, belirli gerçekleri hatırlamak hedefleniyorsa retrieval'a başvurmaktır.

Bu Sizi Nereye Bırakıyor

Yöntem seçimi bir varsayılan ve iki çıkış yoluna indiriliyor: QLoRA ile başlayın, bellek kısıtlama olmadığında ve daha hızlı adımlar istediğinizde LoRA'ya çıkın, sadece bir dağılım kayması, ön eğitim veya bir akıl yürütme karşılaştırması gerektirdiğinde tam ince ayara çıkın.

Yöntem netleştikten sonra, sıradaki karar bunun gerektirdiği donanımdır. Yöntem seçiminiz, tek bir tüketici kartı mı yoksa veri merkezi belleği mi aradığınızı size az önce söyledi. AI iş yükleri için belirli kartları karşılaştırmak istiyorsanız, H100 vs RTX 4090 karşılaştırması bunu kapsıyor. Seçtiğiniz yöntem için GPU boyutlandırma ve eğitim işini çalıştırmanın kendisi için adım adım bir kılavuz, kendi başlarına ayrı kılavuzlardır.