Model Kontrol Noktası (Checkpoint)

Model Kontrol Noktası nedir?

Bir modelin eğitiminin belirli bir anındaki tüm parametrelerinin (ağırlıklarının) diske kaydedilmiş halidir. Bilgisayar oyunundaki kayıt noktası gibi düşün: bir yere gelirsin, kaydedersin, bir şey ters giderse baştan değil o noktadan devam edersin.

Nasıl çalışır?

Eğitim uzun sürer ve pahalıdır. Model belirli aralıklarla — örneğin her epoch sonunda ya da her birkaç bin adımda bir — o anki ağırlıklarını, optimizer durumunu ve eğitim adımını bir klasöre yazar. Elektrik kesilir, makine çöker ya da eğitim durursa, en son checkpoint'ten kaldığın yerden devam edersin; baştan başlamana gerek kalmaz. Hugging Face Trainer gibi araçlarda checkpoint'ler adım numarasıyla adlandırılan (örneğin checkpoint-1000) alt klasörlere kaydedilir.

Neden önemli?

Checkpoint olmadan günlerce süren bir eğitimde tek bir çökme her şeyi sıfırlar. Ayrıca checkpoint'ler farklı eğitim anlarını karşılaştırmanı sağlar: bazen en son değil, ortadaki bir checkpoint daha iyi genelleme yapar (bkz. overfitting). Early stopping mantığı da tam olarak en iyi checkpoint'i sakla, sonrasında bozuluyorsa dur fikrine dayanır.

Kullanım alanları

Büyük modellerin pretraining'i ve fine-tuning'inde eğitimi kurtarma noktalarıyla bölmek; en iyi performans veren anı seçip yayına almak; bir modeli farklı checkpoint'lerden yükleyip kıyaslamak; Hugging Face Hub'a checkpoint push edip başka bir makinede devam etmek.