Grafik İşlem Birimi (GPU)

GPU nedir?

GPU (graphics processing unit), Türkçesiyle grafik işlem birimi, ilk olarak ekrandaki görüntüyü çizmek için tasarlanmış bir işlemcidir. Bilgisayarındaki ekran kartının kalbinde bu çip durur. Oyunlardaki her kare, milyonlarca pikselin aynı anda hesaplanmasını gerektirdiği için GPU baştan paralel çalışacak şekilde kuruldu.

CPU'dan farkı ne?

CPU az sayıda ama çok güçlü çekirdekle çalışır. Karmaşık işleri sırayla ve hızlı yapmakta iyidir. GPU ise binlerce küçük çekirdekle aynı anda çok sayıda basit hesap yapar. Tek bir işi CPU kadar hızlı bitiremez ama aynı türden binlerce işi birlikte bitirir.

Yapay zeka modellerinin içindeki hesapların büyük kısmı dev matris çarpımlarıdır. Bu çarpımlar birbirinden bağımsız küçük parçalara bölünebildiği için GPU'nun paralel yapısına tam oturur. Yapay zekadaki patlamanın donanım tarafındaki sebebi büyük ölçüde budur.

Yapay zekada nerede kullanılıyor?

• Eğitim: Büyük dil modelleri binlerce GPU'nun haftalarca birlikte çalışmasıyla eğitiliyor. Bu yüzden veri merkezleri GPU kümeleriyle doluyor.
• Çıkarım (inference): Eğitilmiş modelin senin sorunu cevaplaması da GPU'da çalışıyor. ChatGPT, Claude, Gemini gibi servislerin arkasında bu donanım var.
• Yerel kullanım: Kendi bilgisayarında açık bir model çalıştırmak istiyorsan ekran kartının belleği (VRAM •ekran kartının kendi belleği•) hangi modeli çalıştırabileceğini belirliyor.

Neden önemli?

GPU bugün yapay zekanın en kıt kaynağı. Bir şirketin ne kadar büyük model eğitebileceği, ne kadar GPU'ya erişebildiğine bağlı. Bu yüzden çip üreticilerindeki yönetim değişiklikleri, ihracat kısıtlamaları ya da yeni çip duyuruları doğrudan yapay zeka haberine dönüşüyor.

GPU tek seçenek de değil. Google'ın TPU'ları gibi yalnızca yapay zeka hesapları için tasarlanmış hızlandırıcı çipler de var. Ama yazılım ekosistemi en geniş olan hâlâ GPU.