Hopfield Ağı (Hopfield Network)

Hopfield Ağı nedir?

Hopfield ağı, associative memory •çağrışımsal bellek• olarak çalışan erken dönem bir yapay sinir ağı türüdür. İnsan hafızasına benzer: eksik ya da bozuk bir girdi verdiğinde, sakladığı en benzer örüntüyü bulup tamamlar. Yarısı silinmiş bir fotoğraftan tümünü hatırlamak gibi.

John Hopfield 1982''de tanıttı ve o dönem durgunlaşmış sinir ağı araştırmalarını yeniden canlandırdı. 2024 Nobel Fizik Ödülü''nün yarısı bu çalışmaya verildi.

Nasıl çalışır?

Ağdaki her düğüm (nöron) bir değer tutar (başlangıçta 0 ya da 1) ve tüm düğümler birbirine ağırlıklı bağlantılarla bağlıdır. Hopfield, fizikteki manyetik malzemelerden ödünç aldığı bir enerji fonksiyonu •ağın toplam durumunu ölçen değer• tanımladı.

Örüntüler, saklanmak istenen desenler düşük enerjili durumlara denk gelecek şekilde bağlantı ağırlıkları ayarlanarak kaydedilir. Hopfield bunu şöyle anlatıyor: tepeler ve vadilerden oluşan bir arazide topu yuvarlamak. Ağa eksik veri verildiğinde düğüm değerleri adım adım güncellenir ve sistem en yakın enerji vadisine (minimuma) yuvarlanarak orijinal örüntüyü yeniden kurar.

Aynı anda birden fazla örüntü saklanabilir ve ağ bunları birbirinden ayırt edebilir.

Neden önemli?

Hopfield''in asıl katkısı, fizik kavramlarını hesaplamalı ağlara taşıyarak sinir ağlarının pratikte işe yarayabileceğini göstermesiydi. Onlarca yıllık durgunluğun ardından 1980''lerdeki sinir ağı canlanmasının fitilini ateşledi ve bugünkü derin öğrenmenin temellerinden birini attı.

Kullanım alanları

Örüntü tamamlama, gürültü giderme, çağrışımsal bellek modelleri. Son yıllarda "modern Hopfield networks" varyantları, Transformer mimarisindeki attention mekanizmasıyla ilişkilendirilerek yeniden gündeme geldi.