İnsan Döngüde (Human-in-the-Loop)

İnsan Döngüde nedir?

Human-in-the-loop (HITL), bir AI sisteminin belirli noktalarda durup insana danıştığı tasarım biçimidir. Model işi yapar, ama sonucu kendi başına uygulamaz — arada bir onay kapısı vardır.

Tam otomasyondan farkı burası. Otomatik sistem karar verir ve uygular; HITL sistem karar önerir ve bekler. İkisi arasındaki seçim teknik değil, risk kararıdır: hata maliyeti ne kadar yüksekse insan o kadar döngüde kalmalı.

Nasıl çalışır?

Üç yaygın yerleşim var:

Onay kapısı. Model bir eylem önerir, insan onaylar veya reddeder. Bir agent''ın e-posta göndermeden, dosya silmeden veya ödeme yapmadan önce sorması bu kalıptır. En sık kullanılanı.

Güven eşiği. Model kendi çıktısına bir güven skoru verir; skor eşiğin altındaysa iş insana düşer. Belge işleme sistemleri böyle çalışır — net okunan faturalar otomatik geçer, bulanık olan ekrana gelir. İnsan gücü, işin gerçekten zor olan yüzde 10''una harcanır.

Geri besleme döngüsü. İnsanın yaptığı düzeltmeler kaydedilir ve modeli iyileştirmek için kullanılır. RLHF''in temel fikri budur: insan tercihleri toplanır, bunlardan bir reward model •tercihleri puanlayan yardımcı model• eğitilir, ana model ona göre hizalanır.

Neden önemli?

Modeller kendinden emin bir tonla yanlış cevap verebiliyor. Hallucination''ın en can sıkıcı yanı, yanlış çıktının doğru çıktıdan farksız görünmesi. Sistemin kendi hatasını fark edemediği yerde, fark edecek birinin döngüde olması gerekiyor.

Agent''ların yaygınlaşmasıyla mesele daha da somutlaştı. Yanlış bir cümle yazmak geri alınabilir; yanlış adrese para göndermek alınamaz. Onay kapılarının nereye konacağı, bir agent tasarımının en kritik kararlarından biri.

Bir de sorumluluk boyutu var: kredi, işe alım, sağlık gibi alanlarda düzenlemeler zaten kararın arkasında bir insan olmasını arıyor.

Kullanım alanları

• Agent''larda geri alınamaz eylem öncesi onay (ödeme, silme, dış iletişim)
• İçerik moderasyonu — model işaretler, insan karara bağlar
• Tıbbi görüntüleme — model şüpheli bölgeyi gösterir, tanıyı hekim koyar
• Veri etiketleme — model ön etiket üretir, insan düzeltir
• Müşteri desteği — model taslak yanıt yazar, temsilci gönderir