Meta, Muse Ember'i duyurdu: 1 milyon girdi token'ı 0,10 dolar

Meta, 9 Kasım'da Muse Ember'i duyurdu. Şirketin Muse ailesindeki en küçük modeli olan Ember, bilgi çıkarma, belge işleme ve bir yazılım projesindeki küçük kodlama görevleri gibi sık tekrarlanan işler için tasarlandı. Model, Muse Code ve Meta Model API üzerinden kullanılabiliyor.

0,10 dolar hangi işler için geçerli?

200 bin token'a kadar olan isteklerde 1 milyon girdi token'ı 0,10 dolar, 1 milyon çıktı token'ı 0,50 dolar. Daha uzun isteklerde fiyat sırasıyla 0,30 ve 1,50 dolara çıkıyor. TokeniModelin metni işlerken kullandığı kelime veya kelime parçası. başına fiyat, gönderdiğin belge ile modelin ürettiği yanıt için ayrı hesaplanıyor. Modelin 1 milyon token'lık context windowiBir istekte modelin değerlendirebildiği toplam bilgi alanı. desteği var.

Küçük model iş akışında nereye oturuyor?

Bir ajan gelen belgeleri sınıflandırıp içlerinden tarih veya tutar çıkaracaksa, aynı işlemi gün boyunca yüzlerce kez yapabilir. Ember bu tekrarları üstlenebiliyor. Meta'nın yayımladığı bir değerlendirmede Ember görev başına 0,14 dolara, Muse Spark 1.3 ise 2,39 dolara mal oldu. Bu rakamlar testteki görevler için geçerli. Ajanların benzer işleri nasıl yürüttüğünü bilgisayar kullanabilen ajanlar rehberinde görebilirsin.

Ember'in fiyatı özellikle gün boyu aynı kısa görevi tekrarlayan işlerde anlam kazanıyor. Tek bir isteğe yüzlerce sayfa eklediğinde hem tarife değişiyor hem de bir görevin maliyetinde üretilen yanıtın uzunluğu daha çok hissediliyor.