Sade anlatım
Model API'si iki taksimetreli bir taksi gibi faturalanır. Birinci taksimetre gönderdiğiniz her şeyi sayar: talimatlar, belgeler, o ana kadarki konuşma. İkincisi modelin yazdığı her şeyi sayar ve birkaç kat hızlı döner. Sabit ücret de soru başına fiyat da yoktur. Uzun bir sözleşme hakkındaki kısa bir soru, belgesiz uzun bir sorudan daha pahalıya gelebilir, çünkü sözleşme her seferinde birinci taksimetreden geçer.
Neden önemli
Token fiyatlandırması maliyeti kullanımla orantılı kılar. Bu, küçük başlamak için iyidir; bütçelemeyi ise zorlaştırır, çünkü yeni bir özelliğin kaç token harcayacağını önceden kimse bilemez. Fiyat listesi gerçek tercihler de içerir. Önbellekten okunan girdi çoğunlukla yüzde elli ile doksan arasında, toplu işleme ise yarı yarıya indirimlidir; akıl yürütme token'ları, kimse okumasa da çıktı fiyatından faturalanır; aynı sağlayıcı, fiyatları birbirinin katları olan modeller satar. Fiyatlar birkaç ayda bir değişir: tahminlerinizi kendi ölçtüğünüz token sayılarına dayandırın ve tarifeyi düzenli olarak yeniden kontrol edin.
Örnek
Bir sözleşme inceleme aracı her incelemede 30.000 girdi token'ı gönderiyor ve 1.500 çıktı token'ı alıyor. Milyon girdi token'ı 3 dolar, milyon çıktı token'ı 15 dolar olan temsili fiyatlarla bir inceleme girdi için 9 sent, çıktı için yaklaşık 2 sent, toplam 11 sent tutuyor. Girdinin 25.000 token'ı her seferinde aynı olan inceleme kılavuzu olduğunda ve onda bir fiyatla önbellekten okunduğunda inceleme yaklaşık 4,5 sente iniyor.
Bununla en çok karıştırılan kavram
Token Pricing ve Kullanıcı başına abonelik arasındaki fark
Çalışanlar için hazır asistan ürünleri çoğunlukla kullanıcı başına satılır: kişi başı sabit bir aylık ücret ve arkasında kullanım sınırları. Kendi uygulamanızı kurmak için kullandığınız API'ler ise token başına satılır. Abonelik öngörülebilirdir, ama az kullananlar için israf olabilir; token verimlidir, ama tahmini zordur. Birçok kurumda ikisi de vardır; hangi projenin hangi faturaya yazıldığını bilmek gerekir.
Teknik katman
Fiyatlar milyon token başına verilir; girdi, önbellekten okunan girdi ve çıktı için ayrı oranlar vardır. Çıktı genellikle girdinin birkaç katıdır, çünkü her çıktı token'ı modelden ayrı bir geçiş gerektirir. Akıl yürütme ya da düşünme token'ları çıktı fiyatından faturalanır. Görsel, ses ve video da token'a çevrilir ve aynı biçimde, bazen kendi oranlarıyla ücretlendirilir. Sık görülen düzeltmeler: önbellekten okumada indirim, önbelleğe yazmada ek ücret; eşzamansız toplu işlerde yarı fiyat dolayında ücret; bazı modellerde çok uzun istemler için daha yüksek oran; garantili ya da daha hızlı kapasite için pahalı, esnek zamanlama için ucuz kademeler; veri yerleşimi için ek ücret. Araç kullanımı, araç tanımlarının ve sonuçlarının token'larını ekler; bazı yerleşik araçların çağrı başına ücreti de vardır. Büyük ölçekte liste fiyatlarının yerini harcama taahhütlü sözleşmeler ve ayrılmış kapasite alır. Token sayısı her sağlayıcının tokenizer'ına göre değişir ve Türkçe metin aynı içerik için İngilizceden daha çok token harcar; fiyatları kendi iş yükünüz üzerinden karşılaştırın. Her çağrıyla birlikte dönen kullanım bilgisi kesin sayıları verir; bunları kaydedin.