TOON (Token-Oriented Object Notation) is a data serialization format designed specifically for LLM prompts to be highly efficient. It dramatically reduces token usage by 30-60% compared to JSON while remaining structured and human-readable. By using a tabular format for arrays and minimal syntax for objects, TOON makes your data cheaper and faster to process with AI models.

What's the difference between TOON and JSON?

The key difference is token efficiency. JSON is verbose, with brackets, quotes, and commas that consume tokens. TOON is a more compact syntax designed for LLMs, representing arrays as tables with headers and using minimal punctuation. This efficiency directly translates to significant cost savings on your LLM API bills, especially for large or repeated datasets.

How much can I save with TOON?

You can typically expect to save 30-60% on LLM tokens compared to using JSON. For large datasets or frequent API calls, this translates directly into significant cost savings. Data with repeated structures, like API responses or database results, often sees savings at the higher end of this range (40-60%).

Is TOON compatible with all LLMs?

Yes. TOON is a simple text format that works flawlessly with all major large language models, including those from OpenAI (GPT-4), Anthropic (Claude), Google (Gemini), and Meta (LLaMA). Since any LLM can process plain text, they can all be instructed to understand and parse the TOON format with a simple instruction in your prompt.

Can I convert TOON back to JSON?

Absolutely. TOON is fully and losslessly reversible. Our converter tool supports bidirectional conversion, meaning you can convert TOON back to the exact original JSON structure without any data loss. This allows you to use TOON for efficiency and then convert back to JSON for compatibility with other tools.

What types of data work best with TOON?

TOON can represent any valid JSON data, but it delivers the highest token savings (40-60%) on uniform tabular data. This includes database query results, API responses with lists of objects, analytics data, or product catalogs. While TOON fully supports nested objects and arrays, the token reduction is most dramatic with flatter, more repetitive data structures.

Is my data safe when using this converter?

100% safe. All conversion from JSON to TOON (and back) happens locally in your browser. Your data is never sent to any server, never stored, and never seen by us. The converter even works offline once the page has loaded, guaranteeing your information remains private.

Yes, completely free. Both this TOON converter and the underlying TOON format specification are open and free to use without any limits, file size restrictions, or premium features. It's an open-source effort to make working with LLMs more efficient for everyone.

TOON ile API Tasarruflarını Hesaplamaya Yönelik Temel Kılavuz

API Optimizasyonu

Maliyet Yönetimi

Büyük Dil Modelleri (LLM) tarafından desteklenen bir üretim uygulaması çalıştırıyorsanız, aylık faturanın sıkıntısını zaten biliyorsunuzdur. İster OpenAI'nin GPT-4'ünü, ister Anthropic'in Claude 3'ünü ya da barındırılan altyapıdaki açık kaynak modellerini kullanıyor olun, kablodan geçen her bir token için ödeme yaparsınız.

Maliyetleri azaltmak için genellikle hızlı mühendislik veya model nicemleme üzerine odaklanıyoruz, ancak kesinlikle yapısal olan daha önemsiz bir meyve var: veri formatının kendisi. Sözdizimsel olarak ağır JSON'dan kolaylaştırılmış TOON formatına geçiş, büyük tasarruflar sağlayabilir. Ancak bir mühendis veya CTO olarak sadece "önsezilere" göre hareket edemezsiniz. Yeniden düzenlemeyi haklı çıkarmak için sağlam verilere ihtiyacınız var.

Kendi hesap makinenizi oluşturmak için ihtiyaç duyduğunuz formüller de dahil olmak üzere, API yüklerinizi TOON'a geçirmenin mali etkisini doğru bir şekilde nasıl hesaplayacağınız aşağıda açıklanmıştır.

Temel Tasarruf Mantığı

En temel düzeyde tasarruf, LLM'nin anladığı ancak aslında verilerinizin anlamsal anlamını işlemeye ihtiyaç duymadığı JSON'un sözdizimsel özelliğinin (ayraçlar, tırnak işaretleri ve virgüller) kaldırılmasıyla elde edilir.

Temel metriklerinizi elde etmek için mevcut durumunuz ile gelecekteki durumunuz arasındaki farka bakmanız gerekir. Analiziniz için kullanacağınız temel formüller şunlardır.

1. Token Azaltımının Hesaplanması

Öncelikle verimlilik kazancını belirlemeniz gerekir. Bu bir tahmin değil; gerçek yüklerinizin bir örneğinden elde edilen kesin bir ölçümdür.

2. Finansal Etkiyi Öngörmek

Bu yüzdeye ulaştığınızda, mali sonuç aylık yanma oranınıza göre hesaplanır. Yüksek hacimli uygulamalarda küçük bir yüzde puanı farkının bile binlerce dolara ulaştığını unutmayın.

Adım Adım Uygulama Planı

CFO'nuza veya Mühendislik Liderinize verebileceğiniz bir numaraya ihtiyacınız var. İşte bunu elde etmenin metodolojisi.

1. Adım: Temelinizi Belirleyin

Kod yazmadan önce mevcut kullanımınızı denetleyin. Bu dört ölçümü almak için faturalandırma kontrol panelinizi ve belirli LLM sağlayıcı günlüklerini açın:

Toplam Aylık Talepler: Çağrı hacmi.

İstek Başına Ortalama Token: Giriş ve çıkış jetonlarını birleştirin.

1K Token başına maliyet: Modelinize özeldir (ör. GPT-4o ve GPT-3.5).

Geçerli Aylık Harcama: Toplam dolar tutarı.

Adım 2: "Örnekleme Testi"

Tasarrufları hesaplamak için veritabanınızın tamamını dönüştürmeye çalışmayın. Yalnızca temsili bir örneğe ihtiyacınız var. Trafiğinizin büyük kısmını temsil eden en tipik JSON yüklerinizden 10 ila 20 tanesini alın.

Belirteç farkını görmek için Kullanıcı Profili nesne dönüşümünün gerçek bir örneğine bakalım:

Orijinal JSON (146 Jeton):

{ 
"bağlam": { 
"task": "Birlikte en sevdiğimiz yürüyüşler", 
"konum": "Kaya", 
"sezon": "ilkbahar_2025" 
}, 
"arkadaşlar": ["ana", "luis", "sam"], 
"yürüyüşler": [ 
{ 
"kimlik": 1, 
"name": "Mavi Göl Yolu", 
"mesafeKm": 7,5, 
"yükseklik Kazanımı": 320, 
"arkadaş": "ana", 
"Güneşliydi": doğru 
}, 
{ 
"kimlik": 2, 
"name": "Ridge Overlook", 
"mesafeKm": 9,2, 
"yükseklik Kazanımı": 540, 
"arkadaş": "luis", 
"Sunny idi": yanlış 
}, 
{ 
"kimlik": 3, 
"name": "Kır Çiçeği Döngüsü", 
"mesafeKm": 5.1, 
"yükseklik Kazanımı": 180, 
"arkadaş": "sam", 
"Güneşliydi": doğru 
} 
] 
} 
''''

TOON Formatı (58 Token):

bağlam: 
görev: Birlikte en sevdiğimiz yürüyüşler 
konum: Boulder 
sezon: ilkbahar_2025 
arkadaşlar[3]: ana,luis,sam 
yürüyüşler[3]{id,name,distanceKm,elevationGain,companion,wasSunny}: 
1,Mavi Göl Yolu,7.5,320,ana,doğru 
2,Ridge Overlook,9.2,540,luis,false 
3,Kır Çiçeği Döngüsü,5.1,180,sam,true 
''''

Bu özel örnekte token sayısı 35'ten 18'e düştü. Bu %48,6'lık bir azalma anlamına geliyor. Ortalama azalma yüzdenizi bulmak için bu işlemi 20 örneğiniz için tekrarlayın.

3. Adım: Yatırım Getirisini Hesaplayın

Tasarruflar harikadır ancak uygulama ücretsiz değildir. Mühendislik çabasının buna değip değmeyeceğini belirlemek için anahtarın kendisini ne kadar hızlı amorti ettiğini hesaplamanız gerekir.

Gerçek Dünya Senaryoları

Bu formüllerin pratikte neye benzediğini göstermek için, tipik piyasa oranlarına dayalı olarak üç ortak işletme profilindeki rakamları çalıştıralım.

Senaryo A: Orta Ölçekli E-Ticaret Platformu

Trafik: 1,5 milyon istek/ay

Model: GPT-4 Turbo

Mevcut Harcama: 30.000 $/ay

TOON Etkisi: %52 jeton azaltımı (örnekleme yoluyla doğrulandı)

Azaltma formülü uygulandığında tahmini aylık maliyetleri yaklaşık 14.400 dolara düşüyor.

Sonuç:

Aylık Tasarruf: 15.600 $

Yıllık Tasarruf: 187.200 $

Kıdemli bir geliştiricinin istemleri ve ayrıştırıcıları güncellemesi tam bir hafta (100 ABD Doları/saatte 40 saat) alırsa, uygulama maliyeti 4.000 ABD Dolarıdır. Yatırım getirisi zaman çizelgesi 0,26 aydır; bu, projenin kendisini yaklaşık 8 günde amorti ettiği anlamına gelir.

Senaryo B: Kurumsal Yapay Zeka Platformu

Trafik: 6 milyon istek/ay

Model: Claude 3 Opus (Yüksek zeka/Yüksek maliyet)

Mevcut Harcama: 472.500 $/ay

TOON Etkisi: %58 jeton azaltımı

"Daha akıllı", daha pahalı bir model kullandıkları için tasarruflar katlanarak artıyor. %58'lik bir indirim onlara ayda 274.050$ tasarruf sağlıyor.

Sonuç:

Uygulama: 160 saat (Bir aylık geliştirme süresi) = 24.000 ABD doları

YG Zaman Çizelgesi: 0,09 ay (3 günden az)

Yıllık yatırım getirisi: %13.602

Senaryo C: Küçük SaaS Paketleyici

Trafik: 150 bin istek/ay

Model: GPT-3.5 Turbo (Emtia fiyatlandırması)

Mevcut Harcama: 90 ABD doları/ay

TOON Etkisi: %48 azalma

Burada tasarruf yaklaşık 43$/ay civarındadır. Uygulamanın maliyeti 600 dolarsa başabaş noktasına ulaşmak 1,4 ay sürecek. Dolar miktarı daha düşük olsa da, yıllık %86'lık bir yatırım getirisi teknik olarak hala bir kazançtır, ancak yeni özelliklerin sunulması lehine önceliklendirilebilir.

Gelişmiş Faktör: Değişken İstek Boyutları

Uygulamanızın istek boyutlarında çok büyük farklılıklar varsa (örneğin, bazı istekler 100 jeton, diğerleri 5.000), basit bir ortalama sizi yanıltabilir. Doğruluk için ağırlıklı ortalama kullanmalısınız.

"Gizli" Çarpanlar

Tasarruflarınızı hesaplarken, yalnızca anlık API faturasına bakmak gibi yaygın bir hata yapmayın. TOON'un değerini artıran teknik verimlilikler vardır:

Bağlam Penceresini En Üst Düzeye Çıkarma: TOON verilerinizi %50 oranında sıkıştırırsa bağlam pencerenizi etkili bir şekilde iki katına çıkarırsınız. Bu, JSON ile mümkün olmayan birkaç adımlı yönlendirme örneklerine olanak tanır ve daha pahalı bir model katmanına geçmeden model doğruluğunu potansiyel olarak artırır.

Gecikme Süresinin Azaltılması: Daha az belirteç, LLM'nin yanıtı daha hızlı oluşturması anlamına gelir.

Altyapı Yükü: Daha küçük yükler, bant genişliğinin azalması ve arka uçta serileştirme/seri durumdan çıkarmanın biraz daha hızlı olması anlamına gelir.

Çözüm

Matematik basittir: JSON'daki sözdizimi karakterleri pahalı gürültüdür. TOON'a geçerek ambalaja para ödemeyi bırakıp sadece ürüne para ödemeye başlarsınız.

Yukarıdaki formülleri kendi verileriniz üzerinde çalıştırın. %30'dan fazla bir azalma görürseniz ve aylık faturanız 1.000 doları aşarsa, yatırım getirisi neredeyse kesinlikle anında gerçekleşir.