Verbositas dan Redundansi

Sintaks JSON pada dasarnya bertele-tele. Ini menggunakan banyak tanda baca seperti kurung kurawal, tanda kurung, dan tanda kutip. Kunci diulangi untuk setiap objek dalam array, sehingga menyebabkan pemborosan token yang signifikan.

[
  {"id": 1, "name": "Alice"},
  {"id": 2, "name": "Bob"}
]

Kunci "id" dan "nama" diulangi, dan semua tanda baca ditambahkan ke jumlah token.

Kurangnya Penegakan Skema

JSON tidak memiliki skema bawaan. Anda perlu mendeskripsikan struktur dan tipe data yang diinginkan dalam prompt itu sendiri, menghabiskan ruang jendela konteks yang berharga dan meningkatkan kemungkinan LLM menghasilkan keluaran yang tidak sesuai.

Kekakuan Sintaksis

Satu koma atau kutipan yang salah dapat membuat seluruh dokumen JSON menjadi tidak valid. LLM dapat dengan mudah membuat kesalahan kecil ini, sehingga mengharuskan pengembang menerapkan logika validasi dan parsing yang kuat untuk menangani kesalahan.

{"name": "Alice", "age": 30,}

Tanda koma setelah '30' membuat JSON ini tidak valid di banyak parser.

Tokenisasi yang Tidak Efisien

Tokenizer LLM sering kali membagi tanda baca dan karakter khusus menjadi beberapa token. Ini berarti karakter seperti '{', '}', '"' dapat menggunakan lebih banyak token daripada satu karakter, sehingga semakin meningkatkan biaya.