Багатослівність і надмірність

Синтаксис JSON за своєю суттю багатослівний. Він використовує багато знаків пунктуації, таких як фігурні дужки, дужки та лапки. Ключі повторюються для кожного об’єкта в масиві, що призводить до значної втрати маркерів.

[
  {"id": 1, "name": "Alice"},
  {"id": 2, "name": "Bob"}
]

Ключі «id» і «name» повторюються, а вся пунктуація додає кількість токенів.

Відсутність застосування схеми

JSON не має вбудованої схеми. Вам потрібно описати бажану структуру та типи даних у самій підказці, займаючи цінний контекстний простір у вікні та збільшуючи ймовірність того, що LLM створить невідповідний вихід.

Синтаксична жорсткість

Одна недоречна кома чи лапка можуть зробити весь документ JSON недійсним. LLM можуть легко зробити ці невеликі помилки, вимагаючи від розробників впровадження надійної перевірки та логіки аналізу для обробки помилок.

{"name": "Alice", "age": 30,}

Кінцева кома після «30» робить цей JSON недійсним у багатьох аналізаторах.

Неефективна токенізація

Токенізатори LLM часто розділяють знаки пунктуації та спеціальні символи на кілька токенів. Це означає, що такі символи, як '{', '}', '"', можуть споживати більше токенів, ніж один символ, що ще більше збільшує витрати.