Verbosité et redondance

La syntaxe de JSON est intrinsèquement détaillée. Il utilise beaucoup de signes de ponctuation comme des accolades, des crochets et des guillemets. Les clés sont répétées pour chaque objet d'un tableau, ce qui entraîne un gaspillage important de jetons.

[
  {"id": 1, "name": "Alice"},
  {"id": 2, "name": "Bob"}
]

Les clés "id" et "name" sont répétées et toute la ponctuation s'ajoute au nombre de jetons.

Absence d'application du schéma

JSON n'a pas de schéma intégré. Vous devez décrire la structure et les types de données souhaités dans l'invite elle-même, ce qui consomme un espace précieux dans la fenêtre contextuelle et augmente les chances que le LLM génère une sortie non conforme.

Rigidité syntaxique

Une seule virgule ou citation mal placée peut rendre invalide l’intégralité d’un document JSON. Les LLM peuvent facilement commettre ces petites erreurs, obligeant les développeurs à mettre en œuvre une logique de validation et d'analyse robuste pour gérer les erreurs.

{"name": "Alice", "age": 30,}

La virgule finale après « 30 » rend ce JSON invalide dans de nombreux analyseurs.

Tokenisation inefficace

Les tokeniseurs LLM divisent souvent la ponctuation et les caractères spéciaux en plusieurs jetons. Cela signifie que des caractères comme '{', '}', '"' peuvent consommer plus de jetons qu'un seul caractère, ce qui gonfle encore les coûts.