Verbosità e ridondanza

La sintassi di JSON è intrinsecamente dettagliata. Utilizza molta punteggiatura come parentesi graffe, parentesi quadre e virgolette. Le chiavi vengono ripetute per ogni oggetto in un array, portando a un significativo spreco di token.

[
  {"id": 1, "name": "Alice"},
  {"id": 2, "name": "Bob"}
]

Le chiavi "id" e "name" vengono ripetute e tutta la punteggiatura si aggiunge al conteggio dei token.

Mancanza di applicazione dello schema

JSON non ha uno schema integrato. È necessario descrivere la struttura e i tipi di dati desiderati all'interno del prompt stesso, consumando spazio prezioso nella finestra di contesto e aumentando le possibilità che LLM generi output non conformi.

Rigidità sintattica

Una singola virgola o virgoletta fuori posto può rendere non valido un intero documento JSON. Gli LLM possono facilmente commettere questi piccoli errori, richiedendo agli sviluppatori di implementare una solida logica di convalida e analisi per gestire gli errori.

{"name": "Alice", "age": 30,}

La virgola finale dopo "30" rende questo JSON non valido in molti parser.

Tokenizzazione inefficiente

I tokenizzatori LLM spesso dividono la punteggiatura e i caratteri speciali in più token. Ciò significa che personaggi come '{', '}', '"' possono consumare più token di un singolo personaggio, aumentando ulteriormente i costi.