
Gisting: come Shopify ha compresso il prompt dei suoi agenti da 6.000 a 1.500 token
Shopify ha ridotto il prompt di sistema del suo agente GraphQL da circa 6.000 a circa 1.500 token, senza perdere qualità: 38% di latenza in meno e 14% di GPU in meno. Come funziona il gisting.


