Ik heb het gevoel dat de zoekalgoritme weer geweldig zal zijn. Naarmate de context of prompt groter wordt. Hoe we het verbruik van tokens op de juiste manier kunnen verminderen, hangt echt af van welke prompt met welke context we moeten indienen. Ik denk niet dat compressie zo goed zal werken als je een grote geheugenbank hebt. Aangezien 90% van de prompt misschien nog steeds niet nodig is. In plaats van alle context/prompt in te dienen, zoeken we en deduceren we de hele context voor alleen relevante informatie.