Eseguire alcuni test di benchmark sulla versione più recente di @exolabs è fantastico! Ho trovato l'endpoint /bench/chat/completions che disabilita la cache tra le chiamate! Esattamente ciò di cui ho bisogno! Spingiamo questi M3 Ultras!