Провести тестування бенчмарків @exolabs останньої версії — це чудово! Я знайшов кінцеву точку /bench/chat/completions, яка вимикає кеш між дзвінками! Саме те, що мені потрібно! Давайте проштовхуємо ці M3 Ultras!