Я з нетерпінням чекаю оголошення про Dedicated Container Inference — один із продуктів, який я так захоплено створював, коли вперше приєднався до @togethercompute, а тепер, через 6 місяців, ми вже в ефірі! Велика подяка команді — це дозволяє легко запускати інференцію для щільних обчислювальних моделей, таких як генерація відео, аудіо та аватарів, використовуючи примітиви для автоматичного масштабування, чергування, пріоритетів, метрик, логування та іншого Якщо ви будуєте в цьому просторі, я буду радий почути вашу думку!