Більшість провайдерів ШІ просять вас довіряти їм свої дані. Ми просто виключили себе з рівняння. Сьогодні ми випускаємо наскрізне шифрування для AI-інференції на Chutes. Ось що це насправді означає:

Ваші запити шифруються на вашому комп'ютері безпосередньо до конкретного GPU-екземпляра, що працює в Trusted Execution Environment. Шифротекст проходить через наш API та балансувальники навантаження, але вони буквально не можуть його прочитати. Ніхто не може. Не мережа. Не ми. Не шахтарі, які керують апаратним забезпеченням. Обмін ключами використовує ML-KEM 768, стандартизований NIST механізм інкапсуляції після квантового ключі, разом із HKDF-SHA256 та ChaCha20-Poly1305. Інстанси TEE публікують публічний ключ ML-KEM, а кожен запит використовує нову ефемерну клієнтську пару ключів для прямої секретності. Навіть якщо хтось сьогодні захопить кожен пакет, майбутні квантові комп'ютери все одно не зможуть їх розшифрувати.

Частина, яка має значення для будівельників: Є два способи цього використання, залежно від вашої конфігурації. Якщо ви використовуєте OpenAI Python SDK, встановіть pip chutes-e2ee і передайте кастомний транспорт вашому клієнту. Ваш базовий URL може залишатися незмінним, а шифрування відбувається прозоро на HTTP-рівні з мінімальним клієнтським підключенням.

Якщо ви використовуєте будь-яку іншу клієнтську платформу, запустіть наш контейнер Docker e2ee-proxy локально і вкажіть клієнту на нього. Він підтримує обидва API, сумісні з OpenAI, включно з новішою специфікацією Responses API, яку використовують інструменти на кшталт Codex, а також специфікацію Messages API від Anthropic для клієнтів у стилі Claude. Проксі відповідає за трансляцію форматів, обмін ключами, шифрування та розшифрування потокового ефіру. Обидва підтримують стрімінг. Обидва зберігають звичайну семантику білінгу на основі токенів. Обидва є відкритими за ліцензією MIT.