Colaborăm cu @cerebras pentru a construi cea mai rapidă inferență posibilă. În curând, pe Amazon Bedrock, oferim performanță de inferență cu un ordin de mărime mai rapidă decât cea disponibilă astăzi, conectând AWS Trainium3 pentru preumplere intensivă în calcul cu Cerebras CS-3 pentru decodare de putere. Află mai multe despre parteneriat.

AI răspunde întrebărilor tale în câteva secunde, dar în spatele acestei viteze se află ceva numit inferență — procesul care consumă mult calcul în care modelele antrenate generează răspunsuri. La AWS, am construit cipuri personalizate precum Trainium, sisteme inteligente de rutare și infrastructură unificată pentru a face inferența mai rapidă și mai accesibilă. Deoarece agenții AI gestionează sarcini complexe în mai mulți pași, inferența reprezintă 80-90% din puterea de calcul a AI. Facem inginerie la scară planetară pentru a menține acele milisecunde fiabile.

Claude Sonnet 4.6 este disponibil pe Amazon Bedrock. Oferă inteligență de frontieră la scară largă — concepută pentru programare, agenți și fluxuri de lucru din întreaga companie. Este, de asemenea, cel mai avansat model de utilizare a calculatorului din Anthropic. Pentru companiile care scalează fluxurile de lucru AI, acest lucru înseamnă un ROI mai bun fără compromisuri de calitate.