Współpracujemy z @cerebras, aby zbudować najszybszą możliwą inferencję. Już wkrótce w Amazon Bedrock dostarczamy wydajność inferencji o rząd wielkości szybszą niż to, co jest dostępne dzisiaj, łącząc AWS Trainium3 do obliczeń intensywnych z Cerebras CS-3, aby zasilać dekodowanie. Dowiedz się więcej o partnerstwie.

AI odpowiada na twoje pytania w ciągu sekund, ale za tą szybkością kryje się coś, co nazywa się inferencją—procesem intensywnie wykorzystującym obliczenia, w którym wytrenowane modele generują odpowiedzi. W AWS zbudowaliśmy niestandardowe chipy, takie jak Trainium, inteligentne systemy routingu i zjednoczoną infrastrukturę, aby przyspieszyć i uczynić inferencję bardziej przystępną cenowo. Gdy agenci AI zajmują się złożonymi zadaniami wieloetapowymi, inferencja stanowi 80-90% mocy obliczeniowej AI. Pracujemy na planetarną skalę, aby te milisekundy były niezawodne.

Claude Sonnet 4.6 jest dostępny na Amazon Bedrock. Dostarcza inteligencję na granicy możliwości w skali — stworzony do kodowania, agentów i procesów roboczych w przedsiębiorstwach. To także najbardziej zaawansowany model użycia komputera firmy Anthropic. Dla przedsiębiorstw skalujących procesy robocze AI oznacza to lepszy zwrot z inwestycji bez kompromisów w jakości.