Introduserer vmux – utrolig raske, tilstandsfulle sky-sandkasser for kodingsagenter for første gang får du vedvarende GPU/CPU-sandkasser via Modal/CF støttet av Durable Objects for å strømme logger live, native forhåndsvisnings-URL-er og legge ved et ekte skall spinn opp en bærbar PC eller train nanoGPT via codex – med en Modal sandkasse som spinnes opp på sekunder
hovedinnsikten er at hver økt er et Durable Object som holder kanonisk tilstand, en liten log ring-buffer for å holde logger i minnet, og en proxy som elegant proxyer mellom start/stopp/failed-tilstand for jobber som ønsker en token-gated forhåndsvisnings-URL
for agenter spesifikt - vmux exec --create --gpu H100 "pip install torch & python spinner opp en Modal sandbox og kjører en kommando i ett steg Hver påfølgende samtale via VMUX Exec med jobb-ID kaller samme sandkasse og med 'VMUX Claude installerer' Claude /Codex får en ferdighet som lar dem raskt grepe logger/send-kommandoer – kombinert med en GPU-container kan du starte trening av modeller veldig raskt bare ved å si "tren nanogpt på en h100 med vmux", og alt fungerer bare med modal, vanligvis starter en GPU opp under 10 sekunder
De minste ting, som å få den mellomliggende lasteskjermen når man spinner opp sandkasser, var supermorsomt å hacke på. Mange småting som dette gjorde vmux (tror jeg) ganske kult
De minste tingene som å få lasteskjermen når man starter sandkasser var supermorsomt å hacke på. Mange småting som dette gjorde vmux (tror jeg) ganske kult. Se snart
Blogginnlegg snart
6,63K