Ecco cosa ti offre 10k USD:
MiniMax-M2.5 in esecuzione localmente su Droid crea un bot X con la nuova API X. Gestisce i token oauth, apre i link nel mio browser, gestisce il suo lavoro, ecc..
Tecnologia straordinaria.
Nessuno degli editor di codice, dal punto di vista delle prestazioni, è stato costruito per resistere al puro throughput degli agenti AI.
1. Zed ha problemi con un errore durante la reindicizzazione e il controllo dei file, ho un crash di memoria ogni 3 giorni.
2. VSCode e i suoi fork hanno problemi con l'accelerazione GPU e si bloccano 2 volte al giorno circa.
3. CMux e Ghosttty sono stabili quanto Zed.
Non ho provato altri IDE, tendono tutti ad avere questi problemi. Ora, è vero che apro la cartella radice del mio progetto, eseguendo 10-20 terminali 24 ore su 24, 7 giorni su 7 e so che è irragionevole.
Acquistare hardware migliore non risolve il problema, una perdita di memoria è una perdita di memoria, non importa quanta memoria hai. Alla fine, si bloccherà comunque il tuo sistema.
Una ondata di interesse per l'AI locale sta per colpire così forte, proprio in tempo per l'M5 ultra.
Amo le mie GPU e sono eternamente grato per quanto mi hanno insegnato, penso solo che Apple sia destinata a vincere nel settore dell'hardware AI per i consumatori.
Stranamente, ora sono quelle economiche.
Kimi K2.5 su MacBook Pro + 4 x M3 Ultra Mac Studios.
@exolabs supporta l'inferenza distribuita su una rete di dispositivi eterogenei.
Quando M5 Pro/Max/Ultra arriverà, potrai aggiungerlo al tuo cluster.