> průměrný výběr nářadí 385 ms. > 67 nástrojů na 13 MCP serverech. > paměť 14,5GB. > Žádné síťové hovory. LocalCowork je AI agent, který běží na MacBooku. Open source. 🧵
Vytvořit lokálního AI agenta zní skvěle, dokud se ho nepokusíte používat celý den. Těžké není přimět modelku, aby vám rozuměla. Jde o to, aby si vybral správný nástroj a udělal to dostatečně rychle, aby zážitek působil interaktivně. Proto jsme LFM2-24B-A2B testovali na noteboocích a vytvořili open-source desktopového agenta nazvaného LocalCowork.
Vše běží lokálně: > modelu > nástroje > data Žádný cloud. Žádné API klíče. Nic nevychází ze stroje.
Model jsme hodnotili v realistickém nastavení: > 67 nástrojů > 13 MCP serverů Úkoly jako bezpečnostní skenování, zpracování dokumentů, operace souborového systému a systémové utility. Všechny běží na jednom notebooku Apple M4 Max s 36GB paměti. V této konfiguraci dosahoval LFM2-24B-A2B průměrně ~385 ms na odezvu výběru nástroje při uložení ~14,5 GB paměti. To znamená: > žádné odchozí API volání > žádné subprocesory od dodavatele > žádná data neopouštějí zařízení
13