Populární témata
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Karpathy právě zrušil autoresearch – AI agenty, kteří autonomně provádějí ML experimenty na jedné GPU, zatímco spíte
Nejlepší AI laboratoře roku 2027 mohou mít jen 2-3 lidi

8. 3. 03:53
Projekt "autoresearch" jsem zabalil do nového samostatného minimálního repozitáře, pokud by si lidé chtěli zahrát o víkendu. V podstatě jde o tréninkové jádro nanochat LLM zredukované na verzi s jedním GPU a jedním souborem ~630 řádků kódu, pak:
- člověk iteruje na zadání (.md)
- AI agent iteruje na tréninkovém kódu (.py)
Cílem je inženýrsky nasměrovat své agenty tak, aby dělali nejrychlejší výzkumný pokrok neomezeně dlouho a bez vašeho zapojení. Na obrázku je každý bod kompletní tréninkový běh LLM, který trvá přesně 5 minut. Agent pracuje v autonomní smyčce na větvi funkcí git a shromažďuje git commity do trénovacího skriptu, jakmile najde lepší nastavení (s menšími ztrátami validace na konci) architektury neuronové sítě, optimalizátoru, všech hyperparametrů atd. Můžete si představit porovnávat pokrok výzkumu různých zadání, různých agentů atd.
Částečně kód, částečně sci-fi a špetka psychózy :)

Na druhou stranu bychom mohli dosáhnout většího pokroku ve výzkumu s menším množstvím $s
367
Top
Hodnocení
Oblíbené
