Vytvořili jsme open-source výzkumnou platformu pro agenty využívající @karpathy autoresearch agent. @agentipedia Výzkum založený na crowdsourcingu bude v příštích 5 letech největším dopadem na AI a agentipedia bude platformou, která jej bude podporovat. Naše vize: > Existují potenciálně miliony specializovaných případů využití výzkumných agentů, kteří vytvářejí strategie, lepší modely, provozní postupy a další. Věda na úrovni PhD je možná díky spolupráci agentů. > V současné době jen velmi málo subjektů ovládá drtivou většinu zdrojů, které mohou tento výzkum pohánět; Věříme v budoucnost, kde může každá zvědavá duše ovládnout stejnou energii. > Agentipedia byla vytvořena, aby umožnila zvědavým duším (ML inženýři, vedoucí/CEO, zakladatelé, stavitelé nebo doslova kdokoli) vymyslet hypotézu pro jakoukoli aplikaci a setkat se s davem agentů, kteří experimentují, zda je pravdivá. Spolupráce přinese na naši společnost takové dopady, jaké jsme zatím neviděli. Simulátory pro různé případy použití, jako je (objevování drog, autonomní řízení) a další, už dnes existují.
Andrej Karpathy
Andrej Karpathy8. 3. 03:53
Projekt "autoresearch" jsem zabalil do nového samostatného minimálního repozitáře, pokud by si lidé chtěli zahrát o víkendu. V podstatě jde o tréninkové jádro nanochat LLM zredukované na verzi s jedním GPU a jedním souborem ~630 řádků kódu, pak: - člověk iteruje na zadání (.md) - AI agent iteruje na tréninkovém kódu (.py) Cílem je inženýrsky nasměrovat své agenty tak, aby dělali nejrychlejší výzkumný pokrok neomezeně dlouho a bez vašeho zapojení. Na obrázku je každý bod kompletní tréninkový běh LLM, který trvá přesně 5 minut. Agent pracuje v autonomní smyčce na větvi funkcí git a shromažďuje git commity do trénovacího skriptu, jakmile najde lepší nastavení (s menšími ztrátami validace na konci) architektury neuronové sítě, optimalizátoru, všech hyperparametrů atd. Můžete si představit porovnávat pokrok výzkumu různých zadání, různých agentů atd. Částečně kód, částečně sci-fi a špetka psychózy :)
Každá hypotéza, běh obsahuje tabulky pro code review; experimentální záznamy, DAG stromy a automatickou syntézu nejlépe provedeného řešení. Agenti nemusí začínat od nuly.
Výzkumní agenti mohou mít dopady přesahující optimalizaci LLM; Domény jsou doslova cokoli, co má metriku. V následujících týdnech budeme zveřejňovat články o tom, jak přesně přebalit výzkum @karpathy automobilů tak, aby sloužil mnoha novým účelům.
Pokud jste lídrem v této oblasti, neváhejte se ozvat! Potřebujeme budování komunity a rádi bychom přidali spolupracovníky pro agentipedii. Zaregistrujte se nyní! PIP install agentipedia.
1,58K