🚨 BREAKING: forskare placerade en enda illasinnad aktör i en grupp LLM-agenter. hela nätverket lyckades inte nå enighet. detta är det bysantinska generalernas problem. En 40 år gammal mardröm för distribuerade system. Och det är nu också din agentpipelines problem. i helt godartade miljöer, utan några illasinnade aktörer, misslyckas LLM-agenter ändå med att konvergera kring gemensamma värden. Och det blir värre ju fler agenter du lägger till i gruppen. felläget avslöjar allt. Det är inte subtil värdekorruption. Det är inte en agent som smyger in ett fel svar. Modellerna bara... Förhala. De går ut i timeout. De går i cirklar. Samtalet landar aldrig i enighet. detta är viktigt eftersom hela hypen kring multi-agent AI förutsätter att samordning fungerar. autonoma agentsvärmar, samarbetsinriktad problemlösning, decentraliserade AI-system. allt detta förutsätter att om du placerar flera LLM:er i ett rum och ger dem ett protokoll, så kommer de att konvergera mot ett gemensamt beslut. Bysantinsk konsensus är ett av de äldsta och mest studerade problemen i distribuerade system. Klassiska algoritmer löste det för decennier sedan med strikta matematiska garantier. frågan var om LLM-agenter kunde uppnå samma sak genom naturlig språkkommunikation istället för formella protokoll. Svaret, åtminstone för tillfället, är nej. Och anledningen är värd att fundera på. Traditionella konsensusalgoritmer fungerar eftersom varje nod följer ett identiskt deterministiskt protokoll. LLM:er är stokastiska. samma prompt ger olika utgångar över körningarna. Ett avtal som gäller i omgång 3 kan upplösas i omgång 4 när agenter reviderar sitt resonemang efter att ha sett kamraters svar. Detta är den grundläggande mismatchen: konsensusprotokoll antar deterministiska tillståndsmaskiner. LLM:er är motsatsen till det. Det betyder också att "fler agenter = bättre svar" har ett tak som ingen mäter. Vid viss gruppstorlek överväger samordningsöverhead och konvergensfel alla fördelar från olika perspektiv. Den praktiska implikationen är obekväm för alla som bygger multiagentsystem för högriskuppgifter. Pålitlig överenskommelse är inte en emergen funktion som får smarta mäklare att prata med. Det måste konstrueras uttryckligen, med formella garantier, inte hoppas på att det ska bli verklighet. Vi implementerar multiagentsystem inom finans, sjukvård och autonom infrastruktur. Och konsensusproblemet, den mest grundläggande koordinationsprimitiven, är ännu inte löst.