Hoe meer ik me verdiep in Goodfire Research, hoe meer ik besef dat de tak van interpretatie stilletjes een van de meest interessante grenzen in AI (en vooral AI voor wetenschap) aan het worden is. Ze publiceerden vorig jaar dit onderzoek met het kernidee van hoe een DNA-fundamentmodel soorten intern organiseert in zijn embeddingruimte op een manier die de echte evolutionaire boom van het leven weerspiegelt. Of in feite hoe het model fylogenie puur vanuit DNA-sequenties herontdekte. Ze bestudeerden Evo 2 (DNA-model ontwikkeld door EvolutionaryScale) en ontdekten dat: + het genoom van elke soort wordt in het model in een vectorembedding gemapt. + deze embeddings vormen een gebogen geometrische structuur (een manifold). + afstanden langs deze manifold komen overeen met de werkelijke evolutionaire afstand tussen soorten. Dus binnen het model: soorten die op elkaar lijken → dicht bij elkaar liggende embeddings afgelegen soorten → ver van elkaar liggende embeddings En de structuur die ontstaat is in wezen de boom van het leven. Dit zou iets baanbrekends kunnen bewijzen over hoe fundamentmodellen automatisch wetenschappelijke structuren kunnen herontdekken.