Jag brukade tro att missanpassningen mellan lag och mjukvara låg mellan ett system byggt för stokastiska mänskliga relationer och deterministisk kod, där om x så är y. Jag är inte så säker längre. LLM:er bryter ner den inramningen eftersom de egentligen inte är det ena eller det andra. De är sannolikhetsinriktade på sätt som inte ens är inspekterbara eller förutsägbara av deras byggare. Det är deras natur och det som gör dem användbara. Och även om de inte är tillräckligt deterministiska för avtalsliknande regler, är de fortfarande inte tillräckligt mänskliga för common law-standarder (eller för att behandlas som personer, än, i lagar). Vi kommer att pendla mellan lagstiftare och domstolar som försöker tillämpa traditionella rättsprinciper och utvecklare som vill ha frihet att bygga utan ansvar. Inget av det är genomförbart. Domstolar kommer att ålägga ansvar oavsett om utvecklare tar hänsyn till det eller inte, och grova lagstiftningsregler kommer att misslyckas med system som inte beter sig som något som skaparna föreställt sig. Frontier-system behöver frontier-styrning och riskfördelning. De principerna finns inte än. Men bättre att bygga dem än att påtvinga dem utifrån.