Ajattelin aiemmin, että lain ja ohjelmiston välinen ristiriita johtuu järjestelmästä, joka on rakennettu stokastisiin ihmissuhteisiin, ja deterministisen koodin välillä, jossa jos x niin y. En ole enää niin varma. LLM:t rikkovat tämän kehyksen, koska ne eivät oikeastaan ole. Ne ovat todennäköisyyspohjaisia tavoilla, joita ei edes rakentajat voi tarkastaa tai ennustaa. Se on heidän luonteensa ja se, mikä tekee niistä hyödyllisiä. Ja vaikka ne eivät ole tarpeeksi deterministisiä sopimustyyppisille säännöille, ne eivät silti ole tarpeeksi inhimillisiä common law -standardeihin (tai siihen, että niitä kohdellaan henkilöinä vielä laeissa). Heilumme lainsäätäjien ja tuomioistuinten välillä, jotka yrittävät soveltaa perinteisiä oikeusperiaatteita, ja kehittäjien välillä, jotka haluavat rakentaa vapauden ilman vastuuta. Kumpikaan ei ole toimiva. Tuomioistuimet asettavat vastuuta riippumatta siitä, ottavatko kehittäjät sen huomioon, ja suorat lainsäädäntösäännöt epäonnistuvat järjestelmissä, jotka eivät käyttäydy kuten laatijat ovat kuvitelleet. Rajajärjestelmät tarvitsevat rajahallinnon ja riskien jakamisen. Näitä periaatteita ei vielä ole olemassa. Mutta parempi rakentaa ne kuin pakottaa ne ulkopuolelta.