AI-assisterad kodning kan absolut vara en drivande funktion för 10x produktivitet. Det låter folk röra sig mycket snabbare och slippa mycket av den tråkiga friktionen. Men dagens modeller gör fortfarande misstag. De kan ha fel med säkerhet. De kan luras. Och de kan enkelt generera kod som personen som trycker den inte riktigt förstår. Det är där det blir farligt. Om du levererar kritiska system, särskilt i stor skala, behöver du förstå koden du pushar. Finansiella tjänster är det uppenbara exemplet. Skulle du vilja att AI-slam trycks in i något som rymmer hela din nettotillgång? Det skulle jag inte. Detta kommer att förändras när modellerna blir bättre. De förbättras snabbt. Men just nu bör vi gå försiktigt fram. Human in the loop behöver inte sakta ner processen. AI kan fortfarande göra team dramatiskt snabbare för att skriva, granska och iterera. Men för produktionssystem som spelar roll borde det krävas minst två människor för att göra något dåligt i stor skala. En väldigt annorlunda historia för ett sidoprojekt eller proof of concept, för övrigt.