AI-ondersteund coderen kan absoluut een drijvende kracht zijn voor 10x productiviteit. Het laat mensen veel sneller bewegen en veel van de saaie wrijving overslaan. Maar de modellen van vandaag maken nog steeds fouten. Ze kunnen vol vertrouwen verkeerd zijn. Ze kunnen worden misleid. En ze kunnen gemakkelijk code genereren die de persoon die het aanstuurt niet echt begrijpt. Daar wordt het gevaarlijk. Als je kritieke systemen uitrolt, vooral op grote schaal, moet je de code die je aanstuurt begrijpen. Financiële diensten zijn het voor de hand liggende voorbeeld. Zou je willen dat er AI-rommel in iets wordt gepusht dat je hele netto waarde vasthoudt? Ik niet. Dit zal veranderen naarmate de modellen beter worden. Ze verbeteren snel. Maar op dit moment moeten we voorzichtig te werk gaan. Mens in de lus hoeft de zaken niet te vertragen. AI kan teams nog steeds dramatisch sneller maken in schrijven, beoordelen en itereren. Maar voor productiesystemen die ertoe doen, zouden er minstens twee mensen nodig moeten zijn om op grote schaal iets slechts te doen. Heel ander verhaal voor een zijproject of proof of concept, voor wat het waard is.