A codificação assistida por AI pode absolutamente ser uma função de força para uma produtividade 10x. Permite que as pessoas se movam muito mais rápido e pulem muita da fricção entediante. Mas os modelos de hoje ainda cometem erros. Eles podem estar errados com confiança. Podem ser enganados. E podem facilmente gerar código que a pessoa que o está empurrando não entende realmente. É aqui que isso se torna perigoso. Se você está lançando sistemas críticos, especialmente em grande escala, precisa entender o código que está empurrando. Os serviços financeiros são o exemplo óbvio. Você gostaria que um código impreciso fosse inserido em algo que detém todo o seu patrimônio líquido? Eu não gostaria. Isso mudará à medida que os modelos melhorarem. Eles estão melhorando rapidamente. Mas, neste momento, devemos proceder com cautela. O humano no loop não precisa desacelerar as coisas. A AI ainda pode tornar as equipes dramaticamente mais rápidas na escrita, revisão e iteração. Mas para sistemas de produção que importam, deve levar pelo menos duas pessoas para fazer algo errado em grande escala. Uma história muito diferente para um projeto paralelo ou prova de conceito, para que conste.