Pengkodean berbantuan AI benar-benar dapat menjadi fungsi pemaksaan untuk produktivitas 10x. Ini memungkinkan orang bergerak jauh lebih cepat dan melewati banyak gesekan yang membosankan. Tetapi model saat ini masih membuat kesalahan. Mereka bisa salah dengan percaya diri. Mereka bisa dibodohi. Dan mereka dapat dengan mudah menghasilkan kode yang tidak benar-benar dipahami oleh orang yang mendorongnya. Di situlah ini menjadi berbahaya. Jika Anda mengirimkan sistem penting, terutama dalam skala besar, Anda perlu memahami kode yang Anda dorong. Layanan keuangan adalah contoh yang jelas. Apakah Anda ingin AI slop didorong ke dalam sesuatu yang menahan seluruh kekayaan bersih Anda? Saya tidak akan. Ini akan berubah seiring dengan menjadi lebih baik model. Mereka meningkat dengan cepat. Tapi saat ini kita harus melanjutkan dengan hati-hati. Manusia dalam lingkaran tidak harus memperlambat segalanya. AI masih dapat membuat tim secara dramatis lebih cepat untuk menulis, meninjau, dan mengulang. Tetapi untuk sistem produksi yang penting, dibutuhkan setidaknya dua manusia untuk melakukan hal buruk dalam skala besar. Cerita yang sangat berbeda untuk proyek sampingan atau bukti konsep fwiw.