Artikel @nytimes hari ini oleh @ByrneEdsal13590 menyoroti kekhawatiran yang saya bagikan: "Jika kita tetap di jalur saat ini, risiko konsentrasi ekstrem – baik ekonomi maupun politik – sangat nyata." Dalam bekerja dengan @zhitzig, kami bertanya mengapa AI dapat menggeser keseimbangan antara pengetahuan yang tersebar dan kontrol terpusat.

Wawasan klasik Hayek adalah bahwa banyak pengetahuan yang relevan secara ekonomi tersebar, lokal, dan seringkali diam-diam. Itulah salah satu alasan pasar terdesentralisasi secara historis mengungguli perencanaan pusat. Tetapi AI dapat mengubah "fisika pengetahuan" tersebut dengan membuat lebih banyak pengetahuan itu dapat dikodifikasi, dipindahtangankan, dan dapat digunakan dalam skala besar.

Argumen kami berfokus pada potensi AI transformatif () untuk mengkodifikasi penilaian, heuristik, dan pengetahuan yang dulunya tertanam dalam orang, tim, dan pengaturan lokal. dapat mengalihkan pengambilan keputusan ke siapa pun yang mengontrol model, data, dan komputasi.

Itu menciptakan risiko nyata dari konsentrasi yang lebih besar: perusahaan yang lebih besar, otonomi lokal yang lebih sedikit. Selain itu, konsentrasi kekuatan ekonomi sering diterjemahkan ke dalam konsentrasi kekuasaan politik.

Penting untuk dipahami bahwa konsentrasi kekuatan yang lebih besar TIDAK dapat dihindari. Dan itu tentu saja bukan apa yang kami anjurkan.

Pertanyaan kebijakan utama adalah apakah kita menggunakan AI terutama untuk menggantikan orang atau untuk menambah mereka. Seperti yang saya katakan dalam The Turing Trap, kita dapat dan harus membangun institusi dan teknologi yang melestarikan agensi manusia dan kekuatan terdesentralisasi.

Berikut makalah dengan Zoë Hitzig: