本日の@nytimes@ByrneEdsal13590の記事は、私が共有している懸念を浮き彫りにしています。 「もし現状のまま進み続けるなら、経済的にも政治的にも極端な集中のリスクは非常に現実的です。」 @zhitzigとの仕事では、AIが分散した知識と中央集権的な管理のバランスを変える理由を問いかけます。

ハイエクの古典的な洞察は、多くの経済的に重要な知識が分散し、局所的で、しばしば暗黙のうちに存在するというものでした。 これが分散型市場が歴史的に中央計画を上回ってきた理由の一つです。 しかしAIは、より多くの知識を体系化し、移転可能で、大規模に使えるようにすることで、これらの「知識物理学」を変えることができます。

私たちの議論は、変革的AI(TAI)が、かつて人々やチーム、地域の環境に根付いていた判断、ヒューリスティック、ノウハウを体系化する可能性に焦点を当てています。 TAIは意思決定をモデル、データ、計算を管理する側にシフトできます。

それはより大きな集中のリスクを生み出します。つまり、より大きな企業が入り、地域の自治が減少するということです。 さらに、経済的権力の集中はしばしば政治権力の集中につながります。

権力の集中が必ずしも避けられないことではないことを理解することが重要です。 そして、それは決して私たちが主張していることではありません。

重要な政策課題は、AIを主に人間の代替として使うのか、それともそれを補強するために使うのかということです。 私が『チューリング・トラップ』で論じたように、私たちは人間の主体性と分散化された権力を維持する制度や技術を築くことができ、また築くべきです。

こちらがゾーイ・ヒッツィグとの論文です: