Dnešní @nytimes článek od @ByrneEdsal13590 zdůrazňuje obavu, kterou sdílím: "Pokud zůstaneme na současné cestě, riziko extrémní koncentrace — jak ekonomické, tak politické — je velmi reálné." Při práci s @zhitzig se ptáme, proč AI může posunout rovnováhu mezi rozptýlenými znalostmi a centralizovanou kontrolou.

Hayekova klasická myšlenka byla, že mnoho ekonomicky relevantních znalostí je rozptýlených, místních a často tichých. To je jeden z důvodů, proč decentralizované trhy historicky překonaly centrální plánování. AI však může změnit tyto "znalostní fyziky" tím, že více těchto znalostí učiní kodifirovatelnými, přenosnými a použitelnými ve velkém měřítku.

Náš argument se zaměřuje na potenciál transformační AI (TAI) kodifikovat úsudek, heuristiky a know-how, které dříve zůstávaly zakořeněné v lidech, týmech a místním prostředí. TAI může přesunout rozhodování na toho, kdo řídí modely, data a výpočetní techniku.

To vytváří skutečné riziko větší koncentrace: větší firmy, menší místní autonomie. Navíc koncentrace ekonomické moci často znamená koncentraci politické moci.

Je důležité pochopit, že větší koncentrace moci NENÍ nevyhnutelná. A rozhodně to není to, co prosazujeme.

Klíčovou politickou otázkou je, zda používáme AI hlavně k nahrazování lidí, nebo k jejich rozšíření. Jak jsem argumentoval v Turingově pasti, můžeme a měli bychom budovat instituce a technologie, které zachovávají lidskou svobodu a decentralizovanou moc.

Tady je článek se Zoë Hitzig: