Сьогоднішній @nytimes матеріал від @ByrneEdsal13590 висвітлює моє занепокоєння: «Якщо ми залишимося на нинішньому шляху, ризик крайньої концентрації — як економічної, так і політичної — буде дуже реальним.» Працюючи з @zhitzig, ми запитуємо, чому ШІ може змінити баланс між розкиданими знаннями та централізованим контролем.

Класичне розуміння Гаєка полягало в тому, що значна частина економічно значущих знань є розпорошеною, локальною і часто неявною. Ось чому децентралізовані ринки історично перевершували централізоване планування. Але ШІ може змінити цю «фізику знань», зробивши більшу частину цих знань кодіфікованими, переносними та придатними для використання у великому масштабі.

Наш аргумент зосереджений на потенціалі трансформаційного ШІ (TAI) для кодифікації суджень, евристик і знань, які раніше залишалися закладеними в людях, командах і локальних середовищах. TAI може передати прийняття рішень на тих, хто контролює моделі, дані та обчислення.

Це створює реальний ризик більшої концентрації: більші компанії, менше місцевої автономії. Крім того, концентрація економічної влади часто перетворюється на концентрацію політичної влади.

Важливо розуміти, що більша концентрація влади НЕ є неминучою. І це точно не те, що ми пропагуємо за це.

Ключове політичне питання — чи використовуємо ми ШІ переважно для заміни людей, чи для їх доповнення. Як я стверджував у «Пастці Тюрінга», ми можемо і повинні будувати інституції та технології, які зберігають людську агентність і децентралізовану владу.

Ось стаття з Зої Гітціг: