L'article du @nytimes aujourd'hui par @ByrneEdsal13590 met en lumière une préoccupation que je partage : "Si nous restons sur la voie actuelle, le risque d'une concentration extrême — tant économique que politique — est très réel." Dans le cadre de notre travail avec @zhitzig, nous nous demandons pourquoi l'IA pourrait modifier l'équilibre entre la connaissance dispersée et le contrôle centralisé.

L'idée classique de Hayek était que de nombreuses connaissances économiquement pertinentes sont dispersées, locales et souvent tacites. C'est une des raisons pour lesquelles les marchés décentralisés ont historiquement surpassé la planification centrale. Mais l'IA peut changer ces "physiques de la connaissance" en rendant une plus grande partie de cette connaissance codifiable, transférable et utilisable à grande échelle.

Notre argument se concentre sur le potentiel de l'IA transformative (TAI) pour codifier le jugement, les heuristiques et le savoir-faire qui étaient autrefois ancrés dans les personnes, les équipes et les contextes locaux. La TAI peut déplacer la prise de décision vers ceux qui contrôlent les modèles, les données et le calcul.

Cela crée un véritable risque de plus grande concentration : des entreprises plus grandes, moins d'autonomie locale. De plus, la concentration du pouvoir économique se traduit souvent par une concentration du pouvoir politique.

Il est important de comprendre qu'une plus grande concentration de pouvoir n'est PAS inévitable. Et ce n'est certainement pas ce que nous défendons.

Une question politique clé est de savoir si nous utilisons l'IA principalement pour remplacer les gens ou pour les augmenter. Comme je l'ai soutenu dans The Turing Trap, nous pouvons et devons construire des institutions et des technologies qui préservent l'agence humaine et le pouvoir décentralisé.

Voici le document avec Zoë Hitzig :