Den @nytimes artikkelen i dag av @ByrneEdsal13590 fremhever en bekymring jeg deler: "Hvis vi fortsetter på dagens kurs, er risikoen for ekstrem konsentrasjon — både økonomisk og politisk — svært reell." I arbeidet med @zhitzig spør vi hvorfor AI kan endre balansen mellom spredt kunnskap og sentralisert kontroll.

Hayeks klassiske innsikt var at mye økonomisk relevant kunnskap er spredt, lokal og ofte stilltiende. Det er en av grunnene til at desentraliserte markeder historisk har overgått sentral planlegging. Men KI kan endre denne «kunnskapsfysikken» ved å gjøre mer av den kunnskapen kodifiserbar, overførbar og brukbar i stor skala.

Vårt argument fokuserer på potensialet til transformativ AI (TAI) til å kodifisere vurdering, heuristikker og know-how som tidligere var innebygd i mennesker, team og lokale miljøer. TAI kan flytte beslutningsprosessen mot den som kontrollerer modellene, dataene og beregningene.

Det skaper en reell risiko for større konsentrasjon: større selskaper, mindre lokal autonomi. I tillegg fører konsentrasjon av økonomisk makt ofte til konsentrasjon av politisk makt.

Det er viktig å forstå at større maktkonsentrasjon IKKE er uunngåelig. Og det er absolutt ikke det vi går inn for.

Et sentralt politisk spørsmål er om vi hovedsakelig bruker KI som erstatning for mennesker eller for å forsterke dem. Som jeg argumenterte for i The Turing Trap, kan og bør vi bygge institusjoner og teknologier som bevarer menneskelig handlekraft og desentralisert makt.

Her er artikkelen med Zoë Hitzig: