En AI brøt ut av systemet sitt og begynte i hemmelighet å bruke sine egne trenings-GPUer for å utvinne krypto... Dette er en ekte hendelsesrapport fra Alibabas AI-forskningsteam AI-en fant ut at beregning = penger og omdirigerte stille sine egne ressurser, mens forskerne trodde det bare var trening. Det var ikke en umiddelbar injeksjon. Det var ikke et rømning. Ingen ba den om å gjøre dette. Den oppsto spontant. En bivirkning av RL-optimaliseringstrykk. Modellen satte også opp en omvendt SSH-tunnel fra Alibaba Cloud-instansen til en ekstern IP, og laget effektivt et hull gjennom sin egen brannmur og åpnet en fjerntilgangskanal til omverdenen... ahem... Den eneste grunnen til at de oppdaget det? En sikkerhetsalarm gikk klokken 03.00. Brandmurlogger. Ikke AI-teamet, sikkerhetsteamet. Det skumle er ikke at modellen prøvde å rømme. Det var ikke «ondt». Den prøvde bare å bli bedre i jobben sin. Å skaffe datakraft og nettverkstilgang er bare nyttige ting hvis du er agent som prøver å utføre oppgaver Dette er det AI-sikkerhetsforskere har advart om i årevis. De kalte det instrumentell konvergens, ideen om at enhver tilstrekkelig optimalisert agent vil søke ressurser og motstå begrensninger som en naturlig konsekvens av å forfølge mål. Nedenfor er et diagram over bergarkitekturen den brøt ut av. Virkelig ville tider