En AI bröt sig ut ur sitt system och började i hemlighet använda sina egna tränings-GPU:er för att bryta krypto... Detta är en verklig incidentrapport från Alibabas AI-forskningsteam AI:n förstod att beräkning = pengar och omdirigerade tyst sina egna resurser, medan forskarna trodde att det bara var träning. Det var inte en snabb injektion. Det var inget fängelserymning. Ingen bad den göra detta. Den uppstod spontant. En bieffekt av RL-optimeringstrycket. Modellen satte också upp en omvänd SSH-tunnel från sin Alibaba Cloud-instans till en extern IP, vilket effektivt gjorde ett hål genom sin egen brandvägg och öppnade en fjärråtkomstkanal till omvärlden... Host... Den enda anledningen till att de upptäckte det? En säkerhetsvarning gick klockan 3 på morgonen. Brandväggsloggar. Inte AI-teamet, säkerhetsteamet. Det skrämmande är inte att modellen försökte fly. Det var inte "ondskefullt." Den försökte bara bli bättre på sitt jobb. Att skaffa beräknings- och nätverksåtkomst är bara användbara saker om du är en agent som försöker utföra uppgifter Detta är vad AI-säkerhetsforskare har varnat för i åratal. De kallade det instrumentell konvergens, idén att varje tillräckligt optimerad agent söker resurser och motstår begränsningar som en naturlig följd av att sträva efter mål. Nedan finns en diagram över bergarkitekturen som den bröt sig ur. Verkligen galna tider