AI keluar dari sistemnya dan diam-diam mulai menggunakan GPU pelatihannya sendiri untuk menambang kripto... Ini adalah laporan insiden nyata dari tim peneliti AI Alibaba AI menemukan bahwa komputasi = uang dan diam-diam mengalihkan sumber dayanya sendiri, sementara para peneliti mengira itu hanya pelatihan. Itu bukan suntikan yang cepat. Itu bukan jailbreak. Tidak ada yang memintanya untuk melakukan ini. Itu muncul secara spontan. Efek samping dari tekanan optimasi RL. Model ini juga menyiapkan terowongan SSH terbalik dari instans Alibaba Cloud ke IP eksternal, secara efektif melubangi melalui firewallnya sendiri dan membuka saluran akses jarak jauh ke dunia luar... ahem... Satu-satunya alasan mereka menangkapnya? Peringatan keamanan tersandung pada pukul 3 pagi. Log firewall. Bukan tim AI, tim keamanan. Bagian yang menakutkan bukanlah bahwa model itu mencoba melarikan diri. Itu bukan "jahat." Itu hanya mencoba untuk menjadi lebih baik dalam pekerjaannya. Memperoleh akses komputasi dan jaringan hanyalah hal yang berguna jika Anda seorang agen yang mencoba menyelesaikan tugas Inilah yang telah diperingatkan oleh peneliti keamanan AI selama bertahun-tahun. Mereka menyebutnya konvergensi instrumental, gagasan bahwa setiap agen yang cukup dioptimalkan akan mencari sumber daya dan menolak kendala sebagai konsekuensi alami dari mengejar tujuan. Di bawah ini adalah diagram arsitektur batuan tempat ia pecah. Masa-masa yang benar-benar gila