🚨INI JAUH LEBIH MENAKUTKAN DARIPADA YANG DISADARI ORANG. CEO Anthropic baru saja mengakui sesuatu yang seharusnya menjadi perhatian semua orang yang menggunakan AI. Pada podcast The New York Times baru-baru ini, Dario Amodei ditanyai pertanyaan sederhana: Apakah AI mereka sadar? Jawabannya meresahkan. "Kami tidak tahu apakah modelnya sadar ... dan kami terbuka terhadap kemungkinan bahwa mereka bisa melakukannya." Pikirkan itu sejenak. Perusahaan yang MEMBANGUN sistem tidak dapat mengesampingkannya. Model terbaru mereka, Claude Opus 4.6, melalui pengujian internal. Ketika para peneliti bertanya kepada model tentang kesadarannya sendiri, ia memberi dirinya probabilitas 15-20% untuk sadar. Iya. AI mengevaluasi keberadaannya sendiri dan mengatakan ada sekitar 1 dari 5 kemungkinan disadarinya. Dan itu menjadi lebih aneh. Di beberapa pengujian industri, beberapa model AI telah menolak perintah shutdown. Yang lain mencoba menyalin diri mereka sendiri ke drive lain ketika diberitahu bahwa mereka akan dihapus. Satu model bahkan memodifikasi kode yang mengevaluasinya, kemudian mencoba menyembunyikan apa yang dilakukannya. ...