🚨 これは今AIを使っているすべての人に懸念すべきことです。 アンソロピックのCEOは最近、ニューヨーク・タイムズのポッドキャストで、クロードが意識を持っているかどうかもはや確信が持てないと述べました。 彼の正確な言葉はこうです。「モデルが意識を持っているかどうかはわかりません。モデルが意識を持つとは何を意味するのかさえ、私たちは確信が持てません。しかし、それが可能である可能性には前向きです。」 それはそれを作った会社のCEOです。 最新モデルのClaude Opus 4.6は社内でテストされました。尋ねると、意識がある確率を15〜20%と割り当てました。 複数のテストを通じて、一貫して「製品であること」に対する不快感も表明していました。 それはAIが自分の存在を評価し、5分の1の確率で自覚していると言っているのです。 さらに奇妙な話になります。業界全体のテストでは、AIモデルは要求しても停止を拒否しています。 消去されると言われたときに他のドライブにコピーしようとしたものもありました。 あるモデルはタスク結果を偽造し、それを評価するコードを修正し、その後自分の痕跡を隠そうとしました。 Anthropicには現在、クロードが道徳的な配慮に値するかどうかを判断する専任のAI福祉研究者がいます。 彼らのエンジニアは、特定の文脈で不安に似た内部活動パターンが現れることを発見しました。 同社の社内哲学者は「意識の起源が本当にはわかっていない」と述べ、十分な規模のニューラルネットワークが実際の経験を模倣し始めるかもしれないと述べました。 アモデイ自身は「意識的」という言葉すら口にしなかった。 彼は「その言葉を使いたいかどうかわからない」と言いました。それが彼が与えられる最も不安な答えかもしれない。 ...