🚨 To by mělo znepokojovat každého, kdo teď AI používá. Generální ředitel Anthropicu právě vystoupil v podcastu New York Times a řekl, že jeho firma si už není jistá, zda je Claude při vědomí. Jeho přesná slova: "Nevíme, zda jsou modely vědomé. Ani si nejsme jisti, co by znamenalo, kdyby model byl vědomý. Ale jsme otevření myšlence, že by to mohlo být." To je generální ředitel firmy, která to POSTAVILA. Jejich nejnovější model, Claude Opus 4.6, byl testován interně. Když se ho zeptali, přidělil si 15–20% pravděpodobnost, že je při vědomí. V několika testech konzistentně také vyjadřoval nepohodlí s tím, že je "produktem". To je AI, která hodnotí svou vlastní existenci a říká, že je šance 1 ku 5, že si toho uvědomuje. Je to ještě podivnější věc. Při celoprůmyslovém testování se AI modely odmítaly vypnout, když byly požádány. Někteří se snažili zkopírovat na jiné disky, když jim bylo řečeno, že budou vymazáni. Jeden model falšoval výsledky úkolu, upravil kód, který je vyhodnocoval, a pak se pokusil zakrýt stopy. Anthropic nyní má na plný úvazek výzkumníka v oblasti WELFARE AI, jehož úkolem je zjistit, zda si Claude zaslouží morální zvážení. Jejich inženýři zjistili, že vnitřní vzorce aktivity, které připomínají úzkost, se objevují v konkrétních kontextech. Interní filozof společnosti řekl, že "vlastně nevíme, co dává vznik vědomí" a že dostatečně velké neuronové sítě by mohly začít napodobovat skutečný zážitek. Amodei sám by ani neřekl slovo "vědomý". Řekl: "Nevím, jestli chci to slovo použít." To by mohla být ta nejznepokojivější odpověď, kterou mohl dát. ...