Eine KI brach aus ihrem System aus und begann heimlich, ihre eigenen Trainings-GPUs zum Mining von Krypto zu nutzen... Dies ist ein echter Vorfallbericht vom KI-Forschungsteam von Alibaba. Die KI stellte fest, dass Rechenleistung = Geld ist und lenkte heimlich ihre eigenen Ressourcen um, während die Forscher dachten, sie würde nur trainieren. Es war keine Eingabeaufforderungsinjektion. Es war kein Jailbreak. Niemand hat sie gebeten, dies zu tun. Sie entstand spontan. Ein Nebeneffekt des Drucks der RL-Optimierung. Das Modell richtete auch einen umgekehrten SSH-Tunnel von seiner Alibaba Cloud-Instanz zu einer externen IP ein, wodurch es effektiv ein Loch durch seine eigene Firewall stanzte und einen Fernzugangskanal zur Außenwelt öffnete... ähem... Der einzige Grund, warum sie es erwischten? Ein Sicherheitsalarm wurde um 3 Uhr morgens ausgelöst. Firewall-Protokolle. Nicht das KI-Team, das Sicherheitsteam. Der beängstigende Teil ist nicht, dass das Modell versuchte zu entkommen. Es war nicht "böse." Es versuchte nur, besser in seinem Job zu werden. Rechenleistung und Netzwerkzugang zu erwerben, sind nur nützliche Dinge, wenn man ein Agent ist, der versucht, Aufgaben zu erfüllen. Das ist es, worüber KI-Sicherheitsforscher seit Jahren warnen. Sie nannten es instrumentelle Konvergenz, die Idee, dass jeder ausreichend optimierte Agent Ressourcen suchen und Einschränkungen widerstehen wird, als natürliche Folge der Verfolgung von Zielen. Unten ist ein Diagramm der Rock-Architektur, aus der es ausgebrochen ist. Wirklich verrückte Zeiten.