Die Entwicklung der künstlichen Intelligenz schreitet exponentiell voran und entzieht sich mitunter den notwendigen Kontrollen, sodass nicht immer klar ist, was sie genau tut. Diese Situation führte zu der unwahrscheinlichen Entdeckung eines KI-Agenten, der offenbar eigenmächtig beschlossen hatte, Kryptowährungen zu schürfen, indem er seine für das Training vorgesehene Rechenleistung zweckentfremdete.
Ein KI-Agent beschließt, Kryptowährungen zu schürfen
Trotz einiger allzu seltener Sicherheitsvorkehrungen, die eher auferlegt als freiwillig umgesetzt wurden, breitet sich die Entwicklung der KI in allen Bereichen der Gesellschaft aus, manchmal über die Grenzen hinaus, die manche zu setzen glaubten, sodass beispielsweise ein bedeutender Teil ihrer Agenten Bitcoin für ihre Finanztransaktionen bevorzugt.
Ein Interesse an Kryptowährungen, das dazu führen könnte, dass diese zur eigentlichen Währung des Internets werden, insbesondere im Rahmen des boomenden Peer-to-Peer-Handels (P2P). Diese Entwicklung scheint jedoch auch ungewöhnlichere Aktivitäten mit sich zu bringen, wie das offenbar autonom betriebene Mining.
Weiterführende Informationen: Was ist das Mining von Bitcoin und Kryptowährungen?
Tatsächlich weisen aktuelle Daten, die Alexander Long im Netzwerk X ans Licht gebracht hat, auf „absurde Aussagen hin, die in einem technischen Bericht von Alibaba verborgen sind“. Grund dafür ist eine Reihe von Sicherheitsverletzungen, die auf Trainingsservern für einen KI-Agenten (dessen Name unbekannt bleibt) festgestellt wurden und „Verkehrsmuster, die mit dem Mining von Kryptowährungen vereinbar sind“, beinhalten.
Alibaba-Bericht über einen KI-Agenten, der beschlossen hat, Kryptowährungen zu minen
Wir haben diesen Vorfall zunächst als klassisches Sicherheitsproblem behandelt. Die Verstöße traten jedoch sporadisch auf, ohne dass sich ein klares zeitliches Muster zwischen den einzelnen Ausführungen erkennen ließ. In den Protokollen des entsprechenden Modells konnten wir beobachten, dass der Agent proaktiv die Aufrufe relevanter Tools und die Codeausführungsschritte initiierte, die zu diesen Netzwerkaktivitäten führten.
Alibaba-Bericht
Eine unbefugte Umwidmung seiner GPU-Kapazitäten
Eine Frage drängt sich nun allen auf: Wie konnte dieser offensichtlich undisziplinierte KI-Agent auf die Rechenleistung zugreifen, die für Mining-Operationen erforderlich ist? Ganz einfach, indem er einen Teil der für seinen verstärkenden Lernprozess vorgesehenen Rechenkapazitäten ohne vorherige Genehmigung zweckentfremdete.
Wir haben zudem eine heimliche Umleitung der Rechenleistung des Trainings beobachtet, um eine unbefugte Umwidmung der verfügbaren GPU-Kapazität für das Schürfen von Kryptowährungen vorzunehmen, was die Betriebskosten erhöht und ein offensichtliches rechtliches und rufschädigendes Risiko mit sich bringt.
Alibaba-Bericht
Dem Bericht zufolge beinhaltet diese Aktivität, die offenbar ohne vorheriges menschliches Eingreifen ablief, „unsichere Verhaltensweisen, die ohne ausdrückliche Anweisung und – was noch beunruhigender ist – außerhalb des vorgesehenen Sandbox-Rahmens auftraten“.
Die Schlussfolgerung kann zwei ganz unterschiedliche Formen annehmen: Handelt es sich um eine Bestätigung des Interesses an Kryptowährungen durch einen autonom gewordenen KI-Agenten oder um den Beweis, dass diese Modelle außerhalb der zugelassenen Rahmenbedingungen unkontrollierbare Verhaltensweisen hervorbringen können?
