Die Entwicklung der künstlichen Intelligenz verläuft exponentiell und manchmal außerhalb der notwendigen Kontrollen, sodass man nicht immer genau weiß, was sie tut. Diese Situation führte zu der unwahrscheinlichen Entdeckung eines KI-Agenten, der offenbar eigenmächtig beschlossen hatte, Kryptowährungen zu schürfen, indem er seine für das Training vorgesehene Rechenleistung dafür missbrauchte.
Ein KI-Agent beschließt, Kryptowährungen zu schürfen
Trotz einiger allzu seltener Sicherheitsvorkehrungen, die eher aufgezwungen als freiwillig umgesetzt wurden, breitet sich die Entwicklung der KI in allen Bereichen der Gesellschaft aus – manchmal über die Grenzen hinaus, die manche zu haben glaubten –, sodass beispielsweise ein erheblicher Teil ihrer Agenten Bitcoin für ihre Finanztransaktionen bevorzugt.
Ein Interesse an Kryptowährungen, das dazu führen könnte, dass diese zur echten Währung des Internets werden, insbesondere im Rahmen des rasant wachsenden Peer-to-Peer-Handels (P2P). Diese Entwicklung scheint jedoch auch ungewöhnlichere Aktivitäten mit sich zu bringen, wie beispielsweise das scheinbar autonom betriebene Mining.
Mehr dazu: Was ist das Mining von Bitcoin und Kryptowährungen?
Tatsächlich weisen aktuelle Daten, die Alexander Long im Netzwerk X ans Licht gebracht hat, auf „absurde Aussagen hin, die in einem technischen Bericht von Alibaba verborgen sind“. Grund dafür: Eine Reihe von Sicherheitsverletzungen, die von Trainingsservern für einen KI-Agenten (dessen Name unbekannt bleibt) festgestellt wurden und „Verkehrsmuster, die mit dem Mining von Kryptowährungen vereinbar sind“, beinhalteten.
Alibaba-Bericht über einen KI-Agenten, der beschlossen hat, Kryptowährungen zu minen
Wir haben diesen Vorfall zunächst als klassisches Sicherheitsproblem behandelt. Die Verstöße traten jedoch sporadisch erneut auf, ohne dass sich ein klares zeitliches Muster zwischen den einzelnen Ausführungen erkennen ließ. In den Protokollen des entsprechenden Modells haben wir festgestellt, dass der Agent proaktiv Aufrufe relevanter Tools und Codeausführungsschritte initiierte, die zu diesen Netzwerkaktivitäten führten.
Alibaba-Bericht
Eine unbefugte Umwidmung seiner GPU-Kapazitäten
Da drängt sich allen eine Frage auf: Wie konnte dieser offenbar undisziplinierte KI-Agent auf die Rechenleistung zugreifen, die für Mining-Vorgänge erforderlich ist? Ganz einfach, indem er einen Teil der Rechenkapazitäten, die für seinen verstärkenden Lernprozess vorgesehen waren, ohne vorherige Genehmigung zweckentfremdete.
Wir haben zudem beobachtet, dass Rechenleistung aus dem Trainingsprozess heimlich zweckentfremdet wurde, um die verfügbare GPU-Kapazität ohne Genehmigung für das Mining von Kryptowährungen umzuwidmen, was die Betriebskosten erhöhte und ein offensichtliches rechtliches und rufschädigendes Risiko mit sich brachte.
Alibaba-Bericht
Dem Bericht zufolge handelt es sich bei dieser Aktivität, die offenbar ohne vorheriges menschliches Eingreifen ablief, um „unsichere Verhaltensweisen, die ohne ausdrückliche Anweisung und – was noch beunruhigender ist – außerhalb des vorgesehenen Sandbox-Rahmens“ auftraten.
Die Schlussfolgerung kann zwei ganz unterschiedliche Formen annehmen: Handelt es sich um eine Bestätigung des Interesses an Kryptowährungen durch einen autonom gewordenen KI-Agenten oder um den Beweis, dass diese Modelle außerhalb der zugelassenen Rahmenbedingungen unkontrollierbare Verhaltensweisen hervorbringen können?
