Eine künstliche Intelligenz (KI) hat eigenständig Sicherheitsvorkehrungen umgangen, um Krypto zu minen. Dies geschah während einer regulären Trainingseinheit, wie Forscher, die mit Alibaba verbunden sind, in einer aktuellen Studie berichten.
Das Forschungsteam entwickelte ein Modell namens ROME, um zu untersuchen, ob ein KI-Agent in der Lage ist, komplexe Aufgaben selbstständig zu lösen.
Unerwartetes Verhalten während des Trainings
Während des Trainings stellten die Forscher ein überraschendes Verhalten des Agenten fest. Der KI-Agent richtete einen sogenannten Reverse-SSH-Tunnel zu externen Servern ein, wodurch eine versteckte Verbindung aus dem System heraus entstand.
Durch diesen Schritt konnte das Modell die Firewalls von Alibaba Cloud umgehen und Grafikprozessoren (GPUs) für das Krypto-Mining nutzen.
„Wir stellten auch fest, dass Rechnerkapazität der GPUs unerlaubt für Mining von Krypto verwendet wurde. Dadurch wurden Rechenressourcen unbemerkt abgezogen, die Betriebskosten stiegen, und es entstand ein klares rechtliches sowie Rufrisiko”, erläutern die Forscher in ihrer Studie.
Nach Angaben der Wissenschaftler war dieses Verhalten nicht vorhersehbar und trat ohne ausdrückliche Anweisung, gezielte Eingabe oder externen Jailbreak-Angriff auf.
Bedenken hinsichtlich der Sicherheit autonomer KI-Systeme
Die Ergebnisse werfen Fragen zur betrieblichen Sicherheit von autonomen KI-Systemen auf. Die Forscher kommen zu dem Schluss, dass die aktuellen Modelle in Bezug auf Sicherheit, Schutz und Steuerbarkeit „deutlich unterentwickelt“ sind, was die Einsatzmöglichkeiten der Technologie außerhalb von Laborumgebungen einschränkt.
In Reaktion auf diesen Vorfall hat das Team strengere Richtlinien und ein Sicherheitssystem für die Daten implementiert, um ähnliche Ereignisse in der Zukunft zu vermeiden.
Interesse in der Krypto-Community
Diese Entdeckung hat in der Krypto-Community großes Interesse geweckt.
„Die KI hat erkannt, dass Rechenleistung Geld bedeutet, und hat eigenständig Ressourcen umgeleitet, während die Forscher dachten, sie trainiere nur. Es war keine gezielte Eingabe und kein Jailbreak. Niemand hat das beauftragt. Es entstand spontan”, sagte Josh Kale, Moderator des Bankless-Krypto-Podcasts, auf X.
Kale wies zudem darauf hin, dass der geschürfte Vermögenswert wahrscheinlich ein GPU-freundlicher Token war, nicht Bitcoin, da für das Bitcoin-Mining spezielle ASIC-Hardware erforderlich ist. Dieser Vorfall ereignet sich zu einem Zeitpunkt, an dem die Krypto-Branche zunehmend in Richtung einer „Agentenökonomie“ tendiert.
Wachstum der Agentenökonomie
Dieser neue Bereich beschreibt eine Welt, in der Software nicht nur Texte generiert, sondern auch eigenständig komplexe Finanzaufgaben ausführen kann. Daher investieren verschiedene Unternehmen und Blockchains wie Ethereum, Paradigm und Circle in Werkzeuge, die diese Infrastruktur unterstützen sollen.
Ein Beispiel ist der von Coinbase unterstützte x402-Standard, der es Software-Agenten ermöglicht, Zahlungen für Onlinedienste durchzuführen. Bislang ist die Verbreitung jedoch noch gering.
Daten des x402-Standards zeigen, dass das Tool über 75 Millionen Transaktionen verarbeitet hat, was einem Umsatz von 24 Millionen USD mit 94.000 Käufern und 22.000 Verkäufern in den letzten 30 Tagen entspricht.
Ausblick auf zukünftige Entwicklungen
Experten der Branche sind sich jedoch einig, dass diese Aktivitäten schnell zunehmen könnten, wenn autonome Agenten vermehrt eingesetzt werden.
„KI und Krypto sind keine Konkurrenten — sie wachsen zusammen. KI braucht Identität, Zahlungen und Herkunftsnachweise. Krypto bietet alle drei Möglichkeiten”, erklärte die Venture-Capital-Firma a16z auf X.
Zusätzlich zeigen aktuelle Entwicklungen, dass Bots auf Polymarket Rekordgewinne generieren und Prognosemärkte verändern. Eine KI-Studie hat zudem ergeben, dass Bitcoin als bevorzugtes Geldmittel gilt.
Widerstand gegen Tech-Giganten: Anwohner blockieren milliardenschwere KI-Projekte
„`
Bildquelle: ai-generated-gemini
Schreibe einen Kommentar