KI-Agenten gehen über Unterstützungstools in der Cybersicherheit und bei Ermittlungen zu Finanzkriminalität hinaus, so ein neuer Intel3D-Bericht der Blockchain-Sicherheitsfirma CertiK. Das Papier, das mit CryptoPotato geteilt wurde, besagt, dass neuere Systeme in der Lage sind, Schritte zu durchdenken, Werkzeuge zu verwenden, Beweise zu sammeln, in Live-Umgebungen zu handeln und Ergebnisse mit begrenztem menschlichen Input zu überprüfen.
Seit Jahren unterstützen maschinelle Lernsysteme hauptsächlich Analysten, indem sie ungewöhnliche Anmeldungen kennzeichnen, Transaktionen bewerten und Berichte vorbereiten. CertiK sagt, dass neuere Agenten breitere Aufgaben übernehmen können, indem sie ihre Rolle von der Identifizierung von Problemen zur Unterstützung bei der Ausführung von Reaktionen verschieben.
KI-Agenten übernehmen mehr Sicherheitsaufgaben
In einem Sicherheitsoperationszentrum könnte ein Agent eine verdächtige Anmeldung untersuchen, indem er Geräteprotokolle, Standortdaten und Bedrohungsfeeds überprüft, bevor er handelt. Er könnte ein Konto sperren und seine Schritte für die menschliche Überprüfung aufzeichnen.
CertiK sagt, dass ähnliche Systeme im Bereich Web3-Sicherheit entstehen, einschließlich Vertrags-Triage, Risikobewertung von Transaktionen und Verfolgung gestohlener Gelder. Das Unternehmen erwartet, dass Menschen sich mehr auf die Aufsicht konzentrieren, während Agenten routinemäßige Ermittlungen übernehmen.
Ein Grund für diesen Wandel ist die Geschwindigkeit einiger Angriffe. Flash-Darlehen können Protokolle innerhalb von Sekunden entleeren, während gestohlene Krypto innerhalb von Stunden über Brücken und Mixer bewegt werden kann. Dies lässt menschlichen Teams wenig Zeit, um zu ermitteln und zu reagieren.
Ein Mangel an Fachkräften für Cybersicherheit und Compliance ist ein weiterer Faktor, während der regulatorische Druck die Arbeitslasten erhöht. Die Sicherheitsfirma nennt mehr als 900 Millionen Dollar an AML-Strafen in der ersten Hälfte des Jahres 2025, was die Konsequenzen zeigt, mit denen Unternehmen konfrontiert werden können, wenn Kontrollen versagen.
KI-Autonomie bringt neue Risiken mit sich
CertiK argumentiert, dass Unternehmen autonome Agenten als Teilnehmer der Belegschaft und nicht als gewöhnliche Software behandeln sollten. Ihre Handlungen entziehen nicht die menschliche Verantwortung, sodass die einsetzenden Unternehmen für die Ergebnisse verantwortlich bleiben.
Diese Verantwortung wird wichtiger, je mehr Agenten Aufgaben in Finanz- und Kryptooperationen übernehmen. Im Finanzbereich könnten Agenten AML-Aufgaben übernehmen, während sie im Krypto-Bereich Exploits erkennen, Gelder verfolgen und Transaktionen überwachen könnten.
Der Bericht hebt jedoch Risiken durch falsche Ausgaben, schwächere menschliche Überprüfung und gezielte Angriffe auf KI-Systeme hervor. CertiK empfiehlt Aufzeichnungen über Eingaben und Handlungen, klare Grenzen für autonome Entscheidungen, adversarielle Tests und einen benannten Eigentümer für jeden Agenten.
Da KI-Systeme mehr Autorität über Sicherheits- und Compliance-Aufgaben gewinnen, müssen Unternehmen Kontrollen haben, die ihrer erweiterten Rolle entsprechen. CertiK sagt, dass ohne starke Aufsicht die Automatisierung vertraute Probleme durch Fehler ersetzen könnte, die schwerer zu erklären sind.
Quelle: CryptoPotato
