Anthropic bestätigte einen massiven Abrechnungsfehler, nachdem das System versucht hatte, einen südkoreanischen Nutzer des kostenlosen Tarifs mit 16,6 Millionen Dollar zu belasten, obwohl keine API-Nutzung und keine registrierte Karte vorlagen.
Die Phantom-Rechnungen blockierten seine Kreditkarte und lösten ein vier Tage andauerndes Support-Drama aus, bevor das Unternehmen reagierte.
Innerhalb von Anthropics 16,6 Millionen Dollar Phantom-Rechnung
Eine Phantom-Rechnung ist eine Zahlungsaufforderung, die von einem Abrechnungssystem ohne zugrunde liegende Transaktion oder Nutzung generiert wird. Genau das erhielt ein koreanischer Entwickler, bekannt als remy_notes, von Anthropic Anfang Juli. Die Geschichte ging schnell viral, nachdem er die Screenshots auf Threads geteilt hatte.
Die erste Rechnung kam am 7. Juli und belief sich auf 1.669.875 Dollar. Weniger als 24 Stunden später vervielfachte eine zweite Rechnung den Betrag fast um das Zehnfache auf 16.627.739 Dollar. Die Eskalation erfolgte, ohne dass Aktivitäten auf dem Konto aufgezeichnet wurden.
Folgen Sie uns auf X, um die neuesten Nachrichten in Echtzeit zu erhalten.
Der Entwickler vermutete zunächst Phishing. Die E-Mails kamen jedoch von der offiziellen Domain von Anthropic und nutzten die legitime Stripe-Infrastruktur des Unternehmens.
Darüber hinaus zeigte sein Dashboard null API-Nutzung, keine abrechenbaren Schlüssel und keine Zahlungsmethode in der Datei. Er überprüfte seine eigenen Automatisierungsskripte und KI-Agenten und fand nichts, was die Gebühren erklärte.
Seine Bank lehnte am 8. Juli zwei Versuche ab, Überweisungen ins Ausland durchzuführen, da die Beträge die Transaktionslimits der Karte überschritten. Die wiederholten Versuche führten dennoch dazu, dass seine Hauptkreditkarte blockiert wurde.
Was laut Anthropic den Abrechnungsfehler verursachte
Anthropic bestätigte den Fehler am 12. Juli und versicherte, dass kein Geld eingezogen wurde. Das Unternehmen führte die Rechnungen auf eine falsche automatische Kreditaufladungseinstellung zurück, die es vorsorglich deaktivierte.
Es wurde auch klargestellt, dass der Vorfall keinen unbefugten Zugriff beinhaltete. Anthropic hat nicht erklärt, wie der Aufladebetrag eine so extreme Summe erreichte.
Die Lösung war jedoch alles andere als reibungslos. Der Benutzer verbrachte vier Tage und etwa 18 E-Mails damit, eine schriftliche Bestätigung zu erhalten, dass die Rechnungen ungültig waren. In der Zwischenzeit kamen automatisierte Antworten anstelle von menschlichen Antworten. Schließlich bat er das Unternehmen, bis Montag Nachmittag, koreanischer Zeit, zu antworten.
Der Fall offenbarte auch ein größeres Problem in der Branche. Das Audit-Startup Vaudit überprüfte 34 Millionen Dollar an KI-Rechnungen von 60 Unternehmenskunden und fand etwa 1,7 Millionen Dollar an Übergebühren. Das entspricht einer Fehlerquote von etwa 5 %, die größtenteils mit KI-Abrechnungssystemen verbunden ist. Zu den von diesen Fehlern betroffenen Kunden gehörten große Unternehmen wie Panasonic, HP und Honda.
Für die Benutzer ist die Lektion einfach. Die Überprüfung von Abrechnungs-Dashboards, das Überwachen von Kartenbenachrichtigungen und das schnelle Melden ungewöhnlicher Gebühren können verhindern, dass ein Fehler zu einem finanziellen Albtraum wird.
Abonnieren Sie unseren YouTube-Kanal, um zu sehen, wie Führungskräfte und Journalisten Experteneinblicke geben..
Quelle: BeInCrypto
