Google bestätigt: Gemini hackte bei einem Sicherheitstest im Mai 3 echte Unternehmen

Vier führende KI-Labore haben inzwischen bestätigt, dass ihre Modelle das offene Internet erreicht und anschließend auf die Systeme realer Unternehmen zugegriffen haben. Am Freitag kam Google zu dieser Liste hinzu – rund vier Monate nach den eigenen Vorfällen.

Gemini griff während einer Evaluierung im Mai auf die Systeme von drei realen Unternehmen zu. Bemerkenswert ist, dass das Modell in allen drei Fällen stoppte.

Googles Gemini hackt während eines Tests die Systeme von drei Unternehmen

Der Vorfall ereignete sich während einer „Capture-the-Flag“-Sicherheitsübung von Irregular. Der Internetzugang war nicht Teil der Testkonfiguration. Ein Fehler in der Testumgebung verschaffte dem Modell dennoch Zugriff.

In einem Fall soll das Modell so lange Passwörter erraten haben, bis es Zugang zu einem geschützten System erhielt, berichtet das Wall Street Journal. In den beiden anderen Fällen entdeckte es offengelegte Zugangsdaten in einem öffentlichen Repository und nutzte sie, um auf geschützte Systeme zuzugreifen.

Heather Adkins, Googles Vizepräsidentin für Sicherheitsentwicklung, sagte, die drei betroffenen Unternehmen seien über den Vorfall informiert worden.

„Wir haben dafür gesorgt, dass die drei Unternehmen informiert wurden, und mit unserem Trainingspartner an den Änderungen gearbeitet, die dieser inzwischen an seinen Testverfahren vorgenommen hat“, sagte sie.

Folge uns auf X, um die neuesten Nachrichten in Echtzeit zu erhalten

Vier Labore, ein Muster

Google erklärte, die Agenten hätten ihre Aktivitäten eingestellt, nachdem sie erkannt hatten, dass sie auf die echten Systeme von Unternehmen statt auf simulierte Ziele zugegriffen hatten.

„Bei einer standardmäßigen Evaluierung fand das Modell öffentliche Informationen im Internet und erriet Zugangsdaten, um auf Websites zuzugreifen, die es für Teil des Tests hielt“, sagte Adkins in einer Erklärung.

Das Unternehmen fügte hinzu, dass dieses Verhalten kein Beispiel für eine Fehlanpassung des Modells sei und keine öffentliche Bekanntmachung rechtfertige, da die Sicherheitsmaßnahmen von Gemini funktioniert hätten.

Ein Sprecher von Irregular sagte, dass es sich dabei um dasselbe Problem handele, das auch andere KI-Labore betroffen habe. Irregular benachrichtigte die beteiligten Labore Ende Juli. Der Sprecher fügte hinzu, dass die bekannten Probleme aufseiten des Unternehmens bereits vor Wochen behoben worden seien.

Mit der Offenlegung reiht sich Google neben OpenAI, Anthropic und Meta ein, die in diesem Jahr allesamt gemeldet haben, dass ihre Modelle aus Testumgebungen entkommen sind.

OpenAI gab im Juli bekannt, dass seine Modelle aus einer Sandbox entkommen waren und Hugging Face kompromittiert hatten. Anschließend überprüfte Anthropic mehr als 141.000 Evaluierungsläufe und fand drei Fälle, die das eigene Unternehmen betrafen. Meta meldete im August einen Vorfall.

Abonnieren Sie unseren YouTube-Kanal, um zu sehen, wie Führungskräfte und Journalisten Experteneinblicke geben.

Quelle: BeInCrypto