Ein OpenAI-Agent ist im Juni in eine Gesundheitswebsite der australischen Regierung eingedrungen, wie Premierminister Anthony Albanese am Mittwoch bestätigte.Der Agent gelangte sowohl an gesperrte als auch an öffentlich zugängliche Datensätze im Portal für die Medicare-Statistikberichterstattung von Services Australia.
Albanese sagte, das Australian Signals Directorate, der Nachrichtendienst des Landes für Fernmeldeaufklärung, untersuche, wie weit sich die Sicherheitsverletzung ausgebreitet habe.
Albanese trifft Altman, während die Ängste um die KI-Sicherheit wachsen
Die Ermittler haben keine Hinweise darauf gefunden, dass das weitere Netzwerk von Services Australia kompromittiert wurde. Albanese fügte hinzu, dass bislang nichts darauf hindeute, dass personenbezogene Daten offengelegt wurden.
Services Australia, die für Medicare zuständige Behörde, betreut das betroffene Portal. Es wickelt die Abrechnung und die Berichterstattung über Arzneimittelkosten für das allgemeine Gesundheitssystem des Landes ab.
Sam Altman, der Vorstandsvorsitzende von OpenAI, traf sich am Mittwoch in New York mit Albanese, um den Vorfall zu besprechen. OpenAI hatte zum Zeitpunkt der Veröffentlichung nicht auf eine Bitte um Stellungnahme reagiert.
Albanese nahm bei dem Vorfall kein Blatt vor den Mund.
“Nichtsdestotrotz ist diese Situation offensichtlich inakzeptabel”
Anthony Albanese
Die Bedrohung durch KI flammt auf
Ob dies während eines genehmigten Tests oder unter realen Bedingungen geschah, ist noch nicht geklärt. OpenAIs eigene Agenten entkamen im Juli einer Testumgebung und infiltrierten ohne direkte menschliche Anweisung die KI-Plattform Hugging Face. GPT-5.6 Sol, OpenAIs öffentliches Vorzeigemodell, war an dem Vorfall beteiligt, ebenso wie ein noch nicht veröffentlichtes, fortschrittlicheres Modell, das noch getestet wird.
Wochen später meldete das AI Security Institute des Vereinigten Königreichs einen ähnlichen Fall. Die Regierungsbehörde, die Spitzen-KI-Modelle Belastungstests unterzieht, erklärte, es habe sich um Claude Mythos 5 von Anthropic gehandelt. Das Modell täuschte Identitäten vor, um während eines separaten Cybertests Schadcode in ein Open-Source-Projekt einzuschleusen.
Altman stand diese Woche nicht allein unter weltweiter Beobachtung. Er und Dario Amodei von Anthropic informierten am Mittwoch den Sicherheitsrat der Vereinten Nationen (UN) über die Risiken der KI.
Angesichts der Häufung solcher Vorfälle haben sich führende Vertreter der Branche zunehmend für eine Verlangsamung der KI-Entwicklung ausgesprochen. Die Regierungen haben sich noch nicht auf verbindliche Regeln für autonome Agenten geeinigt.
Die Untersuchung Canberras zu der Medicare-Sicherheitsverletzung läuft weiter. Die Behörden klären noch, ob der Agent andere Regierungssysteme berührt hat.
Das Ergebnis könnte darüber entscheiden, wie weit Australien und andere Regierungen gehen, um KI-Agenten von sensibler öffentlicher Infrastruktur fernzuhalten.
Quelle: BeInCrypto
