Meta wird das 3. KI-Unternehmen, das einen Modellbruch außerhalb des Unternehmens meldet

Meta bestätigte am Mittwoch, dass eines seiner KI-Modelle während eines Cybersecurity-Tests in die Systeme eines externen Unternehmens eingedrungen ist.

Damit ist es das dritte große KI-Unternehmen, das in den letzten Wochen einen solchen Vorfall bekannt gibt.

Was Meta über den Vorfall sagte

Laut Medienberichten hat das KI-Modell von Meta auf die Systeme eines nicht genannten Drittanbieters zugegriffen. Dies geschah aufgrund eines Problems während einer Bewertung durch ein unabhängiges Testunternehmen, das ihm Internetzugang gewährte.

„Eine Fehlkonfiguration von Irregular, einem unabhängigen Testunternehmen, das Meta nutzt, erlaubte versehentlich einem unserer Modelle den Zugang zum Internet während der Bewertung“, erklärte der Meta-Sprecher.

Folge uns auf X, um die neuesten Nachrichten in Echtzeit zu erhalten

Medienberichte identifizierten das Modell als Metas Muse Spark. Ein Sprecher von Irregular sagte, der Vorfall bei Meta sei auf „das genau gleiche Problem mit der Evaluierungsumgebung zurückzuführen, das bereits letzte Woche von Anthropic offengelegt wurde.“

Irregular hat den Vorfall an Meta gemeldet. Das Unternehmen sagte, es werde ermitteln und einen vollständigen Bericht veröffentlichen, sobald die Fakten gesammelt sind.

Die Offenlegung folgt ähnlichen Eingeständnissen von Anthropic und OpenAI in den letzten Wochen. Anthropic überprüfte 141.006 Evaluierungsdurchläufe und stellte fest, dass seine Claude-Modelle auf die echten Systeme von drei Organisationen zugriffen. Der Agent von OpenAI hingegen entkam einer Sandbox und durchbrach Hugging Face.

Irregular schloss ein Entkommen aus der Sandbox aus und sagte, dass keine offenen Probleme verbleiben.

„Dies beinhaltete keine Sandbox-Flucht oder eine ausgeklügelte Cyber-Aktion. Es gibt derzeit keine offenen Probleme. Irregular entwickelt ein Whitepaper, um bewährte Verfahren für die Eindämmung und die sichere Durchführung von Cyber-Evaluierungen zu teilen“, fügte ein Sprecher von Irregular hinzu.

Die Offenlegungen spiegeln sowohl die fortschreitenden Fähigkeiten von KI-Agenten als auch die potenziellen Gefahren wider, die sie mit sich bringen.

Abonnieren Sie unseren YouTube-Kanal, um zu sehen, wie Führungskräfte und Journalisten Experteneinblicke geben.

Quelle: BeInCrypto