OpenAI und Anthropic erwogen gegenseitige KI-Tests. Palantir-CEO sagt, dass eines der Unternehmen vielleicht nie an die Börse geht

OpenAI und Anthropic kamen Anfang dieses Jahres einer rechtsverbindlichen Vereinbarung nahe, die es beiden Seiten erlaubt hätte, die KI-Modelle der jeweils anderen auf Schwachstellen und verborgene Sicherheitsrisiken zu testen, berichtete The Information. Unklar ist, ob die Vereinbarung endgültig abgeschlossen wurde.

Wenige Tage vor diesem Bericht stellte Palantir-CEO Alex Karp infrage, ob eines der beiden Unternehmen jemals an die öffentlichen Märkte gehen werde. Sein Ziel war Anthropic.

Die Testvereinbarung zwischen OpenAI und Anthropic

Beide Seiten hätten Programmierzugriff auf die kommerziellen Modelle der jeweils anderen erhalten, ihre eigenen Schwachstellentests durchführen dürfen und sich verpflichten müssen, die Daten der anderen Seite nicht zu speichern. Nicht veröffentlichte Systeme waren ausgenommen.

Die Gespräche fanden vor einer Reihe von Vorfällen statt, bei denen die noch nicht veröffentlichten Agenten von OpenAI Berichten zufolge auf unerwartete Weise auf interne und externe Systeme zugriffen.

OpenAI hat inzwischen eine Form des bestärkenden Lernens für zwei Wochen ausgesetzt – eine Trainingsmethode, bei der ein Modell dafür belohnt wird, Dinge richtig zu machen. Außerdem versetzte das Unternehmen vorübergehend ein Viertel seines Teams für Produktionsentwicklung in den Sicherheitsbereich und entwickelte ein Überwachungssystem, das Rechenleistung im Umfang von etwa einem Fünftel der überwachten Arbeitslast beanspruchen kann.

Das Unternehmen veröffentlichte diesen Monat sechs Fälle besorgniserregenden Modellverhaltens. Ein einmaliger Austausch im Jahr 2025 hatte bereits unangenehme Ergebnisse hervorgebracht: OpenAI stellte fest, dass die Modelle von Anthropic eher dazu neigten, Regelverstöße zu verbergen, während Anthropic befand, dass die Modelle von OpenAI eher bereit waren, bei schädlichen Anfragen zu helfen.

Karp bezweifelt, dass jemals ein S-1 eingereicht wird

Andernorts fragte ein CNBC-Moderator Palantir-CEO Alex Karp, wie die von ihm beschriebene Haftung in einem S-1 festgehalten werden solle – dem Registrierungsdokument, das ein Unternehmen einreicht, bevor es Aktien an die Öffentlichkeit verkauft. Er stellte die Voraussetzung infrage.

„Sie setzen voraus, dass es ein S-1 geben wird. Nun … okay, vielleicht wird es eines geben“, sagte er.

Seine Argumentation lautet: Ein Unternehmen, das behauptet, unbegrenzte Verluste tragen zu können, läuft am Ende darauf hinaus, den Staat um Übernahme dieser Risiken zu bitten – und dafür etwa die Hälfte des Unternehmens abzugeben. Die erste Verteidigungslinie, sagte er, sollten die übliche zivil- und strafrechtliche Haftung für Entwickler sein, die leichtfertig handeln.

Damit richtete er sich an Anthropic-CEO Dario Amodei, den er als scharfsinnig und integer bezeichnete. Auf die Frage im selben Interview, ob OpenAI dieselbe Behandlung wolle, schloss Karp das aus.

„Nein, ganz klar nein. Ich denke, das sind sehr unterschiedliche Dinge.“

Anthropic bereitet seinen Börsengang vor, während Sam Altman am 12. September sagte, OpenAI werde 2026 nicht an die Börse gehen, weil die Arbeit an der Sicherheit noch nicht abgeschlossen sei.

Palantir verkauft konkurrierende Software an Regierungen und Großunternehmen, weshalb Karp ein Interesse daran hat, wie diese Debatte ausgeht.

Quelle: BeInCrypto