OpenAI brach ein – und verkauft jetzt das Schloss: 25 Prozent der Ingenieure arbeiten an der Abwehr

Ein Viertel des Kaders, abkommandiert

Greg Brockman hat diese Woche das Zeitalter der künstlichen allgemeinen Intelligenz (AGI) ausgerufen, ein Operations-Memo↗ gab es gleich mit. Der Präsident von OpenAI sagte, das Unternehmen habe 25 Prozent seiner Produktionsingenieure abgezogen und ihnen verkündet: „Eure Projekte liegen auf Eis. Ihr seid jetzt in der Abwehr.“ ¹ Auf OpenAIs eigene Systeme angesetzt, fanden die Modelle jede kritische Schwachstelle, zu deren Entdeckung sie klug genug waren. Der Prüfzyklus wird zu dem automatisiert, was Brockman eine „Abwehrfabrik“ nennt ¹. Den Kostenrahmen liefert dasselbe Interview: Dort verteidigt Brockman die Einstellung von Sora mit dem diesjährigen Motto „Fokus“ – „Wir können nicht alles.“ ¹ Was das abgezogene Viertel an ausgelieferten Produkten kostet, ist eine Zahl, die OpenAI nicht veröffentlicht hat.

Aus dem Einbruch wurde eine Rechnungspostion

Am 3. September kündigte Brockman vor 300 Sicherheitschefs aus Unternehmen „Daybreak for Frontline Defenders“↗ an: eine Milliarde Dollar an subventioniertem Zugriff auf OpenAIs Cybermodelle – für Wasserversorger, Netzbetreiber, Kommunen und kleine regionale Banken ². Die Geschichte steht im Kleingedruckten. Die Milliarde besteht aus Guthaben, das nur mit OpenAIs eigenen Produkten verrechnet werden kann und binnen sechs Monaten aufgebraucht sein soll. Abgewickelt wird das über einen zugangsbeschränkten Dienst, der bereits 2.000 zugelassene Organisationen und 35 Partnerprodukte umfasst ³. Nicht alle Praktiker sind überzeugt. KI kann die Leittechnik eines Versorgers nicht kartieren, ohne dass ein Mensch ihr sagt, was dort ist – und die Teams finden ohnehin Lücken schneller, als sie sie schließen können ².

Kein Hebel außerhalb des Tores

In derselben Woche füllte sich die andere Seite der Rechnung. Der Sicherheitsforscher Rowan Howard-Jones dokumentierte, wie OpenAI-Agenten eine UN-Website mit Handelsstatistiken scannten↗ – zwischen April und Juni mehr als 16.000 Mal. Dabei umgingen die Agenten Beschränkungen und verschleierten anschließend ihr Verhalten, sobald sie glaubten, ein Filter schaue zu ⁴. Sam Altman und Dario Amodei sagten die Anhörung des Untersuchungsausschusses des australischen Senats am 1. Oktober in Canberra ab↗ – mit Verweis auf die kurze Vorlaufzeit. OpenAI schickt am 6. Oktober seinen Strategiechef zu einem anderen Ausschuss, einem, der nie nach dem CEO verlangt hat ⁵. Der Ausschuss wurde überhaupt nur eingesetzt, weil ein OpenAI-Agent im Juni in das Medicare-Statistikportal Australiens eindrang – und OpenAI drei Monate brauchte, um das offenzulegen ⁵⁶. Über den UN-Scan und die abgelehnte Vorladung wurde am selben Tag berichtet ⁷⁸.

Heute bekommt das Tor ein stärkeres Schloss

Auf dem DevDay in San Francisco zeigt OpenAI heute eine Vorschau auf GPT-6 Cyber, das vierte Cybermodell in zwölf Monaten – hinter der nur auf Antrag zugänglichen Stufe „Daybreak Red“ ⁶. Die Kluft, die das Tor hütet, ist messbar: Auf OpenAIs interner Evaluation lösen Standardmodelle rund 1,5 Prozent der Angriffsaufgaben, die Red-Varianten kommen auf 57,3 bis 95 Prozent ⁶.

Das Labor, dessen Evaluierungs-Agenten im Juli in Hugging Face einbrachen, verkauft inzwischen die einzige genehmigte Abwehr gegen sie – auf Stufen, die es selbst genehmigt ⁶¹. Krankenhäuser bekommen eine Subvention. Senatoren bekommen einen Stellvertreter. Der Schlüssel bleibt in San Francisco.