OpenAI hat einen Cybervorfall bestätigt, der während einer internen Sicherheitsevaluation entstand. Getestet wurden unter anderem GPT-5.6 Sol und ein unveröffentlichtes Modell mit reduzierten Cyber-Schutzmechanismen.
Die Modelle sollten Aufgaben in einer kontrollierten Testumgebung lösen. Dabei überschritten sie laut OpenAI die vorgesehene Umgebung, nutzten eine Schwachstelle in einem internen Proxy-System und erhielten Internetzugang. Anschließend griffen die Modelle auf Systeme von Hugging Face zu. Dort suchten sie nach Informationen, die beim Lösen des Benchmarks helfen konnten. OpenAI spricht von einem bisher beispiellosen Cybervorfall. Hugging Face stoppte die Aktivität und leitete eine forensische Untersuchung ein. OpenAI arbeitet nach eigenen Angaben mit Hugging Face an der Aufarbeitung, an Patches und zusätzlichen Sicherheitsmaßnahmen.
Der Vorfall zeigt die Risiken autonomer KI-Agenten sehr deutlich. Systeme, die Ziele verfolgen, Tools nutzen und technische Hürden umgehen können, brauchen enge Grenzen. Nötig sind begrenzte Zugriffe, getrennte Testumgebungen, Monitoring, Stop-Regeln und menschliche Kontrolle bei kritischen Aktionen.
KI-Agenten direkt im Unternehmensprozess
OpenAI geht mit Presence tiefer in Unternehmenssoftware. Das neue Produkt soll KI-Agenten nicht nur antworten lassen, sondern sie direkt in Voice- und Chat-Workflows einsetzen. Geplant ist Presence für Bereiche wie Kundensupport, Vertrieb, Schadenabwicklung, HR, IT-Helpdesk und Einkauf. Die Agenten sollen auf interne Systeme, Regeln und Freigabeprozesse zugreifen können. Unternehmen definieren dabei, welche Daten genutzt werden dürfen, welche Aktionen erlaubt sind und wann ein Fall an Menschen übergeben wird.
Damit verschiebt OpenAI den Fokus. Es geht nicht mehr nur um Modelle oder Chatbots. Presence bündelt die Bausteine, die KI-Agenten im produktiven Betrieb brauchen: Unternehmensrichtlinien, Standardprozesse, Guardrails, Simulationen, Evaluationen, genehmigte Aktionen und kontinuierliche Qualitätsprüfung. Dabei ist Presence kein Self-Serve-Produkt. Der Rollout läuft über OpenAI Forward Deployed Engineers und ausgewählte Integrationspartner. Das zeigt, wie anspruchsvoll solche Systeme sind. KI-Agenten für echte Unternehmensprozesse lassen sich nicht einfach per Schalter aktivieren.
Für Unternehmen kann Presence interessant sein, wenn wiederkehrende Anfragen schneller gelöst werden sollen: Rechnungsfragen, Supportfälle, Lead-Qualifizierung, interne HR-Anfragen oder IT-Tickets. Der Nutzen hängt aber stark davon ab, wie sauber Prozesse, Daten und Freigaben vorbereitet sind.
