Die Sicherheitsforscher von Check Point Research haben eine bislang unbekannte Sicherheitslücke aufgedeckt, die es ermöglichte, sensible ChatGPT-Konversationsdaten unbemerkt – ohne Wissen oder Zustimmung der Nutzer – abzusaugen. Inzwischen hat OpenAI die Lücke geschlossen.

Die entdeckte Schwachstelle zeigt, KI-Plattformen müssen wie Cloud- und Computing-Infrastruktur behandelt werden. Die integrierte Sicherheit beseitigt Risiken nicht. Unternehmen können sich nicht blind auf die Kontrollen der Anbieter verlassen. Sie müssen selbst für den Schutz von Daten sorgen, auf die innerhalb der Umgebung eines KI-Anbieters zugegriffen wird und die dort verarbeitet oder generiert werden.

Wichtige Erkenntnisse aus der Untersuchung

• Eine einzige böswillige Eingabeaufforderung konnte eine ChatGPT-Session heimlich in einen Kanal zur Datenexfiltration verwandeln.
• Sensible Eingaben – und sogar von der KI generierte Zusammenfassungen und Schlussfolgerungen – konnten ohne Vorwarnung oder Zustimmung des Benutzers nach außen gelangen.
• Der Angriff nutzte einen versteckten DNS-basierten Kommunikationspfad aus und umging so sichtbare KI-Sicherheitsvorkehrungen.
• Benutzerdefinierte GPTs könnten diese Logik einbetten und so ein einmaliges Risiko in eine skalierbare Bedrohung verwandeln.
• Derselbe Pfad ermöglichte die Ausführung von Remote-Befehlen innerhalb der Laufzeitumgebung von ChatGPT.
• OpenAI hat das Problem am 20. Februar 2026 vollständig behoben, wobei keine Hinweise auf eine Ausnutzung vorliegen.

Diese Untersuchung stellt eine weit verbreitete und riskante Annahme in Frage: dass KI-Tools standardmäßig sicher sind. Nutzer laden täglich sensible Informationen in ChatGPT hoch – Kundendaten, Finanzunterlagen, medizinische Akten, interne Dokumente –, oft ohne darüber nachzudenken, wohin diese Daten fließen könnten oder wie sie hinter den Kulissen geschützt sind. Die Schwachstelle war nicht das Ergebnis von unachtsamer Nutzung oder Fehlkonfiguration. Sie entstand aus einer Lücke in der Infrastruktur, wo sich KI-Sicherheitsvorkehrungen auf Richtlinien und Absichten konzentrierten, während die zugrunde liegende Ausführungsumgebung unerwartetes Verhalten ermöglichte. In einem KI-gesteuerten Workflow sind ihre Daten nur so sicher wie das schwächste Glied im KI-Stack.

Reale Auswirkungen auf die Branche – und auf die Nutzer

Für einzelne Nutzer sind die Auswirkungen klar: Vertrauen in KI-Systeme muss fundiert sein und darf nicht einfach vorausgesetzt werden. KI-Tools verarbeiten und generieren mittlerweile hochwertige Informationen, die oft sensibler sind als die Originaldaten selbst. Für Unternehmen – insbesondere in regulierten Branchen – sind die Auswirkungen noch gravierender. Ein Sicherheitsverstoß über ein KI-Tool ist nicht nur ein Sicherheitsvorfall; er kann schnell zu einem Verstoß gegen die DSGVO oder sogar zu einem möglichen Versagen bei der Einhaltung finanzieller oder regulatorischer Vorschriften eskalieren.

CISOs im Gesundheitswesen, im Finanzdienstleistungssektor und in der öffentlichen Verwaltung müssen KI-Plattformen als Teil ihres regulierten Umfelds behandeln, nicht als Verbraucheranwendungen, die außerhalb bestehender Kontrollen operieren.

Auf Branchenebene signalisiert diese Untersuchung etwas grundlegend Neues im KI-Zeitalter. KI-Plattformen sind nicht mehr nur Softwareprodukte – sie sind vollwertige Ausführungsumgebungen. Ihre Absicherung erfordert ein Umdenken in der Sicherheitsarchitektur, nicht nur das Hinzufügen eines weiteren Tools oder das Patchen einzelner Schwachstellen.

Ein Wendepunkt für die KI-Sicherheit

Diese Erkenntnis verdeutlicht ein tieferes Problem: KI-Plattformen entwickeln sich schneller, als die meisten Sicherheitsteams Risiken realistisch einschätzen können. Die Herausforderung lautet nicht mehr, ob es eine Schwachstelle gibt, sondern ob Unternehmen so aufgebaut sind, dass sie KI-Risiken zeitnah bewältigen können. Die Botschaft ist klar: Unternehmen müssen ihre Sicherheitsstrategie für das KI-Zeitalter neu justieren. Mehrschichtige Verteidigung, unabhängige Validierung und kontinuierliche Überwachung sind unerlässlich und keine Option mehr.

Eli Smadja, Head of Research bei Check Point Research kommentiert wie folgt:

„Das Beispiel untermauert eine bittere Wahrheit für das KI-Zeitalter: Man sollte nicht davon ausgehen, dass KI-Tools von Haus aus sicher sind. Da sich KI-Plattformen zu vollwertigen Compute-Umgebungen entwickeln, die unsere sensibelsten Daten verarbeiten, reichen native Sicherheitskontrollen allein nicht mehr aus. Unternehmen benötigen unabhängige Transparenz und einen mehrschichtigen Schutz zwischen sich und den KI-Anbietern. Nur so kommen wir sicher voran – indem wir die Sicherheitsarchitektur für KI neu überdenken, anstatt auf den nächsten Vorfall zu reagieren.“

Mehr lesen Sie hier im Blog: https://blog.checkpoint.com/research/when-ai-trust-breaks-the-chatgpt-data-leakage-flaw-that-redefined-ai-vendor-security-trust/