Deutsche Forscher:innen haben ein gravierendes Sicherheitsproblem bei den KI-Modellen der drei größten Anbieter der Welt aufgedeckt. Laut ihrer Studie "Stealing Reasoning Traces from Proprietary LLM APIs" lassen sich über einen vergleichsweise einfachen Umweg sensible Daten wie Passwörter und API-Schlüssel aus den Chatbot-Antworten extrahieren – trotz Verschlüsselung.
Kurz & knapp
- Betroffene Anbieter: Google (Gemini), OpenAI (ChatGPT) und Anthropic (Claude)
- Angriffsvektor: Sogenannte Reasoning-Logs – verschlüsselte Zeichenfolgen, die bei komplexen Denkprozessen entstehen
- Kernproblem: Logs lassen sich zwischen Modellen desselben Unternehmens kopieren und mit manipulierten Versionen decodieren
- Betroffene Daten: Passwörter, API-Schlüssel und weitere sensible Nutzerdaten
So funktioniert der Angriff
Bei Reasoning-Aufgaben, die längere Denkprozesse erfordern, geben alle drei KI-Systeme ein verschlüsseltes Reasoning-Log aus. Diese Zeichenfolge wird bei jeder neuen Antwort an den Server zurückgeschickt, um der KI den nötigen Kontext zu liefern.
Die Forscher:innen entdeckten: Die Logs lassen sich herauskopieren und in anderen KI-Modellen desselben Unternehmens verwenden. Das heißt konkret – ein Reasoning-Log aus einer neueren OpenAI-Version funktioniert auch in älteren Modellen, solange sie von OpenAI stammen. Das wäre an sich noch verkraftbar. Das eigentliche Problem entsteht aber, wenn diese älteren oder modifizierten Modelle per Jailbreak ihrer Sicherheitsvorkehrungen beraubt werden. Ein solches manipuliertes Modell kann dann genutzt werden, um die Verschlüsselung der Logs zu decodieren – und damit die sensiblen Daten freizulegen.
Warum das so kritisch ist
Das Problem trifft nicht nur Einzelnutzer:innen. Unternehmen, die KI-APIs in ihre Systeme integrieren, könnten über diesen Weg ihre internen Daten, Zugriffsschlüssel und Geschäftsinformationen verlieren. Ein Angreifer müsste nur Zugriff auf ein älteres oder kompromittiertes Modell des gleichen Anbieters haben – und könnte dann Logs aus produktiven Systemen dekodieren.
Die Tatsache, dass alle drei Marktführer betroffen sind, deutet darauf hin, dass es sich um ein systemisches Problem der Reasoning-Architektur handelt, nicht um einen Einzelfall.
Was bedeutet das für dich?
Wenn du KI-Modelle in deinem Unternehmen einsetzt – ob als Entwickler:in, IT-Sicherheit oder Entscheidungsträger:in – solltest du diese Lücke ernst nehmen. Besonders kritisch ist es, wenn du sensible Daten (Kundendaten, interne Prozesse, Zugriffsschlüssel) an KI-APIs sendest. Die Frage ist nicht, ob die Anbieter das Problem beheben, sondern wie schnell – und ob es bis dahin noch andere Wege gibt, diese Logs zu missbrauchen. Hier lohnt sich ein Blick auf die Sicherheitsrichtlinien deines KI-Anbieters und möglicherweise eine Überprüfung, welche Daten wirklich an externe Modelle gehen müssen.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
