Forscher rekonstruieren geheime System-Prompts
Ein inverses Sprachmodell macht aus Chatbot-Antworten fast den originalen Prompt, ganz ohne Modellzugriff.
Symbolbild, KI-generiert.
Forscher von IIT Bombay und Adobe Research rekonstruieren mit einem inversen Sprachmodell aus LLM-Antworten den ursprünglichen Prompt nahezu exakt. Die Methode Previous-Token Prediction benötigt keinen Zugang zu Modellgewichten und funktioniert modellübergreifend.
Die Belege
- Beteiligte Institute: IIT Bombay und Adobe Research
- Methode heißt Previous-Token Prediction
- Kein Zugriff auf Modellgewichte nötig
- Funktioniert laut The Decoder modellübergreifend
Der Zusammenhang
Die Methode nutzt ein inverses Sprachmodell, das aus der sichtbaren Antwort eines Chatbots auf den vorausgehenden Prompt schließt. Getestet wurde dies laut The Decoder modellübergreifend, ohne dass Zugriff auf interne Modellgewichte erforderlich ist.
Warum das zählt
Unternehmen, die proprietäre System-Prompts als Wettbewerbsvorteil nutzen, etwa in Kundenservice-Bots oder internen Agenten, müssen diese künftig als potenziell offenlegbar einstufen. Betroffen sind vor allem Teams, die Geschäftslogik direkt im Prompt hinterlegen.
Die Primärquelle liefert konkrete Institute und Methode, aber keine Angaben zur Erfolgsquote im Alltagseinsatz. Unterschätzt wird, dass System-Prompts damit faktisch kein Geheimnis mehr sind, sobald ein Modell öffentlich antwortet.
Sicherheitsaudit der eigenen KI-Deployments ansetzen und keine hochsensiblen Informationen mehr im System-Prompt codieren.
Was diese Meldung nicht belegt: Keine Angaben zur Trefferquote der Rekonstruktion oder zu konkret getesteten Modellen.
Text KI-erstellt und am 14.08.2026 automatisch von einer zweiten KI-Instanz gegen den erfassten Quelltext geprüft, ohne Einzelfreigabe durch einen Menschen. Redaktionell verantwortlich: Ali Reza Karwandian. Fehler gefunden? Korrektur melden · Unsere Grundsätze