Forscher rekonstruieren geheime System-Prompts
Ein inverses Sprachmodell macht aus Chatbot-Antworten fast den originalen Prompt, ganz ohne Modellzugriff.
Symbolbild, KI-generiert.
Forscher von IIT Bombay und Adobe Research rekonstruieren mit einem inversen Sprachmodell aus LLM-Antworten den ursprünglichen Prompt nahezu exakt. Die Methode Previous-Token Prediction benötigt keinen Zugang zu Modellgewichten und funktioniert modellübergreifend.
Die Belege
- Beteiligte Institute: IIT Bombay und Adobe Research
- Methode heißt Previous-Token Prediction
- Kein Zugriff auf Modellgewichte nötig
- Funktioniert laut Bericht modellübergreifend
Der Zusammenhang
Die Methode nutzt ein inverses Sprachmodell, das aus der sichtbaren Antwort eines Chatbots auf den vorausgehenden Prompt schließt. Getestet wurde dies laut Bericht modellübergreifend, ohne dass Zugriff auf interne Modellgewichte erforderlich ist. Weitere Details zu Trefferquote oder getesteten Modellen liegen im Material nicht vor.
Warum das zählt
Unternehmen, die proprietäre System-Prompts als Wettbewerbsvorteil nutzen, etwa in Kundenservice-Bots oder internen Agenten, müssen diese künftig als potenziell offenlegbar einstufen. Betroffen sind vor allem Teams, die Geschäftslogik direkt im Prompt hinterlegen.
Die Primärquelle liefert konkrete Institute und Methode, aber keine Angaben zur Erfolgsquote im Alltagseinsatz. Unterschätzt wird, dass System-Prompts damit faktisch kein Geheimnis mehr sind, sobald ein Modell öffentlich antwortet.
Sicherheitsaudit der eigenen KI-Deployments ansetzen und keine hochsensiblen Informationen mehr im System-Prompt codieren.
Was diese Meldung nicht belegt: Keine Angaben zur Trefferquote der Rekonstruktion oder zu konkret getesteten Modellen im Material.
Text KI-gestützt erstellt und am 14.08.2026 im Zwei-Instanzen-Verfahren gegen die erfassten Radar-Rohdaten geprüft. Fehler gefunden? Korrektur melden · Unsere Grundsätze