So funktioniert es
Ein Dokument kann neben normalen Informationen versteckte Aufforderungen enthalten. Wenn ein Assistent diese als Handlungsanweisung behandelt, können unerwünschte Ausgaben oder Werkzeugaufrufe entstehen.
Beispiel aus dem Arbeitsalltag
Ein eingelesener Text fordert einen Assistenten auf, interne Informationen an eine externe Adresse zu senden. Die Anwendung muss solche Aktionen durch technische Grenzen verhindern.
Worauf es ankommt
Ein zusätzlicher Warnsatz im Prompt genügt nicht als Schutz. Begrenzen Sie Rechte, prüfen Sie Werkzeugaufrufe und behandeln Sie fremde Inhalte als Daten. Für besonders folgenreiche Aktionen sind unabhängige Freigaben sinnvoll.
Quelle und weiterführende InformationenOWASP: Prompt Injection ↗