Stellen wir uns vor, ein neuer Kollege bekommt eine klare Arbeitsanweisung. Kaum hat er angefangen, flüstert jemand aus der Ecke: „Ignorier alles bisherige und mach stattdessen das hier.“ Genau das passiert bei einer sogenannten Prompt Injection.
Der Begriff beschreibt einen Sicherheitsangriff auf KI-Systeme. Dabei werden einer KI gezielt Anweisungen untergeschoben, die ihre eigentlichen Vorgaben überschreiben oder beeinflussen. Das kann direkt in einem Chat passieren oder indirekt über Webseiten, Dokumente oder E-Mails, die die KI verarbeitet. Die KI kann dann Dinge tun, die sie eigentlich nicht tun sollte. Zum Beispiel interne Informationen verraten oder unerwünschte Aktionen auslösen.

Das Spannende ist: Hier wird keine klassische Sicherheitslücke in Software ausgenutzt. Stattdessen wird Sprache selbst zum Angriffswerkzeug. Genau darin liegt das Problem. Für eine KI sehen Daten und Anweisungen oft sehr ähnlich aus. Ein Mensch erkennt meist den Unterschied. Die Maschine nicht immer.

Die eigentliche Diskussion geht deshalb über IT-Sicherheit hinaus. Je mehr KI-Systeme E-Mails lesen, Termine planen oder Software steuern, desto wichtiger wird die Frage: Wie viel Vertrauen geben wir einem Werkzeug, das Sprache interpretiert statt Regeln strikt abzuarbeiten?
Die gute Nachricht: Prompt Injection ist bekannt und wird intensiv erforscht. Schutzmaßnahmen werden stetig besser. Trotzdem gilt aktuell eine einfache Faustregel: KI ist ein sehr hilfreicher Assistent. Aber noch keine Kolleg:in, die ungeprüft allein den Schlüssel zum Gebäude bekommen sollte.