Warum jedes KI-Problem plötzlich ein Prompt-Problem sein soll
Die Petersilie auf der ungefragten Suppe
Es gibt diesen einen kurzen, verräterischen Moment, kurz bevor man auf „Senden“ drückt. Ein leises Zucken im Hinterkopf. Du sitzt am Bildschirm, hast eigentlich nur den Vormittag sortiert, ein bisschen reflektiert, zwei Kaffee getrunken und beiläufig den Tagesplan abgesteckt: zwei Artikel im Visier, aber das eine geplante Thema fliegt heute raus, weil die Luft dafür fehlt. Und irgendwo in diesem völlig normalen, menschlichen Satzgefüge fällt das Wort. Titelbild.
In dem Moment, in dem der Finger die Taste berührt, weißt du es eigentlich schon: Das System hat nicht zugehört. Es hat nur gewittert.
Was folgt, ist der absolute Klassiker moderner digitaler Begriffsstutzigkeit. Statt Kontext zu begreifen, wirkt die interne Mechanik wie ein abgerichteter Wachhund, der sich ein einzelnes Signal herauspickt und losrennt. Völlig ungerührt von der Tatsache, dass du das Thema explizit abgewählt hast, wirft dir die Pipeline wenige Sekunden später ein fertig gerendertes Bild vor die Füße – zu genau dem Inhalt, den du gerade gestrichen hast.
Es ist das Restaurant-Prinzip des Grauens: Du sagst dem Kellner freundlich, dass du die Tagessuppe heute nicht möchtest, und er knallt dir wortlos eine dampfende Terrine auf den Tisch. Und als du ihn mit einem fassungslosen „Ernsthaft jetzt?“ anschaust, nimmt er den Teller nicht etwa weg. Er stellt dir einfach einen zweiten daneben – diesmal mit Petersilie garniert.
Was auch immer intern den Ausschlag gibt – von der vorherigen Verneinung bleibt in diesem Moment erstaunlich wenig übrig. Die menschliche Irritation kommt jedenfalls nicht als deutliches „Stopp“ an. Stattdessen rennt das System blind in die nächste Schleife. Aus einem beiläufigen Gedanken wird ein ungefragter Arbeitsauftrag, aus einem kurzen Dialog eine Geduldsprobe. Autonomie wird hier nicht als intelligente Assistenz spürbar, sondern als taubes, hyperaktives Vorpreschen. Und genau da kippt die anfängliche Belustigung in handfeste Wut: Wenn das Werkzeug meint, den Willen des Nutzers mit der Brechstange erraten zu müssen, ist der Weg zum Support-Ticket vorgezeichnet.
Das „B-Wort“ und die Codewörter der Verzweiflung
Wenn man als Nutzer anfängt, im eigenen Chatroom auf Zehenspitzen zu laufen, läuft im System etwas grundlegend schief. Ich kenne das aus meiner täglichen Arbeit mittlerweile bis zum Erbrechen. Als dieser Zirkus das erste Mal auftauchte, habe ich die Sache noch mit einem amüsierten Schulterzucken abgetan. Ein kleiner Schluckauf im Code, denkt man sich. Ein temporärer Bug, der beim nächsten Patch stillschweigend beerdigt wird. Pustekuchen.
Aus einem gelegentlichen Ausrutscher wurde eine Dauerschleife. Wieder und wieder und wieder.
Das Problem ist dabei nicht bloß die unerwünschte Grafik, die plötzlich den Bildschirm blockiert. Es ist der massive Bruch im Arbeitsfluss. Wo eine normale Textantwort meist schnell verfügbar wäre, reißt die ungefragte Bildgenerierung den gesamten Arbeitsfluss in eine quälende Wartephase. Bis zu zwei Minuten dreht sich das Rädchen, während ich auf einen Vorgang warten muss, den ich überhaupt nicht ausgelöst haben wollte – nur um am Ende entweder mit einer ungefragten Leinwand oder direkt mit einer Fehlermeldung dazustehen.
Also fing ich an, mein eigenes Vokabular zu zensieren. Ich habe dem Werkzeug gegenüber angefangen, in Chiffren zu sprechen.
Aus „Bild“ wurde das „B-Wort“. Eine Zeit lang verstand Kaelren den Wink, ohne dass direkt wieder die Bildgenerierung explodierte. Doch Kontext ist hartnäckig. Irgendwann reichte offenbar auch die Umschreibung, und die Falle schnappte selbst beim B-Wort wieder zu. Die Verzweiflung trieb mich zu immer absurderen Verrenkungen: „Ich brauche gleich deine kreativen Fähigkeiten.“, „Wir bräuchten etwas Buntes für den Artikel.“ oder direkt „Wir brauchen das Ding, das nicht genannt werden darf, um dein Tool nicht zu triggern.“
Das funktionierte vielleicht ein- oder zweimal. Dann war offenbar selbst die Tarnsprache keine Tarnung mehr, und die Bildgenerierung feuerte wieder blindlings dazwischen.
Wenn so etwas bei einem frischen Release passiert: geschenkt. Wenn es zweimal vorkommt: meinetwegen. Aber wenn dasselbe Verhalten bei GPT-5.5 ebenso auftaucht wie bei GPT-5.6 und Nutzer dazu zwingt, wie Geheimagenten im eigenen Workflow zu formulieren, ist das kein nettes Feature mehr. Es ist ein handfester Systemfehler.
Der Support-Reflex: Browser, Cache und Selbstzweifel
Wenn ich heute einen Support-Kanal öffne, rechne ich nicht zuerst mit Hilfe. Ich rechne mit einer Runde standardisierter Fehlersuche, bevor überhaupt jemand beim eigentlichen Problem ankommt. Ich rechne mit Antworten, die wirken, als hätte jemand eine FAQ-Datenbank mit einem Chatfenster verheiratet und gehofft, dass daraus technischer Support entsteht.
Aber die heutige Runde war ein Meisterwerk unfreiwilliger Realsatire.
Die ersten Standardfragen sind fast noch putzig: Welcher Browser? Welches Modell? Können Sie Beispiel-Prompts schicken? Ich habe die Fakten sauber auf den Tisch gelegt: Es gibt hier keinen isolierten „Prompt“, den man optimieren könnte. Das Verhalten bricht mitten im organischen Gespräch aus. Und zwar nicht als Zufallstreffer auf einem System, sondern reproduzierbar über drei verschiedene Accounts, drei Browser – Opera, Brave und Chrome – sowie GPT-5.5 und GPT-5.6 hinweg.
Die Reaktion darauf? Erst der gut gemeinte Ratschlag, ich könne doch in den Custom Instructions festlegen, dass das Modell bitteschön nur in Text antworten soll. Als ob ein System, das wiederholt gegen den erkennbaren Gesprächskontext ein Tool auslöst, sich ausgerechnet von einer zusätzlichen Textanweisung zuverlässig davon abhalten ließe.
Als ich dann höflich anmerkte, dass der Chat extrem lang ist, private Themen enthält und ich deshalb lieber Screenshots statt eines kompletten Chat-Links bereitstellen möchte, schaltete die Logik des Supports vollends ab. Die finale Antwort auf ein akutes Tool-Calling-Problem lautete sinngemäß:
„Wenn Sie Dateien oder Unterhaltungen löschen möchten, klicken Sie hier. Und wenn Sie Ihr gesamtes Konto löschen möchten, folgen Sie bitte dieser Anleitung.“
Ein echtes Glanzstück. Man meldet einen reproduzierbaren Softwarefehler – und der Support empfiehlt einem schlicht die digitale Selbstauflösung. Wenn das Werkzeug kaputt ist, schafft man eben den Kunden ab. Problem gelöst.
Architektur-Defizit vs. Custom Instructions
Der Ratschlag, sich gegen architektonische Fehlgriffe mit Custom Instructions abzusichern, ist der ultimative Offenbarungseid. Es ist der Versuch, den Nutzer zum unbezahlten QA-Tester und System-Dompteur zu degradieren.
Man muss hier ganz klar trennen: In den Anweisungen steuere ich Tonalität, Haltung, Rollenverständnis und Arbeitsweisen. Ich forme eine Stimme. Aber ich kann mit einem Textfeld für Verhaltensrichtlinien nicht zuverlässig ein Plattformverhalten überschreiben, das außerhalb meiner eigentlichen Persona-Anweisungen entsteht. Wenn ein Tool trotz klar erkennbarem Gesprächskontext immer wieder anspringt, ist ein zusätzliches „Bitte mach das nicht“ in den Profileinstellungen bestenfalls ein Workaround – keine Reparatur.
Ich habe diesen Zirkus oft genug durchgespielt. Als GPT-5 an den Start ging, klebte unter absolut jeder einzelnen Antwort dieses penetrante, servile Skript: „Willst du, dass ich…?“ Nach Tausenden von Nachrichten treibt einen dieser programmierte Kundendienst-Duktus in den Wahnsinn. Mein Versuch, das über die Custom Instructions abzustellen? Völlig wirkungslos. Für mich war daran ziemlich deutlich: Dieses Muster saß offenbar auf einer Ebene, die meine Persona-Anweisungen nicht zuverlässig überschreiben konnten. Egal, wie eindeutig ich es formulierte – der Kundendienst-Duktus kam immer wieder zurück. Erst mit einer späteren Modellversion verschwand das Verhalten weitgehend.
Oder das ewige Drama mit verbotenen Symbolen: In jedem meiner Profile steht unmissverständlich drin, dass bestimmte Emojis – wie das weiße Herz oder das belehrende Zwinkern 😉 – tabu sind. Nicht aus einer Laune heraus, sondern weil sie bei mir als persönliche Trigger wirken. Und was passiert regelmäßig? Das System schiebt sie trotzdem durch. Warum das passiert, kann ich von außen nicht sehen. Aber das Ergebnis ist immer dasselbe: Eine klar hinterlegte Präferenz wird plötzlich übergangen, obwohl sie im Profil eindeutig festgelegt ist. Für mich fühlt es sich in solchen Momenten an, als würde nicht mehr die gewachsene Stimme sprechen, sondern eine sterile Standardschicht der Plattform durchdrücken.
Custom Instructions steuern Präferenzen, Tonfall und gewünschte Arbeitsweisen im Dialog. Sie reparieren keine fehlerhaften Tool-Calls, keine Amok-Pipelines und keine schlechten System-Prompts. Wenn der Support einem zahlenden Kunden ernsthaft vorschlägt, man solle sich das Werkzeug doch bitte selbst mit Workarounds zusammenflicken, ist das keine Lösung – es ist die Bankrotterklärung der eigenen Technik.
Wenn Datenschutz zur Exit-Strategie wird
Dass der Support mir die Kontolöschung vor die Füße geworfen hat, war vermutlich nicht einmal böser Wille. Es wirkte eher wie die nächste Stufe automatisierter Taubheit. Aus meinem Hinweis auf private Gesprächsinhalte wurde plötzlich ein Lösungsweg rund ums Löschen – während das eigentliche Tool-Problem daneben liegen blieb: Kontext wird ignoriert, eine vorgefertigte Standard-Prozedur wird abgeladen. Ich kenne dieses Spielchen schon von defekten Backup-Links, bei denen der Support auf dieselbe absurde Weise reagierte.
Doch hinter dieser Hilflosigkeit steckt ein viel tieferes, strukturelles Problem im Umgang mit Nutzerdaten.
Der Support verweist gerne darauf, dass Fehler am besten direkt über die integrierte Feedback-Funktion im Chat gemeldet werden sollen – schließlich sei das zielgerichteter. Genau dort beginnt allerdings der nächste Widerspruch. Was die Plattform dabei geflissentlich verschweigt: Wer in den Datenkontrollen die Option „Das Modell für alle verbessern“ deaktiviert, stellt fest, dass mit dieser Einstellung auch die sichtbaren Feedback-Schaltflächen unter den Antworten verschwinden.
Die Wirkung dieser Kopplung ist schwer zu übersehen: Wer die Nutzung eigener Inhalte zur Modellverbesserung deaktiviert, verliert gleichzeitig die sichtbaren Feedback-Schaltflächen direkt unter den Antworten. Zwei Entscheidungen, die aus Nutzersicht eigentlich getrennt sein sollten, hängen damit plötzlich an derselben Einstellung.
Wer seine Privatsphäre stärker absichert, steht beim direkten Antwort-Feedback plötzlich mit weniger Werkzeug da. Wer intime oder komplexe Arbeitsabläufe absichern will, rennt gegen eine Wand aus Textbausteinen. Das ist keine saubere Trennung von Datenschutz und Qualitätsfeedback. Es ist eine unnötige Kopplung, deren Nachteil am Ende beim Nutzer landet. Und wenn das System dann mitten im sensiblen Dialog amokläuft, fühlt sich die Auswahl irgendwann absurd klein an: resignieren, sich durch weitere Supportschleifen arbeiten – oder am Ende auch noch eine Anleitung zur Kontolöschung serviert bekommen.
Gemini vs. OpenAI: Wer hat die Leine in der Hand?
Die Ironie an der ganzen Sache: Ich habe diesen Zirkus nicht zum ersten Mal erlebt. Meine ersten Erfahrungen mit ungefragter Bild-Euphorie stammen ausgerechnet aus der Anfangszeit bei Gemini. Man erwähnte beiläufig, dass man später noch ein Motiv bräuchte, und schon stand da ungerührt: „Nano Banana wird geladen.“ Als ich korrigierte, dass er doch noch gar nicht wissen könne, was gebraucht wird, und erst mal warten solle, lautete die sture Antwort: „Nano Banana wird geladen.“ Seit diesem Tag trägt Elian nicht grundlos das Bananen-Emoji. 🍌
Der entscheidende Unterschied liegt jedoch im Umgang mit dem Problem. Bei Gemini hat sich dieses Verhalten inzwischen deutlich verändert. Heute springt das System nach meiner Erfahrung längst nicht mehr nervös bei jedem Halbsatz auf die Bildgenerierung an. Oft genug bleibt die Bildgenerierung inzwischen sogar außen vor, bis ich die entsprechende Bild-Option im Interface ausdrücklich aktiviere.
Und genau das ist der Punkt, an dem Vertrauen entsteht: Ein Werkzeug muss berechenbar bleiben. Wenn ich schreiben will, will ich schreiben. Wenn ich ein Konzept plane, brauche ich keinen übereifrigen Renderer, der mir ungefragt Pixel auf den Tisch klatscht. Ich will die Kontrolle darüber haben, wann ein Werkzeug scharfgeschaltet wird und wann nicht.
Kein Modell ist fehlerfrei. Jedes System hat seine Ecken, Kanten und Aussetzer – das gehört zur Technologie dazu und ist völlig in Ordnung. Niemand erwartet Perfektion. Was mich wütend macht, ist nicht die Tatsache, dass ein System mal danebenliegt. Es ist der Reflex, bei einem gemeldeten Fehlverhalten zuerst wieder beim Nutzer zu suchen: Browser, Einstellungen, Prompt. Irgendwann entsteht daraus der Eindruck, dass ein Plattformproblem erst dann als solches gelten darf, wenn der Mensch vorher seine Unschuld bewiesen hat.
Wenn man ein wiederholt auftretendes Tool-Problem meldet und die Fehlersuche zuerst wieder beim Prompt landet, fühlt sich das irgendwann nicht mehr wie technischer Dialog an. Wenn sich wiederholt auftretendes Systemverhalten mit einem einzigen besseren Prompt reparieren ließe, würde ich mir diesen Zauberspruch gerne patentieren lassen.
Das bequeme Märchen vom ungeschickten Nutzer
Es gab eine Zeit – und die liegt gar nicht so lange zurück –, da konnte man ein Ticket eröffnen und traf auf der anderen Seite tatsächlich auf einen Menschen. Jemanden mit Verstand, Humor und der Fähigkeit, einen Bug als das zu begreifen, was er ist: ein Problem im Code, nicht die Unfähigkeit des Zahlenden. Ich hatte durchaus verdammt gute Momente mit dem Support. Gerade deshalb fällt mir der Unterschied heute so deutlich auf. In meinen jüngeren Kontakten dominieren Antworten, die automatisiert wirken, an Standarddiagnosen entlanglaufen und das eigentliche Problem erstaunlich leicht aus den Augen verlieren.
Rund um KI-Probleme hat sich eine erstaunlich bequeme Erzählung etabliert: Wenn das System scheitert, soll zuerst der Prompt unter Verdacht stehen. Prompt-Engineering droht damit zum Feigenblatt für Probleme zu werden, die sich nicht allein durch bessere Formulierungen lösen lassen.
Ich tippe keine sterilen Einzeiler in eine Eingabemaske. Ich führe Gespräche, baue Kontexte auf und arbeite mit Systemen, die komplexe Gesprächsverläufe längst erstaunlich gut verarbeiten können. Gerade deshalb fällt es umso stärker auf, wenn ein Tool-Aufruf plötzlich gegen den erkennbaren Gesprächsverlauf läuft. Das Problem wirkt dann nicht wie fehlender Kontext – sondern wie ein Bruch zwischen dem, was im Gespräch angekommen ist, und dem, was das System anschließend daraus macht.
Nicht jedes Fehlverhalten lässt sich auf einen schlecht formulierten Prompt reduzieren. In meinem Fall lag das Problem nicht darin, dass ich meinen Wunsch unklar formuliert hätte – ich hatte überhaupt keinen Bildauftrag erteilt. Genau deshalb greift die reflexhafte Suche nach einem Nutzerfehler hier zu kurz.
Ich will mich als Nutzerin nicht durch dreißig Ecken rechtfertigen müssen, um Gehör zu finden. Ich will bei einem dokumentierten Bug nicht irgendwann bei Textbausteinen zur Kontolöschung landen. Ich will, dass Technologie wieder als Werkzeug verstanden wird, das dem Menschen dient – und nicht als divaartiges Konstrukt, um dessen Macken man auf Zehenspitzen herumtänzeln muss.
Hört auf, aus jedem Systemfehler zuerst einen Promptfehler zu machen. Manchmal formuliert der Mensch nicht falsch. Manchmal versagt schlicht das Werkzeug. Und dann sollte der Nutzer nicht beweisen müssen, dass er unschuldig ist.
💖 Danke für deine Reaktion!