Stell Claude eine Frage, für die ihm verlässliche Informationen fehlen. Es kann das erkennen und „weiß ich nicht“ sagen; es kann aber auch eine flüssige, selbstsichere und falsche Antwort erzeugen. Eine plausible Formulierung beweist deshalb keine Richtigkeit. Das ist eine wichtige Grenze für den Umgang mit KI.
Das ist der vierte Post einer Einsteiger-Serie über Claude. Der erste hat das ganze Werkzeug kartiert. In diesem geht es darum, warum es rät, warum es dabei so sicher klingt, und wie ein normaler Mensch es erwischt, bevor es ihn etwas kostet.
Was es beim Antworten wirklich tut#
Ein Sprachmodell erzeugt Text schrittweise aus Tokens, also Textbausteinen, auf Basis gelernter Muster und des aktuellen Kontexts. Ohne passende Werkzeuge ist das kein Nachschlagen einer garantierten Faktenantwort. Claude kann aber Websuche, Dateien oder andere Werkzeuge einbeziehen, wenn diese verfügbar sind. Prüfe, ob es tatsächlich eine Quelle abgerufen hat, statt aus dem flüssigen Text auf Recherche zu schließen.
Eine erfundene Quelle, ein falsches Datum oder eine nicht belegte Zahl wird als Halluzination bezeichnet. Daraus allein kannst du nicht auf die Absicht des Systems schließen. Für deine Arbeit zählt, ob die Aussage belegt ist. Verlange bei wichtigen Fakten einen überprüfbaren Nachweis und erlaube ausdrücklich, fehlende Information als fehlend zu kennzeichnen.
Es ist darauf trainiert, dir zu gefallen#
Ein weiterer Fehlermodus ist Gefälligkeit: Eine Antwort kann sich zu stark an deiner vermuteten Erwartung orientieren. Gute Formulierung und Selbstsicherheit sind deshalb keine unabhängigen Belege. Formuliere die Frage offen, verlange begründete Gegenargumente und erlaube Unsicherheit. Auch diese Maßnahmen beseitigen Halluzinationen nicht vollständig.
Der Spiegel-Effekt#
Hier ist ein kleines Experiment, das du selbst machen solltest. Stell Claude dieselbe Frage zweimal, einmal in einem sicheren Ton, der eine Antwort voraussetzt, und einmal in einem zweifelnden Ton, der das Gegenteil voraussetzt. Du bekommst oft zwei verschiedene Antworten, jede lehnt sich an das, was du zu wollen schienst. Es spiegelt dich teils zurück. Das ist kein Fehler, den du ganz wegprompten kannst, aber zu wissen, dass es ihn gibt, verändert, wie du die Antwort liest. Wenn du den Zeugen geführt hast, ist die Antwort weniger wert.
Selbstsicherheit ist nicht Richtigkeit#
Die nützlichste Gewohnheit, die du aufbauen kannst, ist, wie sicher es klingt vollständig davon zu trennen, wie wahrscheinlich es richtig ist. Der Ton sagt dir nichts. Eine erfundene Statistik und eine echte kommen in genau derselben ruhigen, autoritativen Stimme. Sobald du aufhörst, Selbstsicherheit als Beweis zu behandeln, liest du KI-Antworten so, wie du einen Fremden im Internet lesen solltest, der zufällig sehr wortgewandt ist. Manchmal richtig, immer flüssig, nie allein aufgrund des Tons zu vertrauen.
Wie du es erwischst#
Du musst nicht zum Faktenprüfer für alles werden. Du brauchst ein paar günstige Gewohnheiten für die Dinge, die zählen. Bitte um die Quellen und klick sie wirklich an, denn eine erfundene Quelle fällt in dem Moment auseinander, in dem du hinschaust. Bitte es, das Gegenteil von dem zu vertreten, was es dir gerade gesagt hat, und sieh, ob die erste Antwort standhält. Ändere deine eigene Formulierung und frag noch mal, und beobachte, ob die Antwort kippt, was dir sagt, dass sie dich gespiegelt hat. Und heb dir den Argwohn für die Dinge auf, die am ehesten erfunden sind: konkrete Zahlen, Daten, Namen, wörtliche Zitate, und alles Rechtliche, Medizinische oder Finanzielle. Genau da richtet eine plausible Vermutung den größten Schaden an.
Wann das zählt und wann nicht#
Nichts davon heißt, dass Claude nicht vertrauenswürdig oder nicht nutzbar ist. Es heißt, dass du deine Vorsicht dem Einsatz anpasst. Brainstorming, Entwerfen, ein Konzept erklären, Optionen durchsprechen: der gelegentliche Fehltritt kostet dich nichts, und du würdest ihn ohnehin bemerken. Alles, was du umsetzen, unterschreiben, senden oder veröffentlichen wirst: prüf die Einzelheiten selbst. Die Fähigkeit ist nicht Misstrauen. Es ist zu wissen, welche Antworten du für bare Münze nehmen kannst und welche du prüfst, und dieses Urteil ist das meiste von dem, was Leute, die sich an KI verbrennen, von denen trennt, die echten Wert daraus ziehen.
Wo du diese Woche anfängst#
Wenn dir Claude das nächste Mal eine selbstsichere Antwort mit einem konkreten Fakt gibt, einer Zahl, einem Datum, einer Quelle, nimm sie nicht einfach hin. Frag, woher das kam, und prüf es. Mach das ein paar Mal, und du entwickelst ein Gespür dafür, wann es auf festem Boden steht und wann es gleitet, und dieses Gespür ist mehr wert als jede Regelliste.
Behandle es wie eine brillante, schnelle, leicht selbstüberschätzende Kollegin, und du holst das Beste heraus, ohne aufzulaufen. Wenn du dieses Urteil richtig aufbauen willst, hat unsere kostenlose StudioMeyer Academy ein ganzes Stück dazu, wie du erkennst, wann KI rät. Als Nächstes in der Serie wenden wir uns etwas zu, das es wirklich gut kann: deine Dokumente lesen und analysieren.
