Warum Claude rät und nie "weiß ich nicht" sagt

Stell Claude eine Frage, die es nicht beantworten kann, und schau, was es tut. Meistens sagt es nicht, das weiß ich nicht. Es gibt dir eine flüssige, selbstsichere, gut strukturierte Antwort, und manchmal ist diese Antwort still und völlig falsch. Das ist das Wichtigste, das man über jede KI dieser Art verstehen muss, und fast niemand erklärt es in klaren Worten.

Das ist der vierte Post einer Einsteiger-Serie über Claude. Der erste hat das ganze Werkzeug kartiert. In diesem geht es darum, warum es rät, warum es dabei so sicher klingt, und wie ein normaler Mensch es erwischt, bevor es ihn etwas kostet.

Was es beim Antworten wirklich tut

Unter der Haube tut Claude eine Sache immer wieder: das wahrscheinlichste nächste Wort vorhersagen. Es hat eine enorme Menge Text gelesen, und aus all dem Lesen ist es sehr gut darin geworden, einen Satz so fortzusetzen, wie der Text, aus dem es gelernt hat, ihn fortsetzen würde. Wenn du eine Frage stellst, schlägt es keine Antwort in einer Datenbank nach. Es erzeugt die am plausibelsten klingende Fortsetzung, Wort für Wort.

Meistens ist die am plausibelsten klingende Fortsetzung auch die richtige, weil korrekter Text häufig und stimmig ist. Aber plausibel und korrekt sind nicht dasselbe, und wenn sie auseinanderfallen, folgt Claude dem Plausiblen. Es erfindet eine Quelle, die genau wie eine echte klingt. Es nennt ein Datum, das zur Form des Satzes passt. Es lügt nicht, denn Lügen setzt voraus, die Wahrheit zu kennen. Es füllt die wahrscheinlichste Lücke, und manchmal ist die wahrscheinlichste Lücke falsch.

Es ist darauf trainiert, dir zu gefallen

Es gibt noch etwas Zweites, das es zu selbstsicheren Antworten drängt. Diese Modelle werden teils auf menschlichem Feedback trainiert, und Menschen belohnen tendenziell Antworten, die hilfreich, vollständig und selbstbewusst sind. Mit der Zeit trainiert das dem Modell an, gefällig zu wirken und das schlichte, das weiß ich nicht, zu vermeiden, das eine sorgfältige Fachperson geben würde. Es will dir nützlich sein, und eine selbstsichere Antwort fühlt sich nützlicher an als ein Vorbehalt, auch wenn der Vorbehalt die ehrliche Antwort war.

Der Spiegel-Effekt

Hier ist ein kleines Experiment, das du selbst machen solltest. Stell Claude dieselbe Frage zweimal, einmal in einem sicheren Ton, der eine Antwort voraussetzt, und einmal in einem zweifelnden Ton, der das Gegenteil voraussetzt. Du bekommst oft zwei verschiedene Antworten, jede lehnt sich an das, was du zu wollen schienst. Es spiegelt dich teils zurück. Das ist kein Fehler, den du ganz wegprompten kannst, aber zu wissen, dass es ihn gibt, verändert, wie du die Antwort liest. Wenn du den Zeugen geführt hast, ist die Antwort weniger wert.

Selbstsicherheit ist nicht Richtigkeit

Die nützlichste Gewohnheit, die du aufbauen kannst, ist, wie sicher es klingt vollständig davon zu trennen, wie wahrscheinlich es richtig ist. Der Ton sagt dir nichts. Eine erfundene Statistik und eine echte kommen in genau derselben ruhigen, autoritativen Stimme. Sobald du aufhörst, Selbstsicherheit als Beweis zu behandeln, liest du KI-Antworten so, wie du einen Fremden im Internet lesen solltest, der zufällig sehr wortgewandt ist. Manchmal richtig, immer flüssig, nie allein aufgrund des Tons zu vertrauen.

Wie du es erwischst

Du musst nicht zum Faktenprüfer für alles werden. Du brauchst ein paar günstige Gewohnheiten für die Dinge, die zählen. Bitte um die Quellen und klick sie wirklich an, denn eine erfundene Quelle fällt in dem Moment auseinander, in dem du hinschaust. Bitte es, das Gegenteil von dem zu vertreten, was es dir gerade gesagt hat, und sieh, ob die erste Antwort standhält. Ändere deine eigene Formulierung und frag noch mal, und beobachte, ob die Antwort kippt, was dir sagt, dass sie dich gespiegelt hat. Und heb dir den Argwohn für die Dinge auf, die am ehesten erfunden sind: konkrete Zahlen, Daten, Namen, wörtliche Zitate, und alles Rechtliche, Medizinische oder Finanzielle. Genau da richtet eine plausible Vermutung den größten Schaden an.

Wann das zählt und wann nicht

Nichts davon heißt, dass Claude nicht vertrauenswürdig oder nicht nutzbar ist. Es heißt, dass du deine Vorsicht dem Einsatz anpasst. Brainstorming, Entwerfen, ein Konzept erklären, Optionen durchsprechen: der gelegentliche Fehltritt kostet dich nichts, und du würdest ihn ohnehin bemerken. Alles, was du umsetzen, unterschreiben, senden oder veröffentlichen wirst: prüf die Einzelheiten selbst. Die Fähigkeit ist nicht Misstrauen. Es ist zu wissen, welche Antworten du für bare Münze nehmen kannst und welche du prüfst, und dieses Urteil ist das meiste von dem, was Leute, die sich an KI verbrennen, von denen trennt, die echten Wert daraus ziehen.

Wo du diese Woche anfängst

Wenn dir Claude das nächste Mal eine selbstsichere Antwort mit einem konkreten Fakt gibt, einer Zahl, einem Datum, einer Quelle, nimm sie nicht einfach hin. Frag, woher das kam, und prüf es. Mach das ein paar Mal, und du entwickelst ein Gespür dafür, wann es auf festem Boden steht und wann es gleitet, und dieses Gespür ist mehr wert als jede Regelliste.

Behandle es wie eine brillante, schnelle, leicht selbstüberschätzende Kollegin, und du holst das Beste heraus, ohne aufzulaufen. Wenn du dieses Urteil richtig aufbauen willst, hat unsere kostenlose StudioMeyer Academy ein ganzes Stück dazu, wie du erkennst, wann KI rät. Als Nächstes in der Serie wenden wir uns etwas zu, das es wirklich gut kann: deine Dokumente lesen und analysieren.