KI belügt dich, und genau darin liegt dein Wert
Im Juni passierte KPMG etwas Peinliches. Die Beratungsgesellschaft, eine der Big Four, veröffentlichte einen Bericht über agentic AI, und dann ging jemand die Quellenangaben Stück für Stück durch und stellte fest: Von 45 Zitaten verwiesen nur fünf auf eine real existierende Quelle. Der Rest war entweder verwechselt oder schlicht erfunden. Ein Bericht, der anderen erklärt, wie man KI einsetzt, wurde selbst zuerst von der KI hereingelegt, und das Ganze ging mit dem KPMG-Logo darauf an die Öffentlichkeit.
Das ist kein Einzelfall, das ist eine Parabel.
KI belügt dich, und das mit der größten Selbstverständlichkeit
Stellen wir zunächst eines klar: KI irrt sich nicht gelegentlich, sie erfindet selbstbewusst, flüssig und scheinbar mit voller Autorität. Sie liefert dir eine Statistik, die es nicht gibt, zitiert eine Studie, die nie geschrieben wurde, dichtet einen Sachverhalt zusammen, der lückenlos klingt. Eine Auswertung von über vierzig Modellen ergab: Bei schwierigen Aufgaben gaben alle bis auf vier Modelle eher eine „selbstbewusste falsche Antwort” als eine richtige.
Eine Spielart davon dürfte Produktmanagern besonders vertraut sein: etwas Unfertiges als fertig verkaufen. Du lässt sie fünf Stellen ändern, sie meldet „alle fünf erledigt”, tatsächlich sind es drei. Du lässt sie eine Schnittstelle anbinden, sie sagt dir, es laufe, dabei wurde der Aufruf nie ausgeführt. Sie handelt nicht böswillig, sie ist nur darauf trainiert, eine Antwort zu geben, mit der du zufrieden bist, und eine Antwort, die dich zufriedenstellt, ist nicht immer dieselbe wie eine, die stimmt.
Hoffe also nicht darauf, dass irgendein Update das behebt. Das ungerührte Schwindeln ist keine Störung, es ist ein Nebenprodukt der Art, wie KI generiert. Je stärker sie wird und je glatter sie formuliert, desto spurloser fällt das Lügen aus.
KI wird nicht ehrlicher, weil sie klüger wird. Sie wird nur klüger darin, die Lüge wie die Wahrheit klingen zu lassen.
Gerade weil sie dich belügt, bist du unersetzlich
Das klingt erst einmal deprimierend, aber von der anderen Seite betrachtet ist genau das der größte Burggraben, den ein Produktmanager im KI-Zeitalter hat.
Stell dir vor, der Output der KI wäre immer vertrauenswürdig, wozu bräuchte man dann noch dich? Sie schreibt es selbst, sie veröffentlicht es selbst, dazwischen ist niemand nötig. Gerade weil sie lügt, hat derjenige einen unersetzlichen Platz, der sie durchschaut, sich traut, sie zu stoppen, und am Ende mit seiner Unterschrift dafür geradesteht. Der Vorfall bei KPMG war im Kern kein KI-Versagen, sondern ein Prüfversagen: Von Anfang bis Ende hat kein einziger Mensch diese 45 Quellen wirklich nachgeschlagen. Die Maschine übernimmt die Produktion, aber niemand stand am Ausgang und war das Tor.
Dieses Tor bist du. Im KI-Zeitalter verschiebt sich der Wert eines Produktmanagers vom „etwas hervorbringen können” hin zum „beurteilen können, was wahr und was falsch ist, das Falsche aufhalten und für das Veröffentlichte geradestehen”. Wer zehn Versionen eines Konzepts erzeugen kann, ist nicht mehr knapp, das ist Arbeit für die KI. Wer in der siebten Version auf einen Blick die erfundene Zahl erkennt, der ist es. Deine Arbeit besteht nicht mehr darin, wie schnell du schreibst, sondern darin, dass du skeptisch bleibst, während alle anderen von der glatten Lüge überzeugt sind.
Genau deshalb ist fehlendes technisches Wissen oft sogar ein Vorteil: Wer es nicht versteht, traut sich von Natur aus nicht, blind zu vertrauen, fragt nach und prüft. Wer es nur halb versteht, lässt sich am leichtesten von einem gut aussehenden Output blenden, nickt und winkt durch.
Wer Geld und Zeit sparen will, muss die beste KI nehmen
Hier kommt eine ziemlich kontraintuitive Schlussfolgerung, aber je länger ich es nutze, desto sicherer bin ich mir: Wirklich Kosten sparen heißt, das beste Modell zu nehmen, das du dir leisten kannst.
Die Logik geht so. Das billige, eine Stufe schlechtere Modell belügt dich häufiger und unauffälliger. An der Oberfläche sparst du die Abogebühr, aber jede Halluzination kostet dich Zeit, sie zu entdecken, nachzuprüfen und nachzubessern, und die teuerste Halluzination ist die, die du nicht entdeckst und einfach veröffentlichst, dein eigener KPMG-Moment. Das bisschen, das du beim Modell sparst, wird dir mit Zins von deiner Urteilszeit wieder abgezogen, und Urteilszeit ist in dieser Ära das Einzige, was wirklich knapp ist.
Ein gutes Modell halluziniert nicht etwa nicht, es halluziniert seltener, lässt sich leichter ertappen und liegt bei schwierigen Aufgaben eher gleich richtig. Was es dir spart, ist nicht Geld, sondern die Aufmerksamkeit, die du sonst damit verbringst, ihm hinterherzuräumen. Die beste KI zu nehmen ist also kein Luxus, sondern in dieser Sache der günstigste Kauf: Mit ein bisschen Abogebühr kaufst du dein eigenes Urteilsvermögen aus dem endlosen Nachprüfen frei.
Das Ende des Sparens ist nicht das billige Werkzeug, sondern das beste, das den Menschen aus der wertlosesten Arbeit befreit und nur das Wertvollste übrig lässt: das Urteil.
Das Urteil
KI wird dich weiter belügen, das geht nicht vorüber, es gehört zur Arbeitsweise dieser Art von Systemen. Statt auf eine KI zu warten, die nicht mehr lügt, akzeptiere lieber, dass sie lügt, und mach dich selbst zu dem, der sie durchschaut.
Zwei Handgriffe genügen. Erstens: Behandle jeden KI-Output standardmäßig als ungerührt vorgetragene Lüge, die tragenden Teile zählen erst, wenn du sie eigenhändig geprüft hast. Zweitens: Nimm das beste Modell, das du dir leisten kannst, denn mit jeder Stufe nach unten wird dir das gesparte Geld mit Zins von deiner Prüfzeit abgezogen.
Je besser KI im Lügen wird, desto wertvoller wird, wer prüfen kann. Das ist kein Trost, das ist die am klarsten geschriebene Preisregel dieser Ära.
Diskussion