In einem Feldexperiment der Harvard Business School prüften 228 Evaluatoren 48 reale Einreichungen mit Unterstützung eines großen Sprachmodells. Gab das Modell eine nackte Empfehlung ab — annehmen oder ablehnen, ohne Begründung —, verbesserte sich die Entscheidungsqualität gemessen an einem unabhängigen Expertenmaßstab. Kam dieselbe Empfehlung eingebettet in eine überzeugende schriftliche Begründung, verschwand diese Verbesserung, obwohl die Prüfer der KI häufiger folgten (Lane et al., Harvard Business School, 2025).
Höhere Befolgung. Keine besseren Ergebnisse. Wenn Sie irgendwo in Ihrem Betrieb einen KI-Screener einsetzen — Kandidaten-Shortlists, Lieferantenauswahl, Stage-Gate-Reviews —, sollte Sie diese Kombination innehalten lassen, denn genau das Feature, das die meisten Anbieter als Sicherheitsmechanismus verkaufen, hat die Menschen schlechter gemacht.
Das Experiment, das die Explainability-Annahme umkehrt
Die Studie — The Narrative AI Advantage?, HBS Working Paper 25-001 — testete drei Bedingungen an realen Einreichungen aus der Frühphaseninnovation: rein menschliche Bewertung, Mensch plus Black-Box-Empfehlung des Modells und Mensch plus dieselbe Empfehlung mit narrativer Erklärung. Jede Entscheidung wurde gegen einen unabhängigen Expertenmaßstab bewertet; „Qualität" ist hier also keine selbstberichtete Zuversicht. Es ist gemessene Treffsicherheit gegenüber einem Standard, den die Prüfer nicht sehen konnten.
Der Black-Box-Arm gewann. Der Arm mit Erklärung übertraf die rein menschliche Leistung nicht, obwohl sich die Prüfer in dieser Bedingung häufiger auf das Modell verließen. Die Deutung der Forschenden ist unmissverständlich: Narrative Erklärungen unterdrücken produktive Korrekturen, indem sie unabhängige Prüfung durch überzeugenden Text ersetzen.
Diese Formulierung lohnt eine Pause. Die gesamte Rechtfertigung erklärbarer KI in der Entscheidungsunterstützung lautet, eine Begründung erlaube dem Menschen, die Maschine zu auditieren. Dieses Experiment findet: Die Begründung ersetzt das Audit. Flüssige, gut strukturierte Prosa wird als Beleg gelesen und nicht als Behauptung, die noch zu prüfen wäre. Der Prüfer hört auf, die Einreichung zu bewerten, und beginnt, das Argument zu bewerten — das das Modell bereits auf Überzeugungskraft optimiert hat.
Eine Anmerkung zum Alter, denn sie bestimmt das Gewicht: Das Arbeitspapier ist nicht neu. Es kehrte über eine Synthese der Harvard Business Review vom August 2026 in die operative Diskussion zurück, die es in einen breiteren Vier-Stufen-Rahmen dazu einordnet, wo KI entlang einer Innovationspipeline hilft und wo sie schadet (Harvard Business Review, 2026). Das Experiment ist gereifte Evidenz in neuer Anwendung, keine frische Schlagzeile. Das ist ein Argument, es ernster zu nehmen, nicht weniger ernst.
Asymmetrische Befolgung: Warum der Ablehnungspfad bricht
Der Mechanismus trägt im Papier einen Namen — asymmetrische Befolgung — und ist der operativ entscheidende Befund.
Die Prüfer folgten der erklärten KI nicht gleichmäßig. Sie folgten ihr überproportional, wenn sie Ablehnung empfahl. Annahme-Empfehlungen wurden weiterhin hinterfragt; Ablehnungs-Empfehlungen wurden weitgehend übernommen. Das Ergebnis war ein deutlicher Anstieg falsch-negativer Entscheidungen, konzentriert genau auf die Grenzfälle, in denen menschliches Urteil seine Kosten rechtfertigen soll.
Für die Asymmetrie gibt es einen schlichten psychologischen Grund, und er setzt keine Nachlässigkeit voraus. Eine Ablehnung zu übergehen heißt, den eigenen Namen für eine Person einzusetzen, gegen die die Maschine schriftlich und begründet argumentiert hat. Eine Annahme zu übergehen kostet nichts — die Pipeline läuft weiter und jemand anderes schaut später hin. Die Erklärung erhöht also den persönlichen Preis einer Widerspruchsrichtung und lässt die andere unberührt. Befolgung verteilt sich ungleich, weil Risiko sich ungleich verteilt.
Übertragen Sie das auf den Recruiting-Funnel eines Unternehmens mit 200 Mitarbeitenden. Ihr KI-Screener verarbeitet 400 Bewerbungen für eine Stelle. Er liefert Ablehnungsempfehlungen mit zweiabsätzigen Begründungen. Ihre Recruiterin, die die Warteschlange im Volumen abarbeitet, stimmt fast allen zu — die Argumentation ist kohärent, spezifisch und oberflächlich prüfbar. Der Screener hat die Pipeline nicht nur gefiltert. Er hat die Annahme-/Ablehnungsentscheidung stillschweigend von Ihrer Recruiterin auf ein Modell verlagert, während Ihre Prozessdokumentation weiterhin behauptet, ein Mensch habe entschieden.
Falsch-Negative sind der eine Fehler, den Ihr Funnel nicht sehen kann
Deshalb ist dieses spezielle Versagen schlimmer, als die Effektstärke nahelegt.
Screening-Fehler treten in zwei Formen auf, und Ihre Kennzahlen sehen nur eine. Ein Falsch-Positiv — ein schwacher Kandidat rückt vor — zeigt sich irgendwann als Fehlbesetzung, gescheiterte Probezeit, neu ausgeschriebene Stelle. Das ist schmerzhaft, sichtbar und zurechenbar. Ein Falsch-Negativ — eine starke Bewerberin wird abgelehnt — erzeugt überhaupt kein Artefakt. Keine Kohorte zum Messen, kein Austrittsgespräch, keine Kostenposition. Die Person geht woanders hin, ist dort erfolgreich, und Sie erfahren es nie.
Ein KI-Screener, der Ihre Fehlerverteilung Richtung Falsch-Negative verschiebt, wird also auf jedem Dashboard, das Sie haben, so aussehen, als funktioniere er. Die Screening-Zeit sinkt. Der Durchsatz der Recruiter steigt. Die Einstellungsqualität bleibt stabil, weil die tatsächlich eingestellten Kandidaten weiterhin passen. Die Verschlechterung ist real und strukturell unsichtbar.
Diese Asymmetrie verstärkt sich in derselben Richtung wie ein weiteres gut dokumentiertes Risiko derselben Schicht. Eine Stanford-Untersuchung von Millionen Bewerbungen bei Arbeitgebern, die einen gemeinsamen algorithmischen Screener nutzen, fand: Wenn viele Organisationen auf korrelierte Bewertungslogiken setzen, wird eine von einem System abgelehnte Person systematisch auch von den anderen abgelehnt — ein Monokultur-Effekt, der den blinden Fleck eines einzelnen Modells in marktweiten Ausschluss verwandelt (Stanford HAI, 2026). Kombiniert man beide Befunde, schärft sich das Bild: korrelierte Ablehnungslogik über Arbeitgeber hinweg plus ein interner Schubs, Ablehnungsempfehlungen zu übernehmen, heißt, dass sich im Ablehnungspfad sowohl der unsichtbare als auch der systemische Schaden konzentriert.
Das Argument für Erklärungen — und seine tatsächliche Grenze
Der naheliegende Einwand: Erklärungen lassen sich nicht entfernen. Aufsichtsbehörden, Prüfer und zunehmend die Betroffenen selbst erwarten eine Begründung. Adverse-Action-Pflichten, entstehende KI-Transparenzregeln und schlichter beruflicher Anstand weisen in dieselbe Richtung.
Dieser Einwand ist korrekt und steht nicht im Widerspruch zum Befund — denn er betrifft ein anderes Publikum.
Erklärungen erfüllen zwei völlig getrennte Funktionen, die Anbieter zu einem Feature bündeln. Die erste ist Rechenschaft: eine auditierbare Aufzeichnung, warum entschieden wurde, im Nachhinein geprüft von Compliance, einer Behörde oder der betroffenen Person. Die zweite ist Entscheidungsunterstützung: Text, der einem menschlichen Prüfer im Moment des Urteils angezeigt wird, um ihm die Entscheidung zu erleichtern. Der Harvard-Befund belastet die zweite Nutzung, nicht die erste.
Sie können die Modellbegründung vollständig protokollieren, für Audits abrufbar machen und jeder Adverse-Action-Mitteilung beifügen — ohne sie dem Prüfer anzuzeigen, bevor er sich ein eigenes Bild gemacht hat. Keine Transparenzpflicht verlangt, dass die Begründung das Erste ist, was Ihre Recruiterin liest. Diese beiden Dinge zu bündeln ist eine Produktdesign-Voreinstellung, keine rechtliche Anforderung.
Es gibt eine zweite, engere Verteidigung von Erklärungen, die genannt werden sollte: Sie helfen, wenn der Mensch die Aussagen unabhängig prüfen kann. Steht in der Begründung „keine SOC-2-Zertifizierung" und Ihre Prüferin kann das in zehn Sekunden nachsehen, ist die Erklärung ein Verweis auf eine Tatsache. Steht dort „begrenzte Hinweise auf strategische Verantwortungsübernahme", ist es eine Interpretation im Gewand eines Befunds, und es gibt nichts zu prüfen. Überprüfbarkeit ist die Trennlinie — dieselbe Unterscheidung, die die Aufgaben, bei denen Praktiker Agenten vertrauen, von jenen trennt, bei denen sie es nicht tun: Vertrauen hängt daran, ob ein Ergebnis eine objektive Bewertungsmetrik hat, nicht an der Leistungsfähigkeit des zugrunde liegenden Modells (MIT Technology Review, 2026).
Was Sie in diesem Quartal an Ihrem KI-Screener ändern sollten
Vier Schritte, nach Kosten geordnet.
1. Prüfen Sie, wo Erklärungen standardmäßig erscheinen. Die meisten Screening-, Sourcing- und Lieferantenbewertungstools zeigen den Begründungstext neben der Empfehlung an, ohne eine Konfigurationsoption offenzulegen. Klären Sie je Tool, ob die Begründung am Entscheidungspunkt unterdrückt und zugleich im Log behalten werden kann. Lautet die Antwort Nein, ist das eine Beschaffungsfrage für die nächste Verlängerung — und zwar eine konkrete.
2. Pilotieren Sie den Nur-Urteil-Modus auf dem Ablehnungspfad. Nicht im gesamten Funnel — auf dem Ablehnungspfad. Zeigen Sie Empfehlung und zugrunde liegendes Dokument, halten Sie die Erzählung zurück, bis der Prüfer ein Urteil erfasst hat, und geben Sie sie dann frei. Das ist eine Reihenfolgeänderung, keine Entfernung, und meist im Review-Interface konfigurierbar, auch wenn die Modellausgabe es nicht ist.
3. Messen Sie Override-Raten in beide Richtungen. Erfassen Sie, wie oft Ihre Prüfer Annahme- gegenüber Ablehnungsempfehlungen umkehren. Ein gesundes Verhältnis ist ungefähr symmetrisch. Kippt Ihr Team 15 % der Annahmen und 2 % der Ablehnungen, haben Sie asymmetrische Befolgung im eigenen Betrieb gemessen — und damit die eine Zahl, die das Problem für Budgetverantwortliche sichtbar macht.
4. Ziehen Sie Stichproben aus dem Ablehnungsstapel. Nehmen Sie pro Quartal 20 abgelehnte Kandidaten oder Anbieter und lassen Sie sie von einer zweiten Person blind bewerten, ohne die KI-Ausgabe. Eine kleine, langweilige Kontrolle, die die einzigen Falsch-Negativ-Daten erzeugt, die Sie je haben werden. Ohne sie steuern Sie eine Fehlerklasse, für die Sie kein Messinstrument besitzen.
Der Befund hinter allen vier Schritten ist unbequem für die Richtung, in die sich der Markt bewegt. Jede Roadmap für KI-Screener ergänzt reichere, dialogischere Erklärungen. Die beste verfügbare Feldevidenz sagt: Je reicher die Erklärung, desto mehr ersetzt sie das Urteil, für dessen Anwendung Sie einen Menschen bezahlen — und die Substitution trifft am härtesten jene Entscheidungen, die Ihnen nie zurückmelden, dass sie falsch waren.
Stellen Sie vor der nächsten Verlängerung Ihres Screening-Tools dem Anbieter eine einzige Frage: Kann ich die Erklärung am Entscheidungspunkt abschalten und sie im Audit-Log behalten? Lautet die Antwort Nein, kaufen Sie keine Entscheidungsunterstützung. Sie kaufen Compliance und bezahlen einen Prüfer dafür, sie abzunicken.
