Woran du erkennst, ob ein KI-Werkzeug wirklich funktioniert, bevor du ihm vertraust

Ich hätte beinahe ein Werkzeug ausgerollt, das im Grunde nichts anderes tat als raten. Meinen Test bestand es makellos: jedes Beispiel richtig. Dann richtete ich es auf die tatsächlichen, chaotischen Alltagsdaten, und es fiel so gründlich auseinander, dass ich die Zahl zweimal lesen musste. Das Werkzeug war nicht kaputt. Mein Test war es. Diese Lücke ist der teuerste Fehler, den ich Menschen im Umgang mit KI derzeit machen sehe: der Demo vertrauen, ausrollen, Wochen später merken, dass das Ding immer nur bei den leichten Fällen funktioniert hat. So fängst du es ab, bevor es dich teuer zu stehen kommt.

Das Wichtigste in Kürze

• Ich wollte einen teuren KI-Dienst durch einen günstigeren ersetzen, der dieselbe Routineaufgabe erledigt. Bei dem Test, den ich geschrieben hatte, kamen beide auf 100 %.
• Auf meinen echten Daten blieb das gute Werkzeug zuverlässig; das günstige sackte auf ungefähr einen Münzwurf ab. Der Test war nicht falsch, er war einfach: Ich hatte ihn unbewusst mit den offensichtlichen Fällen gefüttert.
• Die Lösung kostet fast nichts: Teste an einem Ausschnitt deiner eigenen echten, chaotischen Daten, nicht an der Demo.

Die Ausgangslage

Eine kleine, langweilige Aufgabe in einem Nebenprojekt von mir: einen eingehenden Text nehmen und in eine Kategorie einsortieren, tausendfach am Tag. Dafür braucht es kein Genie, also sollte ein günstiges Werkzeug das schaffen. Den teureren Dienst ersetzen, die gleiche Qualität behalten, die Differenz einstecken. Bevor ich umschaltete, tat ich das Verantwortungsvolle und baute mir einen kleinen Test.

Der Test, der mir sagte, was ich hören wollte

Ich schrieb ein paar Dutzend Beispiele von Hand auf, jeweils mit der richtigen Antwort, und prüfte, wie oft jedes Werkzeug richtig lag. Das günstige kam auf 100 %, genauso wie das teure, das ich ersetzen wollte. Doch etwas nagte. Eine perfekte Punktzahl bei einer Aufgabe aus der echten Welt bedeutet meist nur eines: Der Test war zu einfach. Also machte ich vor dem Ausrollen noch eine Probe.

Der Test, der mir die Wahrheit sagte

Statt meiner handverlesenen Beispiele zog ich einen Ausschnitt aus den tatsächlichen Daten, dem echten Stoff, der jeden Tag durch das System fließt. Beide Werkzeuge liefen still im Hintergrund dagegen. Das kam dabei heraus.

Zweiundfünfzig Prozent bei einer Ja-Nein-Entscheidung ist ein Münzwurf. Das Werkzeug, das meinen Test mit Bravour bestanden hatte, lag auf echten Daten kaum besser als blankes Raten.

Ich habe es nicht ausgerollt. Ich blieb beim zuverlässigen Werkzeug und fand später eine günstigere Option, die den echten Test bestand. Aber das ist ein anderer Beitrag.

Warum der Test gelogen hat

Der Test war nicht kaputt. Er war nicht repräsentativ, was schlimmer ist, weil es unauffällig aussieht.

Ein Test, den du selbst schreibst, misst, wie gut du die leichten Fälle verstehst. Mehr nicht.

Der Grund ist einfach: Wenn du Testfälle von Hand schreibst, schreibst du die klaren auf, ohne es zu merken. Am Ende prüfst du, ob das Werkzeug die leichte Version der Aufgabe beherrscht, und die leichte Version beherrscht fast alles. Deine tatsächliche Arbeit ist nicht die leichte Version. Sie ist der halbfertige Satz, die Nachricht, die um zwei Themen gleichzeitig kreist, die vor Sarkasmus triefende, das falsch ausgefüllte Formular. Genau dort bricht ein schwaches Werkzeug zusammen und ein gutes verdient seinen Preis. In meinem handgeschriebenen Test kam nichts davon vor, also konnte er die beiden Werkzeuge nicht auseinanderhalten.

Die Gewohnheit, die ich seitdem beibehalte

Demos oder handgeschriebenen Tests vertraue ich dafür nicht mehr. Die Regel ist kurz: Bevor du einem KI-Werkzeug echte Arbeit anvertraust, teste es an einem Ausschnitt deiner eigenen echten Daten, nicht an den Beispielen, die der Anbieter ausgesucht hat, und auch nicht an denen, die du ausgesucht hast. In der Praxis sind es vier Schritte, keiner davon technisch:

1. Nimm eine Stichprobe deiner echten Arbeit. Ein paar Dutzend echte Fälle aus dem letzten Monat, die normalen, nicht die aufgeräumten. Schreib auf, wie die richtige Antwort hätte lauten sollen.
2. Lass das Werkzeug still gegen diese Stichprobe laufen, wo seine Antworten noch nichts bewirken.
3. Vergleiche es mit dem, was du heute tust: deinem aktuellen Werkzeug oder deinem Team, das es von Hand erledigt.
4. Roll es nur aus, wenn es bei den schweren Fällen standhält, nicht bei der Demo.

Ein echter Test kostet eine Stunde. Ihn wegzulassen kostet Wochen an Aufräumarbeit.

Was das bedeutet, wenn du derjenige bist, der unterschreibt

Du musst das Modell nicht verstehen. Du musst nur einen einzigen Satz zurückweisen: „In der Demo hat es großartig abgeschnitten." Natürlich hat es das: Die Demo wurde dafür gebaut, großartig abzuschneiden. Die einzige Frage, die dich schützt, lautet: Wie schlägt es sich auf unseren Daten, bei den Fällen, mit denen wir wirklich kämpfen? Wenn der Anbieter diesen Test nicht durchführen kann oder will, ist das schon deine Antwort. Die eine Zahl, nach der es sich zu fragen lohnt: die Trefferquote auf deinen eigenen Daten gegenüber der Trefferquote in der Demo. Liegen die beiden weit auseinander, hast du das Risiko gefunden, bevor es dich gefunden hat.

Die schweren Fälle sind der ganze Grund, warum du überhaupt für ein gutes Werkzeug bezahlst. Also bevor du einem KI-Werkzeug echte Arbeit anvertraust: Wann hast du es zuletzt gegen den chaotischen, echten Stoff geprüft, statt gegen die Version, die dich beeindrucken soll?