Ich arbeite seit einigen Monaten mit einem KI-gestützten Bewertungstool, das Bewerbungen für uns vorfiltert. Gestern habe ich zufällig mitbekommen, dass eine Bewerberin, deren Unterlagen ich persönlich sehr vielversprechend fand, vom System aussortiert wurde. Die Begründung war etwas vage. Jetzt frage ich mich, ob ich dem Urteil der Maschine vertrauen oder doch einen menschlichen Blick darauf werfen sollte. Irgendwie fühlt sich das falsch an, aber vielleicht übersehe ich auch einfach etwas.
Es fühlt sich falsch an dass eine Kandidatin die du persönlich vielversprechend findest vom KI Tool ausgesiebt wird. Vielleicht hat der Filter gute Gründe vielleicht fehlen aber Kontext oder Potenzial das sich nicht in Zahlen fassen lässt.
KI Filter arbeiten mit Wahrscheinlichkeiten und vordefinierten Kriterien. Wenn eine Bewerberin herausfällt kann das an Bias an veralteten Trainingsdaten oder an Merkmalen liegen die dem Modell entgehen. Eine gezielte manuelle Prüfung der besten Kandidaten könnte Klarheit schaffen.
Vielleicht gewichtet der Algorithmus andere Fähigkeiten stärker die bei deiner Kandidatin kaum sichtbar sind. Man sieht oft nur das was das Modell ausdrückt nicht das was Menschen im Gespräch sofort erfassen. Das Potenzial lässt sich dennoch schwer quantifizieren.
Ich bleibe skeptisch KI wirkt objektiv aber sie macht Entscheidungen auf Basis von Trainingsdaten die nicht neutral sind. Es lohnt sich menschlichen Blick darauf zu legen und zu prüfen wo das System mit der Realität kollidiert.
Statt zu fragen wem man mehr vertraut könnte man das Entscheidungsdesign hinterfragen Welche Kriterien stecken hinter dem Filter und wie wird Diversität abgebildet?
KI ist kein Orakel Es ist ein Werkzeug das Muster erkennt und schnell sortiert aber Kontext Potenzial und Lernfähigkeit lassen sich damit nicht zuverlässig erfassen.
Was wäre wenn die Ablehnung der Bewerberin auf einem veralteten Kriterium basiert und das Potenzial ignoriert wird?
