Ich arbeite seit einigen Monaten mit einem KI-gestützten Bewertungssystem, das automatisch Bewerbungen vorsortiert. Gestern habe ich zufällig mitbekommen, dass eine wirklich gut qualifizierte Kollegin abgelehnt wurde, weil ihre Formulierungen nicht den gängigen Mustern entsprachen. Das lässt mich jetzt daran zweifeln, ob wir mit solchen Tools nicht unbewusst eine ganz bestimmte Art von Kandidaten bevorzugen. Ich frage mich, wo die Grenze zwischen effizienter Vorauswahl und unfairem Ausschluss liegt.
Es klingt nach einem Bias Problem in der Vorauswahl. Effizienz darf nicht bedeuten dass Fähigkeiten über Formulierungen gestellt werden. Die Grenze liegt dort wo Mustererkennung wichtiger wird als belegbare Kompetenzen.
Mich trifft die Erfahrung hart. Eine wirklich gut qualifizierte Kollegin wurde abgelehnt wegen Formulierungen und nicht wegen Können. Das fühlt sich unfair an und macht mir Sorgen dass wir Menschen und Ideen von vornherein ausschließen.
Vielleicht ist die Fragestellung falsch gestellt Wer garantiert dass Stil ein zuverlässiger Indikator bleibt?
Man könnte die Kriterien transparent machen und regelmäßig Bias Tests durchführen. Es hilft wenn man nachvollziehbare Regeln hat und die Ergebnisse der KI mit menschlichen Bewertungen vergleicht.
Statt allein auf Eignung zu prüfen könnte man den Fokus auf Aufgaben legen die der Job wirklich erfordert und die KI so konfigurieren dass sie Lernwege und Potenziale statt starrer Muster erkennt.
Bias ist nicht nur ein technisches Problem sondern eine Haltung die wir in der Auswahl mittragen. Man sollte das Thema ernst nehmen ohne zu behaupten dass Technik neutral wäre und wer recht hat hängt oft vom Kontext ab.
