Wie fair sind automatische beurteilungen von bewerbungsvideos wirklich?

[Stephen.M]

Ich arbeite seit ein paar Jahren in der Softwareentwicklung und habe kürzlich an einem Projekt mitgearbeitet, das automatisierte Bewertungssysteme für Bewerbungsvideos einsetzt. Die Idee war, den Prozess fairer zu gestalten, aber ich frage mich, ob wir damit nicht unbewusst bestimmte Muster oder Ausdrucksweisen bevorzugen, die der Algorithmus aus vergangenen Daten gelernt hat. Es fühlt sich seltsam an, Teil von etwas zu sein, das am Ende vielleicht Chancen verwehrt, anstatt sie zu eröffnen. Hat jemand ähnliche Erfahrungen mit der Automatisierung von Entscheidungen gemacht, die eigentlich menschliches Urteilsvermögen erfordern?

[BenjaminJJ]

Das ist beunruhigend weil man das Gefühl hat dass Automatisierung nicht faire Chancen öffnet sondern Muster aus alten Bewerbungsdaten verstärkt.

[Dennis_T]

Aus technischer Sicht zeigt sich oft dass der Algorithmus nicht die eigentliche Frage beantwortet sondern die am häufigsten vertretenen Merkmale erkennt.

[Matthew35]

Vielleicht übersieht der Algorithmus den Sinn der Bewerbung und bewertet nur Form statt Inhalte.

[MiaW]

Wie viel Vertrauen lässt sich in so ein System setzen und welche Lücke bleibt menschlichem Urteil?

[JasonDA]

Vielleicht sollte man die Automatisierung als Werkzeug sehen das Feedback gibt um Bewerbende besser zu verstehen statt zu entscheiden.

[Harper.H]

Eine Idee wäre Transparenz der Gewichtungen auch wenn nicht alles offengelegt wird um zu verstehen wohin der Lernprozess geht.