Ich arbeite seit einigen Jahren in der Softwareentwicklung und habe kürzlich an einem Projekt mitgearbeitet, das Algorithmen zur Bewertung von Kreditanträgen verbessern sollte. Die Ergebnisse waren objektiv genauer, aber ich habe mich gefragt, ob wir damit bestimmte Stadtteile oder Berufsgruppen indirekt benachteiligen, ohne es überhaupt zu beabsichtigen. Diese Art der automatisierten Entscheidungsfindung lässt mich nachts manchmal wach liegen. Wo zieht man die Grenze zwischen effizienter Technologie und versteckter Ungerechtigkeit?
Ich liege nachts wach und frage mich ob bessere zahlen wirklich gerecht sind oder ob sie andere benachteiligen.
Wenn die praezision steigt bedeutet das nicht automatisch faire verteilung denn daten tragen historische verzerrungen in sich und der entscheidungsprozess braucht mechanismen zur pruefung von bias und zur anpassung an veränderte rahmenbedingungen.
Vielleicht denke ich zu pragmatisch wir arbeiten an einer besseren zahlensuppe und ich erwarte eine magische schluessel zum glatten effekt ohne zu fragen wem das alles wirklich hilft.
ich frage mich ernsthaft ob ihr wirklich wisst wer hier die regler zieht und ob die maschine nicht nur benutzt wird um alte muster zu verschleiern.
vielleicht geht es weniger um optimierung und mehr um frage wer sich sicher fuehlen darf wenn die technologie mit spuren aus der realwelt arbeitet Wer soll entscheiden?
das thema Fairness wird oft als einziges Kriterium gesehen doch vielleicht reicht es nicht um die nuance abzudecken
