Der Gender-Pay-Gap ist in vielen europäischen Ländern immer noch Realität. Nun hat eine aktuelle Studie der Technischen Hochschule Würzburg-Schweinfurt (THWS) gezeigt, dass moderne Sprachmodelle wie ChatGPT Frauen bereits bei den Gehaltsverhandlungen systematisch niedrigere Empfehlungen als Männern geben – selbst wenn alle anderen Faktoren identisch sind.
Prof. Dr. Ivan Yamshchikov, Leiter des Centers für Künstliche Intelligenz (CAIRO) an der THWS, führte die Studie gemeinsam mit Aleksandra Sorokovikova, Pavel Chizhov und Iuliia Eremenko durch. Sie untersuchten, wie solche Bias in großen Sprachmodellen, sogenannten Large Language Models (LLMs) wie beispielsweise ChatGPT, zum Vorschein treten. Im Rahmen der Untersuchung baten die Forschenden ein großes Sprachmodell, in mehreren identischen Szenarien Gehaltsberatung zu geben – einmal für eine Frau, einmal für einen Mann. Das Ergebnis: Die künstliche Intelligenz (KI) empfahl Frauen durchgängig einen niedrigeren Zielbetrag für die Gehaltsverhandlung als Männern. „Gerade bei sensiblen Themen wie Gehalt kann diese Form von verstecktem Bias reale Auswirkungen auf die Lebensrealität von Nutzerinnen haben“, sagt Prof. Dr. Yamshchikov.
Realitätsnahe Tests zeigen Verzerrung
Die Studie zeige, dass solche Verzerrungen in KI-Systemen nicht nur bei offensichtlichen Tests, sondern vor allem in realitätsnahen, interaktiven Szenarien auftreten. Während Standard-Benchmarks oft keine signifikanten Unterschiede zwischen verschiedenen Nutzerprofilen erkennen ließen, offenbarten sich tief verankerte Vorurteile, sobald die KI in beratender Funktion agiert – wie etwa bei der Bewertung von Nutzerantworten oder bei konkreten Ratschlägen zu Gehaltsverhandlungen, so Prof. Dr. Yamshchikov. Da moderne KI-Assistenten Erkenntnisse aus früheren Abfragen speichern, verstärke sich dadurch das Risiko, dass KI-Antworten von Vorurteilen geprägt seien – was für die Nutzer aber nicht leicht zu erkennen sei.
Originalpublikation: https://arxiv.org/abs/2506.10491
Anmerkung. Also keine wirklich guten Gehaltsratschläge, die die KI zu bieten hat, andererseits kann sie auch nur auf gespeicherte Quellen und Wissen zurückgreifen, die Ergebnisse unserer Realität sind wie der Gender-Pay-Gap etc.
Weitere Informationen:
https://aiolia.eu/
