KI hat etwas gegen Sachsen-Anhalt."
"
"Aktuelle Forschung zeigt: Große Sprachmodelle bewerten ostdeutsche Bundesländer konsistent schlechter, sogar bei scheinbar objektiven Eigenschaften wie Körpertemperatur. Das ist kein Kuriosum, sondern ein Lehrstück für systemischen Bias: Modelle spiegeln Daten, Daten spiegeln die Gesellschaft."
"
"Was folgt daraus? Fairness ist kein Add-on, sondern Teil des gesamten KI-Lebenszyklus."
"
"Woran Teams arbeiten müssen"
"
"- Vielfalt schon in der Datenerhebung sicherstellen."
"- Fairness regelmäßig messen (z. B. statistische Parität, Equal Opportunity)."
"- Debiasing in die Pipeline integrieren (Pre-, In- und Post-Processing)."
"- Nach dem Go-Live kontinuierlich monitoren und auditieren."
"
"
"Was können wir beim Einsatz von KI dagegen tun?"
"
"- Bias-sensibel prompten: geschlechtsneutral schreiben, multiple Perspektiven benennen, Beispiele aus unterschiedlichen Gruppen einbauen, stereotype Begriffe vermeiden, Begründungen anfordern („nenne Kriterien und Quellen“)."
"
"- Counterfactual-Prompts testen („gleiche Antwort für Person A und Person B mit nur geänderter Herkunft?“)."
"
"- Konsens-Prompts nutzen („antworte erst nach kritischer Prüfung und nenne Unsicherheiten“)."
"
"- Ergebnisse systematisch gegenprüfen und Feedback melden."
"
"
"Fazit"
"KI ist nie neutral. Wer faire Systeme will, muss Fairness von Anfang an designen und im Betrieb belegen. Das Sachsen-Anhalt-Beispiel zeigt: Verzerrungen sind messbar und damit auch reduzierbar."
"
"—"
"Quellen"
"• Heise-Bericht zur Studie (Kurzüberblick)"
"https://lnkd.in/eVgWRGbM"
"• Originalstudie „Saxony-Anhalt is the Worst“ (Springer, KI 2024)"
"https://lnkd.in/e8GtZhgp"
"• Überblick zu Bias in LLMs: Herkunft, Messung, Mitigation (arXiv)"
"https://lnkd.in/e5ffcwJE"
"• Fairness-Überblick mit Metriken und Trade-offs (HHU Düsseldorf, PDF)"
"https://lnkd.in/eeSVdJFt"
"• Prompt-basierte Bias-Mitigation: systematische Übersicht (arXiv, PDF)"
"https://lnkd.in/eRCZB_KP"
"• IBM AI Fairness 360 Toolkit (70+ Metriken, 10 Mitigations)"
"https://lnkd.in/esPuwgJ3
