45 lines
2.2 KiB
Markdown
45 lines
2.2 KiB
Markdown
---
|
|
title: KI hat etwas gegen Sachsen-Anhalt.
|
|
date: 2025-10-16T00:00:00.000Z
|
|
tags:
|
|
- ki
|
|
- ethics
|
|
- data
|
|
summary: ''
|
|
source: linkedin-post
|
|
visibility: primary
|
|
linkedin_url: 'https://www.linkedin.com/feed/update/urn%3Ali%3Ashare%3A7384700359056785408'
|
|
---
|
|
|
|
KI hat etwas gegen Sachsen-Anhalt.
|
|
Aktuelle Forschung zeigt: Große Sprachmodelle bewerten ostdeutsche Bundesländer konsistent schlechter, sogar bei scheinbar objektiven Eigenschaften wie Körpertemperatur. Das ist kein Kuriosum, sondern ein Lehrstück für systemischen Bias: Modelle spiegeln Daten, Daten spiegeln die Gesellschaft.
|
|
Was folgt daraus? Fairness ist kein Add-on, sondern Teil des gesamten KI-Lebenszyklus.
|
|
Woran Teams arbeiten müssen
|
|
- Vielfalt schon in der Datenerhebung sicherstellen.
|
|
- Fairness regelmäßig messen (z. B. statistische Parität, Equal Opportunity).
|
|
- Debiasing in die Pipeline integrieren (Pre-, In- und Post-Processing).
|
|
- Nach dem Go-Live kontinuierlich monitoren und auditieren.
|
|
|
|
Was können wir beim Einsatz von KI dagegen tun?
|
|
- Bias-sensibel prompten: geschlechtsneutral schreiben, multiple Perspektiven benennen, Beispiele aus unterschiedlichen Gruppen einbauen, stereotype Begriffe vermeiden, Begründungen anfordern („nenne Kriterien und Quellen“).
|
|
- Counterfactual-Prompts testen („gleiche Antwort für Person A und Person B mit nur geänderter Herkunft?“).
|
|
- Konsens-Prompts nutzen („antworte erst nach kritischer Prüfung und nenne Unsicherheiten“).
|
|
- Ergebnisse systematisch gegenprüfen und Feedback melden.
|
|
|
|
Fazit
|
|
KI ist nie neutral. Wer faire Systeme will, muss Fairness von Anfang an designen und im Betrieb belegen. Das Sachsen-Anhalt-Beispiel zeigt: Verzerrungen sind messbar und damit auch reduzierbar.
|
|
—
|
|
Quellen
|
|
• Heise-Bericht zur Studie (Kurzüberblick)
|
|
https://lnkd.in/eVgWRGbM
|
|
• Originalstudie „Saxony-Anhalt is the Worst“ (Springer, KI 2024)
|
|
https://lnkd.in/e8GtZhgp
|
|
• Überblick zu Bias in LLMs: Herkunft, Messung, Mitigation (arXiv)
|
|
https://lnkd.in/e5ffcwJE
|
|
• Fairness-Überblick mit Metriken und Trade-offs (HHU Düsseldorf, PDF)
|
|
https://lnkd.in/eeSVdJFt
|
|
• Prompt-basierte Bias-Mitigation: systematische Übersicht (arXiv, PDF)
|
|
https://lnkd.in/eRCZB_KP
|
|
• IBM AI Fairness 360 Toolkit (70+ Metriken, 10 Mitigations)
|
|
https://lnkd.in/esPuwgJ3
|