53 lines
2.3 KiB
Markdown
53 lines
2.3 KiB
Markdown
---
|
|
title: "KI hat etwas gegen Sachsen-Anhalt."
|
|
date: 2025-10-16
|
|
tags: [ki, ethics, data]
|
|
summary: ""
|
|
source: linkedin-post
|
|
visibility: primary
|
|
linkedin_url: "https://www.linkedin.com/feed/update/urn%3Ali%3Ashare%3A7384700359056785408"
|
|
---
|
|
|
|
KI hat etwas gegen Sachsen-Anhalt."
|
|
"
|
|
"Aktuelle Forschung zeigt: Große Sprachmodelle bewerten ostdeutsche Bundesländer konsistent schlechter, sogar bei scheinbar objektiven Eigenschaften wie Körpertemperatur. Das ist kein Kuriosum, sondern ein Lehrstück für systemischen Bias: Modelle spiegeln Daten, Daten spiegeln die Gesellschaft."
|
|
"
|
|
"Was folgt daraus? Fairness ist kein Add-on, sondern Teil des gesamten KI-Lebenszyklus."
|
|
"
|
|
"Woran Teams arbeiten müssen"
|
|
"
|
|
"- Vielfalt schon in der Datenerhebung sicherstellen."
|
|
"- Fairness regelmäßig messen (z. B. statistische Parität, Equal Opportunity)."
|
|
"- Debiasing in die Pipeline integrieren (Pre-, In- und Post-Processing)."
|
|
"- Nach dem Go-Live kontinuierlich monitoren und auditieren."
|
|
"
|
|
"
|
|
"Was können wir beim Einsatz von KI dagegen tun?"
|
|
"
|
|
"- Bias-sensibel prompten: geschlechtsneutral schreiben, multiple Perspektiven benennen, Beispiele aus unterschiedlichen Gruppen einbauen, stereotype Begriffe vermeiden, Begründungen anfordern („nenne Kriterien und Quellen“)."
|
|
"
|
|
"- Counterfactual-Prompts testen („gleiche Antwort für Person A und Person B mit nur geänderter Herkunft?“)."
|
|
"
|
|
"- Konsens-Prompts nutzen („antworte erst nach kritischer Prüfung und nenne Unsicherheiten“)."
|
|
"
|
|
"- Ergebnisse systematisch gegenprüfen und Feedback melden."
|
|
"
|
|
"
|
|
"Fazit"
|
|
"KI ist nie neutral. Wer faire Systeme will, muss Fairness von Anfang an designen und im Betrieb belegen. Das Sachsen-Anhalt-Beispiel zeigt: Verzerrungen sind messbar und damit auch reduzierbar."
|
|
"
|
|
"—"
|
|
"Quellen"
|
|
"• Heise-Bericht zur Studie (Kurzüberblick)"
|
|
"https://lnkd.in/eVgWRGbM"
|
|
"• Originalstudie „Saxony-Anhalt is the Worst“ (Springer, KI 2024)"
|
|
"https://lnkd.in/e8GtZhgp"
|
|
"• Überblick zu Bias in LLMs: Herkunft, Messung, Mitigation (arXiv)"
|
|
"https://lnkd.in/e5ffcwJE"
|
|
"• Fairness-Überblick mit Metriken und Trade-offs (HHU Düsseldorf, PDF)"
|
|
"https://lnkd.in/eeSVdJFt"
|
|
"• Prompt-basierte Bias-Mitigation: systematische Übersicht (arXiv, PDF)"
|
|
"https://lnkd.in/eRCZB_KP"
|
|
"• IBM AI Fairness 360 Toolkit (70+ Metriken, 10 Mitigations)"
|
|
"https://lnkd.in/esPuwgJ3
|