Diese Woche hat mich folgende Schlagzeile überrascht: "Kalifornien reguliert KI-Companions" – sollten wir uns auch eine KI-Beziehung zulegen?"
"
"Eine Stanford-Studie mit 1.131 Teilnehmenden zeigt: Je stärker die companionship-orientierte Nutzung, desto schlechter das Wohlbefinden. Dies ist besonders kritisch, wenn viel Selbstoffenbarung dazukommt. Eine menschliche Bindung wird dadurch nicht ersetzt. "
"Kalifornien reagiert mit SB 243 (so heißt das Gesetz) und verpflichtet Anbieter zu Schutzmechanismen und Transparenz bei sensiblen Inhalten. Die Verabschiedung des Gesetzes steht kurz bevor. "
"
"Parallel greift der Staat in der Arbeitswelt durch. Die neuen FEHA-Regeln stufen automatisierte Entscheidungssysteme als „Agenten“ des Arbeitgebers ein – Antidiskriminierung gilt somit auch für KI. Ab dem 01.10.2025. "
"
"Wissenschaftlich bleibt das Bild ambivalent. Es gibt Unterstützungseffekte, aber auch Sucht- und Abhängigkeitssignale. Langzeitfolgen sind offen. "
"
"Und jenseits von „AI-Girlfriends“ skaliert der Business-Einsatz rasant, insbesondere in den Bereichen IT, Marketing und Vertrieb. "
"
"Relevanz: Führung braucht Leitplanken. Für Unternehmen bedeutet das:"
"- Use-Cases priorisieren"
"- Schutzbedarfe definieren"
"- Governance und Evidenz koppeln"
"
"Mein Fazit: Wir müssen uns mit KI beschäftigen. Aber: Suchteffekte sind nachweisbar - achtet auf Euer Nutzungsverhalten. Und besonders Beziehungen zu einer KI, die mir keine Widerworte gibt, erscheinen mir problematisch und erhöhen sicherlich nicht die Beziehungs- und Konfliktfähigkeit von Menschen. Übt lieber Streiten oder gewaltfreie Kommunikation mit der KI, damit ihr besser mit Menschen umgehen könnt und ersetzt nicht menschlichen Kontakt durch KI-Stunden. "
"
"Hier die Quellen zum Nachlesen: "
"Stanford/Character.AI-Wohlbefinden (Primärstudie). https://lnkd.in/eM-k57pd"
"TechCrunch zu SB 243 (Kalifornien reguliert KI-Companions). https://lnkd.in/epsQGbpB"
"Nature News zum mentalen Impact von KI-Companions. https://lnkd.in/etA7rcwp"
"McKinsey „State of AI 2024“ zu realer Nutzung in Unternehmen. https://lnkd.in/ea66tMNV"
"Mayer Brown zu FEHA-Regeln ab 01.10.2025 (Beschäftigung/ADS). https://lnkd.in/eTyMV4qJ"
"