Diese Woche hat mich folgende Schlagzeile überrascht: "Kalifornien reguliert KI-Companions" – sollten wir uns auch eine KI-Beziehung zulegen?
Eine Stanford-Studie mit 1.131 Teilnehmenden zeigt: Je stärker die companionship-orientierte Nutzung, desto schlechter das Wohlbefinden. Dies ist besonders kritisch, wenn viel Selbstoffenbarung dazukommt. Eine menschliche Bindung wird dadurch nicht ersetzt.
Kalifornien reagiert mit SB 243 (so heißt das Gesetz) und verpflichtet Anbieter zu Schutzmechanismen und Transparenz bei sensiblen Inhalten. Die Verabschiedung des Gesetzes steht kurz bevor.
Parallel greift der Staat in der Arbeitswelt durch. Die neuen FEHA-Regeln stufen automatisierte Entscheidungssysteme als „Agenten“ des Arbeitgebers ein – Antidiskriminierung gilt somit auch für KI. Ab dem 01.10.2025.
Wissenschaftlich bleibt das Bild ambivalent. Es gibt Unterstützungseffekte, aber auch Sucht- und Abhängigkeitssignale. Langzeitfolgen sind offen.
Und jenseits von „AI-Girlfriends“ skaliert der Business-Einsatz rasant, insbesondere in den Bereichen IT, Marketing und Vertrieb.
Relevanz: Führung braucht Leitplanken. Für Unternehmen bedeutet das:
Use-Cases priorisieren
Schutzbedarfe definieren
Governance und Evidenz koppeln
Mein Fazit: Wir müssen uns mit KI beschäftigen. Aber: Suchteffekte sind nachweisbar - achtet auf Euer Nutzungsverhalten. Und besonders Beziehungen zu einer KI, die mir keine Widerworte gibt, erscheinen mir problematisch und erhöhen sicherlich nicht die Beziehungs- und Konfliktfähigkeit von Menschen. Übt lieber Streiten oder gewaltfreie Kommunikation mit der KI, damit ihr besser mit Menschen umgehen könnt und ersetzt nicht menschlichen Kontakt durch KI-Stunden.
Hier die Quellen zum Nachlesen:
Stanford/Character.AI-Wohlbefinden (Primärstudie). https://lnkd.in/eM-k57pd
TechCrunch zu SB 243 (Kalifornien reguliert KI-Companions). https://lnkd.in/epsQGbpB
Nature News zum mentalen Impact von KI-Companions. https://lnkd.in/etA7rcwp
McKinsey „State of AI 2024“ zu realer Nutzung in Unternehmen. https://lnkd.in/ea66tMNV
Mayer Brown zu FEHA-Regeln ab 01.10.2025 (Beschäftigung/ADS). https://lnkd.in/eTyMV4qJ
