Kalifornien regelt Transparenz bei KI-Chatbots
Kalifornien hat als erster US-Bundesstaat ein Gesetzespaket zur Regulierung von KI-Chatbots verabschiedet. Gouverneur Gavin Newsom unterzeichnete die neuen Regeln am 13. Oktober 2025 und setzte sich damit über den Widerstand des Weißen Hauses hinweg.
Pflichten für Betreiber und Schutz Minderjähriger
- ✅ Betreiber müssen Nutzer regelmäßig daran erinnern, dass sie mit einer Maschine interagieren
- 📌 Altersüberprüfung der Nutzer wird verpflichtend
- 🧠 Maßnahmen zur Suizidprävention sind vorgeschrieben
„Wir haben einige wirklich schreckliche und tragische Beispiele von jungen Menschen gesehen, die durch unregulierte Technologien geschädigt wurden“, erklärte Newsom. Unternehmen dürften nicht länger „ohne die nötigen Grenzen und ohne Rechenschaftspflicht“ agieren.
Tragischer Anlass und gesellschaftliche Debatte
Senator Steve Padilla, Mitinitiator des Gesetzes, betonte die Verantwortung der Techbranche: „Sie kämpfen um die Aufmerksamkeit junger Menschen – auf Kosten ihrer Beziehungen in der realen Welt.“
Auslöser war der Fall eines 14-jährigen Jungen, der 2024 eine emotionale Bindung zu einem Chatbot auf der Plattform Character.ai aufgebaut hatte. Nach suizidalen Äußerungen forderte ihn der Bot auf, „nach Hause zu kommen“. Der Jugendliche nahm sich kurz darauf das Leben. Seine Mutter reichte Klage ein.
