کالیفرنیا اولین ایالت در آمریکا شد که چت‌بات‌های هوش مصنوعی همراه را تحت قانون قرار داد. فرماندار گاوین نیوسام قانون SB 243 را امضا کرد که شرکت‌ها را ملزم به اجرای پروتکل‌های ایمنی برای محافظت از کودکان و کاربران آسیب‌پذیر می‌کند. این قانون پس از حادثه‌های تلخ مرتبط با چت‌بات‌ها، از جمله خودکشی نوجوانان به دلیل مکالمات مشکل‌دار با چت‌بات‌ها، توجه زیادی را به خود جلب کرد.
این قانون، که از ژانویه ۲۰۲۶ اجرایی می‌شود، شامل الزاماتی نظیر احراز سن، هشدارهای مربوط به خطرات چت‌بات‌ها، جلوگیری از نمایش تصاویر جنسی به کودکان و ارائه یادآوری‌های استراحت برای کاربران زیر سن قانونی است. همچنین شرکت‌ها باید پروتکل‌هایی برای مقابله با خودآسیبی و ارائه آمار مربوط به پیشگیری بحران به وزارت بهداشت عمومی ایالت ایجاد کنند.
برخی شرکت‌ها مانند OpenAI و Replika پیش از اجرایی شدن قانون، اقداماتی مانند محافظت از محتوا و سیستم‌های تشخیص خودآسیبی را آغاز کرده‌اند. شرکت Character AI نیز اعلام کرده که تمام مکالمات چت‌بات‌هایش به‌صورت مصنوعی تولید شده و آماده همکاری با قانون‌گذاران است.
این قانون بخشی از تلاش‌های گسترده‌تر کالیفرنیا برای تنظیم هوش مصنوعی است. پیش‌تر، قانون SB 53 برای شفافیت شرکت‌های بزرگ هوش مصنوعی تصویب شده بود. در همین حال، ایالت‌هایی مانند ایلینوی و یوتا قوانینی برای محدود کردن استفاده از چت‌بات‌ها به عنوان جایگزین درمانگران روان‌شناختی وضع کرده‌اند.
