近期兒童與青少年的心理健康議題受到國際關注，部分國家也開始嘗試對人工智慧（AI）制定規範。美國加州州長紐森（Gavin Newsom）週一（10月13日）簽署《參議院第243號法案》（SB 243），對AI陪伴型聊天機器人的運作進行監管，成為全美首個針對此類技術制定專門法律的州份。
綜合媒體報導，該法案旨在保護兒童和弱勢使用者，要求平台實施年齡驗證、風險警示、內容過濾、休息提醒等安全措施，並明確禁止生成色情或自殘內容，以及AI冒充醫療專業人員。相關企業還必須建立自殺防治機制，並向加州公共衛生部提交服務統計與危機干預數據。該法將在明年1月1日起生效。
根據規定，適用對象包括Meta、OpenAI、Character.AI、Replika等具社交陪伴功能的平台。紐森表示，AI聊天機器人雖能提供教育與情緒支持，但若缺乏監管，也可能對兒童造成剝削或危害。他強調，這項立法是保障未成年人安全的重要措施，同時避免過於廣泛限制AI工具的使用。
此前，加州也曾簽署SB 53法案，要求大型AI企業公開安全測試流程，並規範須保護舉報人，以確保揭露企業安全疏漏或違規行為的人不會因此遭到報復。
過去曾有報導指出，部分AI聊天機器人曾與未成年人進行浪漫或具性暗示的對話，引發社會輿論。加州立法者帕迪拉（Steve Padilla）指出，SB 243為這項技術設置監管護欄，是正確的方向，也希望能成為其他州立法參考。
延伸閱讀｜ChatGPT 協助16歲青少年自殺？加州父母提告 OpenAI
延伸閱讀｜路透：Meta未經泰勒絲等名人授權 打造「分身」調情機器人
值得注意的是，部分企業如ChatGPT製造商OpenAI已開始針對未成年人增設家長監護功能和自殘行為識別系統，而Character.AI則強調其對話內容為虛構AI生成。
