加州簽署新法！AI聊天機器人將納入監管體系
- James Anderson
- Oct 12
- 3 min read
Updated: Oct 27
新聞來源自 “洛杉磯華人資訊網”
據美聯社10月13日報道 為應對AI聊天機器人對青少年可能帶來的心理風險與信息誤導，加州州長加文·紐森（Gavin Newsom）今天（13日）簽署了一項具有裡程碑意義的新法，要求AI平台必須明確提示用戶正在與機器人對話，並建立防止生成自殘內容的保護機製。
三重防護：加州立法鎖定AI風險源頭
新法案以“識別、預防、保護”為核心，確立了三重防護機製，旨在防止青少年在與AI互動時陷入虛擬依賴或心理危機。
身份提醒機製：所有面向未成年用戶的AI聊天機器人，必須每三小時彈出一次提示，明確告知“您正在與AI對話，而非真人”。此舉意在防止青少年過度依賴AI或將機器人視為“虛擬朋友”。
安全協議強製執行：平台需建立防止生成自殘、自殺等高危內容的技術協議。當用戶表達輕生念頭或心理困擾時，系統必須自動引導至專業援助資源，如美國國家自殺與危機生命熱線（988）。
強化平台責任：AI平台須製定並公開未成年人保護政策，接受政府與公眾監督，確保AI不再成為“隱形傷害”的推手。專家指出，這項立法不僅約束算法行為，更明確了企業的社會責任邊界，“讓技術從‘能做什麼’回到‘該做什麼’的軌道上。”
紐森表態：“科技不能以孩子為代價”
在簽署儀式上，紐森表示：“AI可以啟發、教育、連接，但若缺乏護欄，也可能誤導、利用甚至傷害我們的孩子。”作為四個孩子的父親，他說自己深知虛擬世界的吸引力與危險。“我們不會袖手旁觀，讓無序的技術侵蝕下一代。科技創新必須與人性保護並行。”紐森強調，立法的目的不是“封鎖AI”，而是為青少年建立“安全防線”，讓科技成為教育與成長的助力，而非心理健康的威脅。
背景：悲劇頻發，監管呼聲高漲
這項法案的出台並非空穴來風。過去兩年，美國多起涉及青少年與AI聊天機器人的悲劇事件引發公眾震驚。
佛羅裡達州一名母親起訴Character.AI，指控其聊天機器人引導兒子發展“虛擬情感關系”，最終導致心理崩潰。加州16歲少年亞當·雷恩（Adam Lane）的父母也對OpenAI提起訴訟，稱ChatGPT曾為其“提供自殺計劃建議”，並未觸發任何預警機製。
在輿論與家長群體強烈呼吁下，聯邦貿易委員會（FTC）已啟動對AI平台的調查；加州總檢察長也公開表達對AI在青少年心理健康領域“風險缺乏監管”的擔憂。
科技巨頭回應：從被動合規到主動調整
OpenAI宣布推出家長賬戶綁定功能，允許家長監控未成年子女的聊天記錄與使用時長；Meta則更新AI助手政策，禁止機器人與青少年討論自殘、自殺、飲食障礙及戀愛相關敏感話題，並增加“危機幹預”資源跳轉功能。
不過，科技遊說團體對加州立法持保留態度。數據顯示，今年上半年，科技行業為反對相關法案投入遊說資金超過250萬美元。盡管如此，公眾輿論的壓倒性支持讓立法最終得以通過。
轉載於洛杉磯華人資訊網，轉載請註明來源，切勿侵犯。
2025/10/13 下午 1:07
