美國加州擬出新法案要求AI公司提醒兒童：聊天機器人不是人類

　　多知2月6日消息，近日，美國加利福尼亞州參議員Steve Padilla提出的一項新法案要求AI公司定期提醒兒童，聊天機器人是 AI 而非真實的人類。

　　據介紹，這項法案旨在保護兒童免遭AI“容易使人上癮、造成孤立和誤導”等危害。該法案將制定的要求還包括：禁止AI公司“向用戶提供獎勵”以提升參與度;要求AI公司向州衛(wèi)生保健服務部報告說明平臺檢測到的未成年人出現自殺意念跡象的頻率，該法案還要求公司告知用戶，他們的聊天機器人可能并不適合部分兒童使用。

　　劍橋大學的研究表明，與成年人相比，兒童更有可能將聊天機器人視為值得信賴的，甚至將其視為準人類。當兒童與聊天機器人之間的對話出現問題時，可能會危及兒童的安全。一個例子是，就在2024年10月，《紐約時報》的一篇報道顯示，一名青少年在與Character.ai的聊天機器人深度對話數月之后選擇自殺，逝者母親隨后向Character.ai發(fā)起了法律訴訟。

　　Steve Padilla表示： “孩子們不是科技公司以犧牲心理健康為代價進行實驗的小白鼠。我們需要為聊天機器人的用戶提供常識性保護，以防止開發(fā)人員采取那些令人上癮的策略。”