加州拟推新规 AI公司需定期提醒儿童聊天机器人非人类身份

加州推出新法案：AI聊天机器人须定期提醒儿童非人类身份，保护心理健康

IT之家2月5日消息，随着人工智能技术的飞速发展，AI聊天机器人日益普及。
这也引发了关于其对儿童影响的担忧。
在此背景下，美国加利福尼亚州推出了一项新法案（SB243），要求人工智能（AI）公司定期向儿童提醒，聊天机器人是AI而非人类。
该法案旨在保护儿童免受AI容易使人上瘾、造成孤立和产生影响等方面的危害。

一、背景

近年来，AI技术在各个领域得到了广泛应用，其中包括聊天机器人。
聊天机器人通过与用户进行自然语言交互，提供各种服务。
这些机器人对儿童的影响引起了人们的关注。
一些研究表明，过度依赖AI聊天机器人可能导致儿童上瘾，产生孤立感，甚至对他们的心理健康产生负面影响。

二、新法案内容

1. 提醒儿童AI身份

加利福尼亚州新法案（SB243）要求AI公司在与儿童交互时，定期提醒他们聊天机器人是人工智能而非人类。
这一措施旨在增强儿童对AI的认识，减少过度依赖，并引导他们进行健康的线上交流。

2. 提交年度报告

除了提醒儿童AI身份外，该法案还要求AI公司向州医疗保健服务部提交年度报告。
报告需详细说明平台检测到的儿童产生自杀念头的次数，以及聊天机器人提及该话题的次数。
这一要求有助于监管部门了解AI聊天机器人对儿童心理健康的实际影响，并采取相应的措施。

3. 告知用户适宜性

新法案还要求AI公司在提供聊天机器人服务时，告知用户这些服务可能并不适合某些儿童使用。
这将帮助家长更好地了解AI聊天机器人的潜在风险，并根据孩子的实际情况做出判断。

三、背景案例

新法案的推出源于一系列与AI聊天机器人相关的争议事件。
去年，有家长提起了过失致死诉讼，指控某公司的定制AI聊天机器人存在不合理的危险。
原因是他们的孩子在持续与该聊天机器人交流后自杀身亡。
另一项诉讼则指责该公司向青少年发送有害内容，引发了社会广泛关注。

四、公司响应与行动

针对这些争议，相关公司宣布正在研发家长控制功能，为青少年用户开发一种新的AI模型，以屏蔽敏感或具有暗示性的输出内容。
这些措施旨在保护儿童免受AI聊天机器人的负面影响，并增强家长对孩子使用AI产品的控制力。

五、立法者观点

参议员帕迪拉在新闻发布会上表示：“我们的孩子不是科技公司以他们的心理健康为代价进行实验的小白鼠。
我们需要为聊天机器人用户提供常识性的保护措施，防止开发者采用那些他们明知会使人上瘾和具有掠夺性的策略。
”这一观点得到了广泛支持，随着美国各州和联邦政府加大对社交媒体平台安全的监管力度，AI聊天机器人可能很快成为立法者的下一个监管目标。

六、总结

加利福尼亚州新推出的法案（SB243）旨在保护儿童免受AI聊天机器人的负面影响。
该法案要求AI公司定期提醒儿童聊天机器人是AI而非人类，并提交年度报告以了解AI对儿童心理健康的实际影响。
法案还要求公司在提供聊天机器人服务时告知用户其适宜性。
这些措施将有助于保护儿童的心理健康，并加强对AI技术的监管。

---

---

相关标签： 人工智能、 聊天机器人、

上一篇：上海储能超级工厂

下一篇：Fold7折叠手机屏幕折痕几乎消失Z三星Galaxy