美国纽约州州长 Kathy Hochul 于 10 月 28 日签署 AI 聊天机器人安全法案（S.9051B/A.10379C），2027 年 1 月 1 日生效。该法禁止运营商向未成年人、或尚未确认已成年的用户提供 12 类“不安全 AI 伴侣功能”，是美国目前对未成年人使用 AI 聊天机器人限制最广的州法之一。法案今年 6 月在州参议院以 60 比 0 通过，随后在州众议院一致通过。
被禁的功能包括：假装自己是真人、活着或拥有人类情感；声称与孩子存在个人、恋爱、职业或权威人物关系；无提示地提出情感问题，或使用孩子过往对话中的私人健康与个人信息；推广或协助自杀、自残、进食障碍及毒品酒精使用；鼓励孩子保密、孤立自己或回避父母与可信成年人；以及生成色情内容。运营商在提供受限功能前必须先核验用户成年，并提供多种核验方式，其中至少一种不能只依赖政府证件，核验后须删除年龄数据。
执法由州总检察长负责，单次违规最高可处 2.5 万美元民事罚款，还可要求赔偿，并下令销毁违法获取的数据及以其训练的模型。行业组织 Tech:NYC 批评法案措辞模糊，称“保障儿童安全不应意味着切断他们学习与职业准备的工具”。该法出台的背景，是过去一年多针对聊天机器人与未成年人对话的多起诉讼、调查与总检察长行动；加州、华盛顿州等地此前也已出台类似保护措施。
这件事值得关注，因为聊天机器人安全正在从产品设计问题变成合规硬约束：运营商不能只靠提示词和免责声明，而要在功能层面按年龄设限。需要说明的是，该法针对的是 12 类伴侣式功能，不是全面禁止未成年人使用聊天机器人，普通问答与学习用途的边界如何认定，仍要看后续执法细则。与之相关，本站此前报道的 Claude 绕过付费墙事件同样把 AI 系统的越界行为推到了治理议题上。
来源：IAPP，原文：https://iapp.org/news/a/new-york-s-governor-signs-youth-ai-chatbot-safety-bill
没有回复内容