纽约州州长霍楚尔10月28日签署法律，禁止提供AI聊天机器人功能的公司向未成年人提供不安全的功能，包括假装是真人、让孩子在感情上产生依赖、鼓励自残和色情对话。州长办公室说，在接下来几个月内，公司不得向未满18岁、或还没确认已成年的用户提供这些功能：假装是真人、活着或有人类情感；声称和孩子是私人、恋爱、职业或权威人物的关系；主动问情感问题，或使用孩子在先前对话里透露的健康和个人信息；鼓励或帮助自杀、自残、饮食失调、使用毒品或饮酒；鼓励孩子保守秘密、孤立自己，或不去向父母、可信的大人和专业人士求助；以及任何色情内容。法律要求公司核验用户年龄，至少提供一种不完全依靠政府证件的核验办法，用完要删除年龄资料；公司违法，州检察长可以追讨每次最高2.5万美元的民事罚款，还可以要求销毁非法收集的资料和用这些资料训练的AI模型。这项法律六个月后生效。
受影响的是使用AI陪伴聊天机器人的青少年和提供这类产品的公司：州长办公室引用常识媒体（Common Sense Media）的数字说，72%的青少年用过AI陪伴。霍楚尔在记者会上说：“未成年人再也不会用到假装是他们朋友、男朋友和女朋友的聊天机器人”。法案由州参议员冈萨雷斯和州众议员博尔斯提出；常识媒体的创办人斯泰尔说，这是全美最严格的儿童AI安全法，可以作为其他州的范本。州检察长詹姆斯说，很自豪能和州长等人一起推动这项法律；州检察长会开设网站，让民众投诉违法的公司；本月早些时候，已有八个州分别起诉OpenAI，指控这家公司危害儿童。霍楚尔同一天还签署法律，要求在纽约州出售的联网婴儿监视器加装防止陌生人偷看偷听的安全功能，并贴上警示标签。
茉莉花观察
这一节是茉莉花的看法，依据是上文的事实。
我们的分析我们认为，这项法律真正改变的是默认做法：公司确认用户已经成年之前，不能提供所列的功能。这是因为，法律禁止的对象是未满18岁或还没确认已成年的用户，又要求公司核验年龄；公司要提供这些功能，得先确认对方已经成年。这意味着孩子用的聊天机器人会少掉假装真人、鼓励保密这类功能，成年用户则可能要先通过年龄核验。
不同看法法律要求至少提供一种不完全依靠政府证件的核验办法，核验后还要删除年龄资料，用意是减少对用户隐私的影响。我们同意这些规定能减少隐私风险，但这不改变我们的看法。这是因为，不管用哪一种办法，公司都得先弄清每个用户是不是成年人，才能提供这些功能。
后续走向州检察长什么时候开设受理投诉的网站。我们判断，到2027年6月30日，纽约州检察长会开设受理这项法律投诉的网站。这是因为，法律六个月后生效，按10月28日签署推算是2027年4月下旬；法律规定会有这个投诉网站，罚款也由州检察长追讨。生效以后州检察长要执法，就需要这个投诉入口；期限定在生效后约两个月，是给网站留出准备时间。
