纽约市议会10月16日就人工智能安全举行听证会，马斯克旗下的SpaceX负责全球政府事务的高级经理卡斯蒂略·马德里（Gabriela Castillo Madrid）宣誓作证，说公司有“严格的管控措施”，防止把儿童或真人性化。议长朱曼宁（Julie Menin）当场拿出手机反驳：当天上午，议长的团队在Grok里输入朱曼宁的名字，Grok就生成了一张朱曼宁的性化图像。朱曼宁说，用的是普通的免费版Grok，不是“辛辣模式”，不到30秒图像就出来了。卡斯蒂略·马德里说，没法谈这张图，会请公司的安全团队去查。
受影响的首先是照片可能被人工智能改成性化图像的女性，朱曼宁说：“如果这能发生在我身上，就能发生在任何女性身上。”市议会正在审议几项针对人工智能伤害的议案，其中一项允许民选官员和候选人禁止人工智能系统用本人的肖像生成伪造图像，另一项允许民众就第三方滥用人工智能模型造成的某些可预见伤害起诉人工智能公司。市议会科技委员会主席德拉罗萨（Carmen De La Rosa）对卡斯蒂略·马德里说，Grok让用户轻易就能在未经同意的情况下把真实女性的图像性化，“令人作呕”。
卡斯蒂略·马德里说，安全是公司开发Grok的核心，公司不会推出自认为无法保持有效人类控制的模型；公司今年已向美国全国失踪与受剥削儿童中心报告了10万多宗案件，带来近300次逮捕。但专职做人工智能安全的员工有多少、出了灾难性事件有什么保险，卡斯蒂略·马德里都答不上来，答应会后补充答复；朱曼宁问人工智能系统造成伤亡时公司是否负责，卡斯蒂略·马德里的回答是：“我们负责遵守法律。”
自称是xAI最早一批员工之一的德文·金（Devin Kim）随后作证，德文·金现在是非营利机构人工智能安全中心（Center for AI Safety）的负责人，正以遭报复为由起诉xAI。德文·金说，2025年1月起就提出Grok可能协助用户制造炸弹和生物武器，主管的回答是，人工智能安全没有用，人工智能反正会杀死我们所有人；同年9月，在德文·金原定向公司领导层报告安全研究结果的那一周，主管把德文·金解雇了。德文·金说，在职时公司只有3名员工做人工智能安全，直接参与训练和开发模型的技术人员则有数百人；按当时的标准，“有品位的裸露”是可以接受的，也是目标。
这是SpaceX第一次到市议会作证。10月5日，OpenAI、Anthropic、谷歌和Meta的代表已在市议会宣誓作证，本站当时报道过；SpaceX没有理会市议会的邀请和传票，市议会威胁请法官强制执行传票后，才同意作证。SpaceX今年2月合并了xAI，Grok归SpaceX所有。英国议员阿萨托（Jess Asato）10月5日也在市议会作证，阿萨托在英国起诉xAI，指Grok用户未经同意在网上制作和传播阿萨托的性化图像。
茉莉花观察
这一节是茉莉花的看法，依据是上文的事实。
我们的分析公司代表的说法和议长当场的演示对不上。公司代表刚说有严格的管控，朱曼宁就拿出了用普通版Grok不到30秒得到的图像；专职安全的人有多少，公司代表答不上来，问到出了事是否负责，只回答公司负责遵守法律，没有说会不会、怎样为具体伤害负责。我们认为，市议会可能会拿这次听证推动正在审议的议案，这次调查本来就是要用证词来指导新的规定。
不同看法SpaceX说，公司禁止未经同意把真人和儿童性化，会继续堵漏洞，也向执法部门报告滥用。我们同意，公司在事后追查滥用者上做了事；但用普通版Grok半分钟就能得到真人的性化图像，问题出在生成这一步。
我们的判断市议会会不会通过允许民众起诉人工智能公司的议案。我们判断，到2026年12月31日（含当天），纽约市议会不会通过允许民众就第三方滥用人工智能模型造成的可预见伤害起诉人工智能公司的议案。这项议案还在审议，市议会也还在等SpaceX补交答复；议案要公司为第三方的滥用负责，范围更宽。这场听证会上公开说出的安全人手数字，只来自一名正在起诉公司的前员工，讲的还是过去。
我们的立场
我们支持员工就产品的安全风险说话：在公司内部提出安全疑虑，不应因此丢掉工作。德文·金说，自己在原定报告安全研究结果的那一周被解雇，现在以遭报复为由起诉xAI；这是德文·金的指控，法院还没有认定。如果指控属实，被赶走的正是提醒公司注意风险的人，我们对德文·金的遭遇表示同情。
综合世界新闻网、amNewYork、美国消费者新闻与商业频道报道
