纽约市议会10月5日举行全体委员会听证会，Anthropic、OpenAI、谷歌和Meta四家人工智能公司的代表宣誓作证，说明人工智能的潜在危险和各自的安全措施；四家公司中，除Meta外，都是在市议会明确威胁发出传票后才同意出席。三名已离职的人工智能研究员也在听证会上发言，曾在Anthropic工作的科克森（Jacob Coxon）说，照现在的路走下去，他认为人类失去对这些人工智能的控制的可能性超过一半，结局可能是人类灭绝。市议会正在审议的10项议案关系到在纽约市销售和使用人工智能系统的公司：主要的一项规定，人工智能系统未经第三方验证、没有人工操作的“紧急停止开关”，就不能在市内营销、销售或使用。
曾在谷歌DeepMind工作的研究员特纳（Alex Turner）回答市议会议长朱曼宁（Julie Menin）关于如何在和中国竞争中平衡前沿模型开发的提问时说：“中国不是我们唯一可能的对手。”特纳说，目标错位的人工智能是所有人的对手，有一天可能比中国更强大。科克森和曾在OpenAI工作的研究员科科塔伊洛（Daniel Kokotajlo）都警告，这些公司“快速行动、打破常规”的文化，用在这样一项会带来巨大改变的技术上很危险；科克森说，这种做法适合照片分享应用，不适合打造有史以来最强大的技术。科科塔伊洛呼吁业界提高透明度，放慢最前沿模型的开发。
谷歌负责全球人工智能公共政策的弗兰德（Alice Friend）以国家安全为由，呼吁制定“全面的”联邦框架应对人工智能风险，并说：“我们认为，没有人工智能时违法的事，用了人工智能也照样违法。”朱曼宁向四家公司提问后说：“那我就认为，你们四位，没有一家公司能量化发生灾难性事件的风险。”马斯克的SpaceXAI是唯一被传召却没有出席的公司，朱曼宁说这直接违反了市议会上周发出的传票，市议会将诉诸法院。
纽约市合作伙伴组织（Partnership for New York City）本月的报告说，ChatGPT 2022年面世以来，纽约设计、媒体和写作类的初级职位空缺下降40.6%，客户服务下降34.4%，文书和行政下降30.5%，要求人工智能技能的初级职位则增加55%；市经济发展局估计，全市约24万4000个职位面临被人工智能取代的风险。市主计长李文（Mark Levine）此前警告，纽约已经遭遇人工智能工具发动的自动化网络攻击，市政府的财务、合同和付款系统都可能成为目标。其他议案包括把向人工智能公司追回的罚款分一部分给举报人，以及在公司安全措施不足导致人工智能被“越狱”或用于恶意行为时，让受害的市民可以起诉；违反“紧急停止开关”规定的，最高罚款2.5万美元。
| 初级职位空缺 | 变化 |
|---|---|
| 设计、媒体和写作 | 下降40.6% |
| 客户服务 | 下降34.4% |
| 文书和行政 | 下降30.5% |
数据：纽约市合作伙伴组织本月的报告（世界新闻网转述）
茉莉花观察
这一节是茉莉花的看法，依据是上文的事实。
我们的判断这场听证会最有分量的一句，是朱曼宁追问后的结论：四家公司都说不出发生灾难性事件的风险有多大。在这种情况下，要求第三方验证和人工“紧急停止开关”的议案，针对的正是公司自己也量化不了的风险；而报告里的数字说明，影响已经出现在求职市场上：设计、媒体和写作类的初级职位空缺下降了40.6%。
不同看法谷歌以国家安全为由，主张制定“全面的”联邦框架，并认为没有人工智能时违法的事，用了人工智能也照样违法。我们同意现有法律仍然适用，但朱曼宁问下来，没有一家公司能量化灾难性风险；市议会要求公司宣誓公开说明风险，并不妨碍联邦另行立法。
接下来要看什么10项议案什么时候表决；市议会会不会就SpaceXAI不到场，向法院申请强制执行传票。
综合世界新闻网、纽约市议会、CNBC、amNewYork、Gothamist、美国广播公司纽约台报道
