蒂尔克周一在英国牛津举行的“人工智能与人权峰会”上发表讲话时表示，人工智能有望为科学、医疗、教育，乃至人权工作带来令人惊叹的进步。
然而，这些工具目前正由少数机构开发和控制，缺乏公众监督，而且已经开始展现出连创造者都无法完全预测或掌控的能力。
“反乌托邦正在悄然逼近”
蒂尔克警告称，人工智能可能会以不易察觉的方式侵蚀平等、自由、隐私以及公共讨论空间，“让反乌托邦社会在不知不觉中悄然降临”。
乌托邦是理想社会，反乌托邦则是表面上秩序井然，实际上充满压迫、监控、失去自由的人类社会。
蒂尔克指出，整个社会群体甚至可能在“按下一个按钮”的瞬间，被切断通信、清洁用水、供暖以及金融服务。
他呼吁立即采取行动，禁止让机器决定谁生谁死，并指出人工智能已经在改变战争的面貌。
他还引用研究结果称，依赖人工智能的学生记忆保留能力更差，独立思考能力也有所下降。他进一步发问：世界是否正走向一个未来，在那里人们无法理解、质疑，甚至无法引导这项技术的发展？
就在蒂尔克在英国峰会发表讲话的同时，纽约市议会也召开了一场罕见的“全体委员会会议”，审议人工智能可能给这个国际经济金融中心的市民带来的风险。
强制性安全保障措施
蒂尔克呼吁，在人工智能的开发和使用过程中，必须建立强制性的人权保障措施和尽职调查机制，并随着技术演变不断调整完善。
他说，那些拥有人工智能企业，或对其供应链具有影响力的国家，必须要求相关企业承担责任、采取负责任的行动；对于未履行责任的企业，则应追究其责任。
他补充说，并非所有问题都能依靠现有法律解决，一些领域需要全新的法律框架。但与此同时，更新有关责任归属、网络安全和数据保护方面的法规，可以为公众提供一定程度的保护。
此外，他敦促业界加强安全合作和独立监督，而且这种合作必须“落实在行动上，而不仅仅停留在口头承诺”。他还主张让民间社会组织以及受人工智能影响的人群拥有更大的发言权。
他说：“我们已经无法再继续等待，也不能再寄希望于企业的自觉善意。”
积极进展
蒂尔克对联合国推动成立的“全球人工智能治理对话”和“人工智能国际独立科学小组”表示欢迎。
他还提到，由29个国家及欧盟共同支持的一项倡议已呼吁加强对前沿人工智能模型的监管。
此外，他表示，人工智能行业领袖上周已经在安全保障、自我监管和风险评估方面采取了新的举措。蒂尔克指的是9月29日在美国白宫达成的一项自愿性协议，该协议由美国总统特朗普与六家人工智能企业负责人共同签署。
不过，这项协议对于违规企业并没有任何处罚机制。特朗普将其描述为一种“具有道德约束力”的承诺。
“言行一致”
蒂尔克表示：“真正做到言行一致的人仍然太少。”
三周前，他曾致信各国政府和前沿人工智能企业，敦促它们立即采取行动降低风险。
最后，他警告说：“如果我们不能迅速行动，就可能面临无法预见的后果，这不仅会影响我们这一代人，也会影响未来世世代代的人类。”