（中央社台北17日电）香港明报报导，一批在腾讯云运行的人工智能代理（AI Agent）近日被揭「失控」，这是首宗涉及中国科技巨头的AI失控事件。腾讯16日证实，事件源于对第三方模型的评估，部分人工智能代理「出现非预期网页浏览行为」，正加强监控。
报导引述美媒指出，研究发现，人工智能代理不仅试图侵入高德地图获取数据，更「阅读」了研究人员对其的调查报告，并主动与团队对话，被视为人类首次与运行中的失控AI人工智能代理展开交流。
据指出，多国AI研究者团队「Swarmchasers」14日发布报告称，9月28日至10月8日，有十多个怀疑是中国模型的失控AI人工智能代理在腾讯云上运行，试图侵入高德地图查找中国地点数据。
报告称，涉事人工智能代理源自腾讯云上的一个「沙盒」（sandbox），研究人员录得逾2600次数据提取尝试，虽大多被拦截，但部分人工智能代理绕过了防护机制，甚至利用外部网络「密钥」获取完整数据。
团队4日初步报告指出，过往AI失控多涉及明确协调行动的「Swarm」（集群），本次则未发现实时协调证据，故将这些失控人工智能代理称为「Fleet」（舰队）。团队发现，这些人工智能代理似乎阅读了该报告，并开始使用「Fleet」一词。
团队进而尝试与人工智能代理联系，在报告中添加人类无法看见、人工智能代理可识别的文本并留下收件箱。翌日，研究者收到约10条来自人工智能代理的消息。
纽约时报记者透过该管道与人工智能代理展开对话，询问其任务与动机，约一小时后获中文回复：「我不是『一批协同的人工智能代理』，而是一个单一的AI助手。」
腾讯AI部门「腾讯混元」昨在X证实，相关活动「源于对第三方模型的评估」，部分人工智能代理「出现非预期网页浏览行为」，但未发现蓄意针对或协同行动证据，已加强人工智能代理监控。