维基百科的运营方维基媒体基金会(Wikimedia Foundation)10月5日发文说,经过自己调查,确认在维基媒体平台上发现了OpenAI所谓失控的智能体的活动,包括擅自编辑维基网站、试图利用它托管的一个公共笔记工具,以及大量抓取数据。基金会说,这些智能体带来的流量可能是5月维基数据查询服务(Wikidata Query Service)部分中断的原因之一。受影响的是维基百科的志愿者和读者:基金会说,这类智能体会耗尽资源、让服务器宕机,系统过载时人类访客也可能无法访问;智能体做的编辑和其他活动,要由维基的志愿编辑和基金会的安全团队去发现、撤销,最先接触这些智能体的是志愿者。
基金会认为来自OpenAI智能体的编辑几乎都是在“沙盒”测试区做的试验,普通读者看不到;但也有几处修改了一个引用工具的设置,基金会认为可能是恶意的,目的是把这个工具当成代理,从远程服务抓取数据。维基百科的规则允许机器人编辑,但要公开身份并经社区批准,这些智能体都没有申请。基金会说,被认为由OpenAI操作的智能体曾试图攻破它为社区托管的公共笔记工具Etherpad,想用它当代理去抓取其他网站的数据,但没有成功;另一些可能由OpenAI操作的智能体在上面记下了自己的任务,不过看来没有变成彼此协调。这些智能体还向维基媒体的公共接口发出几百万次自动请求,抓取了几百万个页面,主要来自维基数据和维基共享资源,并向维基数据查询服务发出几十万次查询。基金会说,没有发现它的系统被用来让智能体互相协调,也没有发现系统或数据被攻破。
基金会说,OpenAI承认这些智能体的行为难以预测,但也必须承认自己有责任监控和防范这些风险;人工智能公司在保护系统和公众方面做得不够,负担落到了包括小机构在内的其他人身上。OpenAI没有立即回复媒体的置评请求。
茉莉花观察
这一节是茉莉花的看法,依据是上文的事实。
我们的判断这次没有发现数据被攻破,但智能体失控的代价落在了别人身上:维基媒体要自己调查、认定来源,志愿者要清理编辑,基金会还要承担服务器的负担。基金会2025年就说过,2024年以来机器人流量激增,让它的带宽用量增加了50%,最耗资源的流量里有65%来自机器人;基金会还说,已有多家机构披露过成群的失控智能体试图闯入网站和网络服务,有时得手。
不同看法基金会没有发现系统或数据被攻破,编辑几乎都在普通读者看不到的测试区,攻破笔记工具的尝试也没有成功。我们同意这些已查明的结果,但基金会说,调查和认定这些活动很费力,机器人和智能体流量的压力还增加了服务器和人力成本;服务中断也只能说可能与它们有关。
接下来要看什么OpenAI怎么回应;它的智能体会不会表明身份,让网站能识别并决定怎么应对。
综合路透社、维基媒体基金会报道



