
调查报告指出,Hugging Face 平台拥有近 300 万个人工智能 (AI) 模型,其中包含一些能够生成裸体图像的模型,该研究呼吁这家法美公司更加谨慎。
调查报告者之一保罗·布肖(Paul Bouchaud)向法新社解释道:“任何没有技术知识的人都可以输入+提示+并获得他们想要的图像”。
报告详细介绍了一周内收到的 1,081 项请求,其中近四分之三 (73%) 是“与性有关的”,而保罗·布肖指出,“几乎所有请求都是为了脱掉女性的衣服”。该非政府组织还强调,在性请求中,6.7% 针对未成年人。
在接受法新社质询时,Hugging Face 表示,它“认真对待这份报告”,并且“正在采取与当前审核做法一致的措施”。 然而,该平台谴责内容“系统性缺乏节制的不准确断言”和“产生重大误报并扭曲整个生态系统形象的方法”。
一月初,AI Forensics 对社交网络上生成的 20,000 多张图像进行了分析。
尽管该公司声称已经安装了过滤器,但这些裸体图像(其中大多数未经同意)使埃隆·马斯克(Elon Musk )的网络陷入了国际争议的中心,并引发了英国和欧盟的调查。 此后,欧洲议会投票禁止欧盟境内允许人们在未经同意的情况下“脱光衣服”的人工智能服务,这一措施也得到了成员国的支持,但尚未实施。