包括OpenAI、Meta Platforms和谷歌在内的主要人工智能(AI)公司周二同意采用新的安全措施来保护儿童免受剥削，并堵上其现有防御系统中的几个漏洞。

大量新的生成式AI工具使掠夺者创造儿童性图像和其他剥削性内容的能力大大增强。儿童安全组织Thorn称，新联盟的目标是在这些工具蔓延并伤害更多儿童之前扼制此类内容的创作。Thorn与非营利组织All Tech Is Human共同组织了这一倡议。

Thorn和几家AI公司同意实施一些原则，以最大限度地降低其工具的风险。其中一项原则要求AI实验室避免使用可能包含儿童性内容的数据集，并从自己的培训材料中删除此类材料。

...