在新标签页中打开
茉莉花
新闻网
2026-11-05 · 星期四近12小时收录 98 条最近更新 04:57

快讯博顿斯当选佐治亚州长 成美国首位非裔女州长 全面扩大医疗补助要州议会批准

Anthropic公开模型验证原型 生成证明仍需额外算力

茉莉花综合报道

Anthropic执行长阿莫戴出席2026年9月16日旧金山Salesforce年度大会(资料照片,中央社张欣瑜摄)

截至11月4日,Anthropic已公开FlashProve研究原型,尝试在不公开模型权重的情况下,让用户核对AI回复是否来自指定的模型。用户无需拿到权重,但核对对象限于可信承诺绑定的权重与相应输出的关系。证明通过本身不说明权重属于谁,或对应哪个真实模型。

按项目说明,服务商先发布锁定一套权重的承诺标识,再为回复生成证明;用户可在普通CPU上检查证明,无需取得权重。仓库将0.16.0版标为研究成果,注明不维护、不接受贡献,采用Apache 2.0许可。

性能测试采用Llama 4 Maverick的第三方公开4-bit转换版本、单张H100 80 GB显卡和24个CPU核心,提示词长1,024 tokens,每份证明核对下一个token。24个请求一批时,稳定吞吐量为111.23±0.92 tokens/秒;这个数字计入提示词的全部token,不是聊天时生成新文字的速度,也不计启动和生成权重承诺的时间。

批量大小怎样影响证明吞吐量
每批请求数吞吐量(tokens/秒)
117.41±0.15
876.34±0.37
24111.23±0.92

数据:FlashProve性能文档;tokens/秒,提示词稳定吞吐量,均值±样本标准差(n=3),不含启动及生成承诺。

项目按每张GPU计算,24个请求一批生成证明比vLLM同时处理24个请求慢71.4倍,与测试过的vLLM最高负载相比慢93.0倍;对照使用同一模型的FP8版本、8张H100,计算不含启动和生成承诺。证明文件平均18.78 MB,C++验证器单线程检查约需21秒,不需要GPU。

承诺标识须来自可信方,不能取自受查服务器或随证明发来的文件。“WITHIN LIMITS”通过只表示输出符合策略限制,不等于回复就是模型输出。验证范围也有限:通过检查只覆盖指定的输出位置,证明针对量化、定点运算的整数模型,与原始浮点模型输出有多接近仍需测量。项目称C++验证器和CUDA证明生成器本身没有得到形式化证明,也尚无独立安全审计。

另一种做法是MoonshotAI公开的Kimi Vendor Verifier,用基准评测和直接调用API的检查程序核对部署是否满足模型准确性与功能要求。其检查包括采样参数约束、工具调用参数格式,以及服务商报告的提示词token数量是否符合预期。

茉莉花观察

这一节是茉莉花的看法,依据是上文的事实。

我们的分析用户需要同时核对模型身份和服务配置,不能把一种验证通过当成全部服务都合格。这是因为,FlashProve只覆盖指定计算和输出位置,Kimi的工具则另查参数、工具调用与计数;前者的证明不能代替后者的检查,用户遇到的错误也未必来自换模型。

不同看法证明昂贵,不等于没有用途,抽查仍可能帮助用户核对某次计算。这是因为,用户检查证明不用GPU,但服务商生成证明承担的成本很高;把少量抽查和每次回复都验证分开,才能判断谁付得起这笔成本。

展望我们判断,到2026年12月4日,Anthropic不会宣布为全部Claude API回答默认附带FlashProve证明。这是因为,原型目前核对的是Llama整数模型的指定输出位置,额外算力和验证范围都限制了直接覆盖全部在线服务。能检查一份证明,离每次付费调用都得到可靠证明,还有明确的成本与适用范围要交代。

综合爱范儿、Anthropic、MoonshotAI、中央社报道

相关报道

在 Telegram 关注茉莉花

更正与撤稿0 条记录

本文暂无更正或撤稿记录。若本文发布更正、澄清或被撤稿,相关说明将按时间顺序列于此处。版权异议或撤稿请求:见 版权与撤稿,或致函 [email protected]。