跳到正文
原文
Hugging Face Blog·· 21 天前AI 评分35

ProvenanceGuard:面向 MCP 智能体的来源感知事实核查

Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents

AI 导读

Hugging Face 发布论文 ProvenanceGuard,一种面向 MCP 智能体的生成后验证层,可保留工具输出的来源 ID,逐条核查答案中的声明是否由其所声称的来源支持,而非仅看证据池中是否存在该事实。在 281 条医疗智能体真实 trace 上,专家判定应拦截的 139 条声明中它拦下 138 条,来源识别准确率约 86%,并在与四种核查器的对比中得分最高。

来源:Hugging Face Blog · huggingface.co