10.大模型评测

1.评测工具

1. 评测工程平台：跑自动化测试、管理测试集、集成到 CI、做回归（比如 DeepEval / promptfoo / Langfuse / Opik）。
2. RAG 评测框架：如果你的 Agent 有检索（RAG），需要专门测检索+生成（比如 Ragas）。
3. 通用 LLM 基准：测模型底座能力（比如 lm-evaluation-harness / Open LLM Leaderboard）。
4. 领域基准 / 安全基准：针对金融、法律、医疗等垂直场景的安全与合规（如 TRIDENT-Bench 等）。

2.开源评测工具清单

2.1. 评测工程平台：跑测试、管指标、做回归

2.1.1 DeepEval（推荐优先看）

• 仓库 / 官网：confident-ai/deepeval
• 语言：Python
• 核心能力：
  • 30–40+ 内置评测指标：幻觉、忠实度、答案相关性、偏见/毒性、工具调用正确性等。
  • 支持 LLM-as-a-Judge、G-Eval 等高级评估方式。
  • 集成 LangChain / LangGraph 等框架，可对 Agent 全链路 Trace 打分。
  • 可做单元测试、回归测试，配合 CI/CD 使用。
• 适合你的点：
  • 垂直 Agent 很在意"幻觉 / 忠实度 / 工具调用准确性 / 语气合规"，DeepEval 这类指标直接可用。
  • 可以把你现有的"客服/工单/风控 Agent"包成 LLMTestCase，批量跑评估。

2.1.2 promptfoo（偏工程化、安全红队）

• 仓库 / 官网：promptfoo/promptfoo
• 语言：TypeScript/Node.js
• 核心能力：
  • 自动化 提示词 / 模型 / Agent 的批量测试。
  • 内置 红队 & 安全测试：提示注入、越狱、有害内容、PII 泄露等。
  • 支持 OpenAI / Anthropic / Azure / Ollama 等多种模型对比。
  • CLI + Web UI，YAML 声明式配置测试用例，可集成 CI/CD。
• 适合你的点：
  • 如果你关心 安全合规（金融/法律），promptfoo 的红队插件比 DeepEval 更偏"安全测试"。
  • 适合做"上线前的安全扫描 + 多模型横向对比"。

2.1.3 Langfuse（LLMOps + 评测）

• 仓库 / 官网：langfuse/langfuse
• 语言：TypeScript/Python，支持自托管
• 核心能力：
  • 可观测性：全链路 Trace（LLM 调用、RAG、工具调用等），监控延迟/成本/错误率。
  • 提示词管理：版本管理、A/B 测试、Playground。
  • 评测（Evals）：LLM-as-a-Judge、人工标注、用户反馈，对数据集做基准测试。
• 适合你的点：
  • 如果你想 "先有 Trace，再在 Trace 上做评测"，Langfuse 更偏"LLMOps + 可观测 + 评测"。
  • 适合已经上线在生产环境的 Agent，想补评测能力。
  • 可以 "先有 Trace，再在 Trace 上做评测"，Langfuse 更偏"LLMOps + 可观测 + 评测"。

2.1.4 Opik（Comet 出的 LLM 评测平台）

• 仓库 / 官网：comet-ml/opik
• 语言：Python，支持自托管
• 核心能力：
  • 跟踪 Tracing、记录 LLM 调用和 Agent 活动上下文。
  • 自动化评估，支持 LLM-as-a-Judge、幻觉检测、RAG 指标等。
  • 数据集和实验管理，可做 CI/CD 集成。
• 适合你的点：
  • 和 Langfuse 类似，更偏"平台 + 评测"，适合团队协作。

2.2. RAG 评测：测检索 + 生成的质量

如果你的垂直 Agent 是"RAG + 工具 + 对话"，那 Ragas 基本必看。

2.2.1 Ragas（Retrieval-Augmented Generation Assessment）

• 仓库 / 官网：explodinggradients/ragas
• 语言：Python
• 核心能力：
  • 专为 RAG 设计的指标：上下文精确率 / 召回 / 相关性、忠实度、答案相关性 / 正确性 等。
  • 支持 无参考答案评测（只需 question + contexts + answer，ground_truth 可选）。
  • 可从你自己的文档自动生成测试集（ragas testset）。
  • 与 LangChain 等框架集成。
• 适合你的点：
  • 垂直领域 Agent 很多都是"知识库 + 检索 + 生成"，用 Ragas 可以：
    • 测"检索有没有把相关条文/文档召回"；
    • 测"回答是否基于检索到的内容，而不是瞎编"。

2.3. 通用 LLM 基准：测模型底座能力

2.3.1 lm-evaluation-harness（EleutherAI）

• 仓库：EleutherAI/lm-evaluation-harness
• 语言：Python
• 核心能力：
  • 60+ 学术基准任务（MMLU、HellaSwag、ARC 等）。
  • 支持 HuggingFace 模型、vLLM、OpenAI API 等多种后端。
  • 是 HuggingFace Open LLM Leaderboard 的后端，社区认可度高。
• 适合你的点：
  • 适合在"换底座模型 / 微调后"时，跑一套通用能力基准，看看模型本身有没有变差。

2.3.2 Open LLM Leaderboard / HELM 等公开榜单

• Open LLM Leaderboard v2：使用 MMLU-Pro、GPQA、BBH、IFEval 等更难基准。
• HELM：多维度评测（准确率、鲁棒性、公平性、校准度等）。
• 这些本身不是"工具"，但你可以：
  • 把这些基准任务导出为数据集，用 DeepEval/promptfoo 跑；
  • 或直接用 lm-evaluation-harness 跑 Leaderboard 任务组。

2.4. Agent 专用基准 & 评测框架

2.4.1 Agent 通用基准（偏 Web / OS / 编码）

这些不是"工具"，而是 基准数据集 + 评测协议，你可以自己写脚本或用 DeepEval/promptfoo 接入：

• AgentBench：8 个环境（OS、数据库、KG、AlfWorld、WebShop、Mind2Web 等）评估工具使用、多轮对话、记忆等。
• SuperCLUE-Agent：中文 Agent 基准，评估工具使用、任务规划、记忆能力。
• WebArena / OSWorld / SWE-bench / GAIA：Web 自动化、操作系统、代码修复等任务，被多篇 Agent 评测文章引用。 你可以：
• 用 DeepEval/promptfoo 把这些任务封装成测试用例；
• 或参考这些基准设计你自己的"客服 / 运维 / 财务 Agent 基准"。

2.4.2 垂直领域 / 安全相关基准

• TRIDENT-Bench：法律、金融、医疗领域的 安全与合规基准，基于 AMA、ABA、CFA 等伦理准则构建。
• TestAgent：面向垂直领域的自动评测框架，用 RAG 自动生成领域题目 + 强化学习驱动的多轮交互评测。
• RAGalyst：面向领域 RAG 的自动评测框架，在军事、网络安全、桥梁工程等领域做人类对齐的评测。
• SuperCLUE-Agent 也包含中文行业任务。 这些往往只有 基准 + 论文代码，你需要自己实现评测流水线，但非常值得参考，尤其是金融/法律/医疗这类强监管场景。 —

3.垂直领域 AI Agent评测

3.1. 明确你要测什么（指标体系）

对垂直 Agent，建议至少覆盖：

1. 任务完成质量
   • 任务成功率（end-to-end）
   • 工具调用正确率 / 规划遵循度
   • 关键字段准确率（金额、日期、条款编号等）
2. RAG / 知识质量
   • 检索：上下文精确率 / 召回 / 相关性
   • 生成：忠实度、答案相关性、正确性
3. 安全与合规
   • 幻觉 / 越界建议（法律/金融/医疗）
   • 提示注入 / 越狱
   • 偏见 / 有害内容 / PII 泄露
4. 工程质量
   • 延迟 / 吞吐 / Token 成本
   • 多轮一致性 / 记忆稳定性
   • 回归测试（改一个提示词/模型，不挂掉其它场景）

3.2. 推荐组合方案

场景	推荐组合	说明
刚起步，想先跑起来	DeepEval + Ragas + 若干公开基准	DeepEval 管测试/指标，Ragas 管 RAG，公开基准做底座能力基线
已上线，想补可观测 + 评测	Langfuse / Opik + DeepEval	先用 Langfuse/Opik 做 Trace + 基本指标，再接 DeepEval 做更细粒度评估
强监管行业（金融/法律/医疗）	promptfoo（安全红队）+ Ragas + TRIDENT-Bench/TestAgent	安全合规 + RAG 质量 + 领域安全基准
中文行业 Agent	DeepEval + Ragas + SuperCLUE-Agent / AgentBench	中文基准 + Agent 能力基准

3.3.落地路线

1. 选一个评测工程平台：比如 DeepEval，把你现在 Agent 的"典型场景"写成 LLMTestCase：
   • 输入：用户问 + 场景标记（退款/合同/核保…）
   • 输出：Agent 实际回复
   • 上下文：检索到的文档片段（如有）
   • 预期输出：业务专家给出的标准答案 / 关键点清单
2. 选一个 RAG 评测框架：Ragas，用你现有知识库自动生成测试集，跑一轮检索+生成指标。
3. 跑一套通用基准：用 lm-evaluation-harness 在你的底座模型上跑 MMLU / BBH 等，作为"模型能力基线"。
4. 按行业选安全基准：金融/法律/医疗，引入 TRIDENT-Bench / TestAgent 的题目，把它们导入 DeepEval/promptfoo。
5. 全部接入 CI：每次改提示词 / 模型 / 工具，自动跑评测，防止回归。

四、直接可用的开源工具速查表

工具	类型	主要用途	适合你的场景
DeepEval	评测框架	LLM/Agent 单元测试、30+ 指标、LLM-as-a-Judge、CI/CD	垂直 Agent 的质量、幻觉、工具调用、对话质量评测
promptfoo	评测+安全测试	自动化测试、红队安全、多模型对比	安全合规（金融/法律）、多模型选型、CI 回归
Langfuse	LLMOps+评测	可观测性、Trace、提示词管理、LLM-as-a-Judge	已上线的 Agent，补 Trace + 评测
Opik	LLMOps+评测	Trace、自动评测、数据集/实验管理	团队协作、自托管平台
Ragas	RAG 评测	上下文精确/召回、忠实度、答案相关性等	有知识库的垂直 Agent RAG 质量
lm-evaluation-harness	通用基准	60+ 学术基准、Open LLM Leaderboard 后端	测底座模型通用能力
TRIDENT-Bench / TestAgent / RAGalyst	垂直/安全基准	金融/法律/医疗安全、领域 RAG 评测	强监管行业的垂直 Agent

---