📏 开源LLM评测框架横向对比

07-09 | 工具链lm-evalOpenCompass对比

📌 一句话概括

lm-eval-harness(EleutherAI)和OpenCompass(上海AI Lab)是当前最主流的两个开源LLM评测框架。

💡 框架对比

维度lm-eval-harnessOpenCompass
评测集100+,社区贡献50+,中文优化
模型支持HuggingFace为主HuggingFace+API
并行加速VLLM集成推理加速框架
报告生成JSON/CSVWeb可视化
中文支持一般优秀

🔍 测试实战

1. 框架跑分对比

操作:用两个框架评测同一个模型,对比结果一致性

2. 自定义评测集成

操作:在选定的框架上集成银行自有的评测数据集

⚠️ 常见坑点

  1. 不同框架的相同评测集结果可能不同——实现差异
  2. 框架版本更新后结果可能变化
  3. 中文评测集的质量参差不齐