一句话定位:清华大学团队提出的细粒度、基于评分量表(rubric)的幻灯片生成基准——用 238 个真实演示实例 × 每例平均 54.1 条二元检查项,把「PPT 做得好不好」从整体观感拆成可逐项核验的能力评分,是 AI PPT / 办公 Agent 出片质量的对标口径。

为什么值得关注

  • 从”看起来美不美”转向”任务有没有完成”:不同于仅凭整体观感的 (M)LLM-as-a-Judge,PresentBench 关注能否理解输入材料、准确提炼内容、形成清晰叙事、以恰当视觉完成交付,并与人类偏好对齐更强
  • 每例专属 rubric,可诊断:每条检查项都是二元问题(满足/不满足),并要求给出定位证据,可定位到具体失分维度,而不是只给一个总分
  • 长材料 + 强约束:平均输入约 2.22 万 token(≈34 页原始材料),远高于”给一句主题、生成几页”的简单测试;要求内容严格扎根背景材料、禁止编造,量化信息需可回溯
  • 实测分离度更高:论文称比既有方法(如 PPTEval 一类的整体打分)更可靠、更严格,揭示了 NotebookLM 等系统间的显著差距

评测集构成

项说明
实例数238 个专家筛选的真实评测实例
五大场景学术 91 / 教育 60 / 经济 41 / 演讲 30 / 广告 16
材料来源学术类取自 ICLR/ICML/CVPR/USENIX 顶会论文;教育类取自 CMU/MIT 等课程资料;经济与企业类取自 Microsoft/JPMorgan/OECD/World Bank 等公开报告
输入规模平均约 22.2k token(≈34 页原始材料),含事实/数据/图表/结论
任务指令规定演示目标、受众、结构、页数范围、必要章节、内容范围、视觉布局与风格;内容须基于材料、禁止篡改
检查项每例平均 54.1 条原子化二元检查项
交付形态完整 deck(PDF/PPTX),评审可端到端检查版面与忠实度
评测维度演示基础规范 / 视觉设计与布局 / 内容完整性 / 内容正确性 / 内容忠实性
计分每条检查项独立判”满足/不满足”+ 证据定位 → 计算各维度完成率 → 汇总为案例分与总榜成绩(0–1)

五大评测维度

维度考察点
演示基础规范逻辑是否清晰、表达是否简洁、语言是否恰当、是否契合目标场景
视觉设计与布局页面是否美观易读、布局是否合理
内容完整性任务要求的关键信息是否被完整覆盖
内容正确性数据、事实与结论是否准确
内容忠实性内容是否真正扎根背景材料,是否存在无依据扩写/幻觉

榜单与结果

  • 论文原始结论:NotebookLM 显著优于其他幻灯片生成方法(尤其在多个细项上),揭示该领域近期进展
  • 公开榜(截至 2026-07):华为云多模态智能团队 hwc-mmi-aippt 以 70.8 分登顶总榜;学术 72.6 / 教育 71.0 / 经济 72.8 三项场景第一,广告 60.1 第一、演讲 66.5 第二;维度上演示基础规范 90.3、内容完整性 79.9、内容正确性 72.2 三项第一,视觉设计 61.1、内容忠实性 50.3 两项第二(其 PPT 能力已上线华为云果办 OfficeAce)
  • 第三方聚合榜(llm-stats,2026-10 快照):ByteDance Seed 2.1 Pro 0.546 / Seed 2.1 Turbo 0.483(口径与官方榜不同,2 条均为自报,未核验)
  • 分数区间 0–1,与 dumatebench 等 0–100 口径的榜不可直接横比

局限性

  • 强依赖多模态评审(要同时判文本、图像、版面),评测成本与主观性随 rubric 设计波动
  • 场景以学术/教育/经济/演讲/广告为主,偏知识型演示;对强设计感、品牌一致性等主观审美覆盖有限
  • 公开榜样本仍少(官方榜领跑者单一、聚合榜仅 2 条自报),跨系统排名迁移性待更多提交验证

资源

相关页面

  • workbuddy-bench — 腾讯多领域 Agent 工作基准(Office track 亦覆盖幻灯片/办公交付,易与本源混)
  • dumatebench — 真实办公交付基准(同属办公/交付类,Judge 权重结构不同)
  • vibe-code-bench — 端到端交付类基准(同样观察跨榜排名不迁移)
  • benchmarks — 评测集总览
  • leaderboards — 榜单总览