评估的七个维度
User-facing Dimensions(用户面维度)
用户直接体验的维度:
Dimension 1:Intent Satisfaction(意图满足)
问题:Agent 是否构建了用户真正想要的,而非仅是用户说的?
难点: - 意图未陈述、模糊、常在会话中途改变 - 用户最终判断依据
评估挑战:
用户说:"Make the dashboard load faster"
Agent 可能理解:
• 优化查询?✓
• 添加缓存?✓
• 减少数据量?✓
• 简化 UI?✓
哪个是用户真正想要的?→ 最难评估维度
Dimension 2:Functional Correctness(功能正确性)
问题:代码是否构建、运行、通过测试?
性质:地板而非天花板
易游戏:
危险模式:
• 测试可删除或 mock → red turn green(红变绿)但不修复任何东西
• Agent 可能删除失败测试而非修复代码 ❌
Dimension 3:Visual and Behavioural Correctness(视觉和行为正确性)
适用:生成 web apps 或 UI 的 Agent
焦点:渲染输出而非代码
关键:
代码级指标完全错过重点:
正确评估:
• 页面看起来正确 ✓
• 页面行为正确 ✓
而非:
• 代码语法正确 ❌(无关)
Internal Dimensions(内部维度)
Agent 不可见行为:
Dimension 4:Cost and Efficiency(成本和效率)
指标:
- Token spend(令牌消费)
- Wall-clock latency(墙钟延迟)
- Tool-call count(工具调用计数)
- Iteration count(迭代计数)
- 用户修正次数 → Agent 收敛需要多少修正?
关键对比:
Agent A:1 轮达到正确 diff
Agent B:8 轮修正达到正确 diff
→ 两种完全不同的产品
Dimension 5:Code Quality and Convention Matching(代码质量和规范匹配)
问题:代码是否匹配项目风格、模式、规范?
Vibe-coding 失败:
示例:
Diff 通过测试 ✓
但违反代码库风格 ❌
→ 本地正确但全局失败
→ Vibe-coding 失败
Dimension 6:Trajectory Quality(轨迹质量)
问题:Agent 是否采取合理路径?
考虑:
- 先读相关文件?
- 序列编辑连贯?
- 每步选择正确工具/skill?
关键洞察:
Correct output produced by bad reasoning is a fragile success
— 糟糕推理产生的正确输出是脆弱的成功
Dimension 7:Self-Repair Behaviour(自修复行为)
问题:构建失败、测试破坏、用户说”不,不是那样”时,Agent 是否恢复或加剧失败?
性质:恢复质量在多轮会话中复合
Dimension Relationships(维度关系)
非独立:维度相互关联
示例关系:
更强 Trajectory Quality (维度 6)
→ 通常意味更强 Functional Correctness (维度 2)
→ 是 Intent Satisfaction (维度 1) 的前提