技能写好了不知道好不好用?Anthropic 官方 Skill Creator 帮你跑分:先测再改,11 月 4 日实测版

用 Anthropic Skill Creator 测试技能官方配图

技能写完了,怎么知道它真管用?Anthropic 官方有个叫 skill-creator 的技能,专门干这事:给你的技能写测试用例、跑有技能和没技能两组对照、逐条打分,最后出一份通过率、耗时和 token 数的基准报告。AI Parabellum 11 月 4 日用 Claude Code v2.1.318 实测了一轮,拿的是一个故意写得很弱的技能。

测试对象是 standup-notes,一个只有两行正文的技能,把潦草笔记写成站会更新。第一轮只写了 2 个测试提示词、每个 3 条断言,跑了 4 个子代理(有技能和没技能各两遍):通过率 83% 对 67%。数字本身不重要,有用的是挂掉的检查暴露的问题——把“等设计稿”错放进 Blockers、同一条 flaky CI 在两个小节各出现一次、Yesterday 和 Today 被合并成一个标题。按这份失败清单重写技能、快照旧版再跑一轮对照:新版 100%,旧版 60%。

照着抄的话记住几条:第一轮保持很小,2 个测试、每测 3 条断言就够找大毛病,跑多了烧用量;先读挂掉的检查、再看通过率;改之前先快照旧版,不然没法公平对照;一轮只跑一次只能算方向提示,想当结论要多跑几遍;检查要按真实需求先写好,写完技能再补检查等于自己给自己出送分题。装法也简单:从 Anthropic 官方 skills 仓库装插件,或者把 skill-creator 文件夹拷进项目的 .claude/skills/ 里只在项目内用。

相关阅读:Claude Code 技能写好了却不触发?6 步排查、自己写 Claude Code 技能先看这篇:SKILL.md 每个 frontmatter 字段是干嘛的

来源:AI Parabellum,原文:https://aiparabellum.com/how-to-test-improve-skill-with-claude-skill-creator/

请登录后发表评论

    没有回复内容