5.8 KiB
tester 运行
只在用户要跑测试时读本文件。
1. 选范围
未指定范围 → --tag smoke,风险上限 = default_max_risk,automation 默认只跑 automated。
用户说分类、id、tag、风险上限时,原样传给 select:
python3 <skill-dir>/scripts/catalog.py select --root <root> \
[--category CAT] [--id ID]... [--tag smoke|full|slow] \
[--max-risk <risk>] [--driver script|browser|mobile] \
[--automation automated|assisted|manual|any]
--automation 默认 automated(需人工的条目会被跳过,并在 JSON skipped 里说明);用户明确要求现场配合时用 assisted,any 表示不按人工参与度筛。
select 的 JSON 字段:max_risk / automation / count / vars(已展开的变量,用来替换 how 里的 ${…})/ skipped / run_together / status_probe(按分类,url 已展开)/ cases。
select 已排除 retired 和风险高于上限的条目(后者若用户点了具体 id,会在 JSON 的 skipped 里说明,不执行)。
若 catalog 有 run_together,命中组内任一条就把整组按 ids 顺序扩进列表(JSON 带 run_together)。这不是擅自扩大范围。
无命中:停下说明筛选条件,不要扩大范围。
2. 运行前闸
-
HOST未设(环境变量 /HX_TEST_HOST/local.yaml都没有):全部停,environment-fail。 -
命中条的
risk在 catalogauthorize里有对应变量:变量不是true则该条skipped。有gate时还要catalog.gates对应变量为true;assume不成立同样skipped。即使用户点了 id 也不执行。 -
授权/假设不成立是主动不跑(
skipped),不是not-run:这是我们决定不跑,不是没轮到。 -
status_probe是分类级前置条件(业界对应 pytest 的 session fixture / Robot 的 Suite Setup)。用select返回的status_probe解析生效值,不要自己读 catalog 猜。返回的probe.url已用vars展开,直接请求即可;select同批返回vars:categories[].status_probe生效探测 未声明 继承顶层 catalog.status_probe(source: global)false该分类不做闸( source: disabled)mapping 整体覆盖顶层,不合并( source: category) -
同一生效探测一次运行只请求一次,结果复用。
-
探测不可达:用它的分类标 environment-fail,其余分类照跑。
-
命中
stop_if:把用它的分类标 environment-fail 并记observed值,其余分类照跑;所有选中分类都被挡住时,整轮结论才是 environment-fail。
3. Session
看命中条用到的 session 键:
- 尚未初始化:按 catalog
sessions.<name>.init做。reuse: persist的先probe,活着就附着。 - 本轮已初始化:直接用,不要重开浏览器或模拟器。
reuse: run:整轮结束再关。persist:不关。- 中途 session 挂了:后续同 driver 标 environment-fail,不要标产品失败。
4. 执行
按 select 返回的顺序,一条一条来。select 按 catalog.yaml 的 categories 顺序,同一分类内按该 yaml 列表顺序(不是文件名字母序)。默认失败即停(产品 fail 或探测到的不安全状态)。用户说继续 / keep-going 才往后跑。
例外:当前条和下一条同属 run_together 且该组 continue_on_fail: true 时,前一条产品 fail 仍跑后一条。environment-fail 仍整轮停。
automation
automated:Agent 端到端执行。assisted:照常驱动,但遇到以[人工]开头的how.steps时停下,请现场人员执行并回报,确认后再继续。无人值守时该条记not-run。manual:没有driver,run-script会直接返回not-run。只能由人执行、回报结果,Agent 负责记录。
script
有 how.run:
python3 <skill-dir>/scripts/catalog.py run-script --root <root> --id <id>
run-script 只跑命令,返回 executed + stdout/exit(或 skipped / environment-fail)。pass/fail 仍由 Agent 对照 expected 判定,不要把 curl 退出码 0 当成产品通过。
没有 run:按 how.steps 做,证据对照 expected。不要发明 steps 里没有的调用。
browser / mobile
挂到已有 session,执行 how.steps,对照 expected。必须留下可见文本、URL 或交互证据。
5. 记录与报告
每条:id, result, evidence, notes。result 只能是 pass / fail / environment-fail / skipped / not-run。skipped 是主动不跑(retired / pending / 超风险上限 / 未授权 / assume 不成立),not-run 是没轮到(失败即停后剩下的 / 被前置整组挡住的 / 需人工而无人值守的)。
写入 .pouch/tester/runs/<UTC时间>-<范围>-<随机后缀>.yaml,可用
generate_run_csv.new_run_id(<范围>) 生成同名 runId。记录包含唯一 runId、筛选条件、HOST 是否已设(可以写 HOST 值)、session 是否复用、每个分类的 status_probe 生效值与观测结果(source / disabled 原因 / hit / observed)、逐条结果。记录文件只创建一次,不覆盖已有文件。立刻用同一快照生成 CSV,不要手改:
python3 <skill-dir>/scripts/generate_run_csv.py --root <root> --run <yaml>
这会写出与快照同名的 .pouch/tester/runs/<run-id>.csv(executed=yes|no),不会修改 cases.csv。对话里两个路径都报。
对话报告:
## tester 运行:完成 | 部分完成 | 阻塞
范围: …
风险上限: …
session: browser=复用|新开|未用;mobile=…
计数: pass=N fail=N environment-fail=N skipped=N not-run=N
失败: id + 一句证据
跳过: id + 原因
快照: .pouch/tester/runs/<file>.yaml
成绩单: .pouch/tester/runs/<file>.csv
下一步: 一句话