所有权
- OpenClaw(
extensions/qa-lab/src/mantis/*):场景运行时、pnpm openclaw qa mantis <command>CLI、证据架构。 - QA Lab(
extensions/qa-lab/src/live-transports/*):实时传输测试框架、驱动程序/SUT Bot、报告/证据写入器。 - Crabbox(
openclaw/crabbox):已预热的 Linux 机器、租约、VNC、crabbox media preview。 - GitHub Actions(
.github/workflows/mantis-*.yml):远程入口点、工件保留。 - ClawSweeper:解析维护者 PR 命令、调度工作流、发布最终 PR 评论。
CLI 命令
所有命令都是pnpm openclaw qa mantis <command>,定义于
extensions/qa-lab/src/mantis/cli.ts。构建/运行时需要 OPENCLAW_ENABLE_PRIVATE_QA_CLI=1
(内置工作流会在构建前设置 OPENCLAW_BUILD_PRIVATE_QA=1 和
OPENCLAW_ENABLE_PRIVATE_QA_CLI=1)。
每条命令都接受
--repo-root <path> 和 --output-dir <path>;Crabbox
命令还接受 --crabbox-bin、--provider、--machine-class/--class、
--lease-id、--idle-timeout、--ttl 和 --keep-lease。除非另有说明,提供商/类别的本地 CLI 默认值
为 hetzner/beast;CI 工作流
通常会覆盖两者。
discord-smoke
https://discord.com/api/v10)获取 Bot
用户、服务器、服务器频道和目标频道,断言该
频道属于该服务器,然后(除非使用 --skip-post)发布消息并
添加 👀 表情回应。写入 mantis-discord-smoke-summary.json 和
mantis-discord-smoke-report.md。
令牌解析顺序:--token-file 值,然后是 OPENCLAW_QA_DISCORD_MANTIS_BOT_TOKEN
(可用 --token-env 覆盖),再然后是由 OPENCLAW_QA_DISCORD_MANTIS_BOT_TOKEN_FILE
指定的文件(可用 --token-file-env 覆盖)。服务器/频道 ID 来自
OPENCLAW_QA_DISCORD_GUILD_ID / OPENCLAW_QA_DISCORD_CHANNEL_ID(可用
--guild-id / --channel-id 覆盖),且必须是 17-20 位的 Discord snowflake。设置
OPENCLAW_QA_REDACT_PUBLIC_METADATA=1 可在发布的摘要和报告中将 Bot/服务器/频道/消息 ID
和名称替换为 <redacted>。
run
--transport 目前仅接受 discord。--scenario 是两个
内置 ID 之一,每个都有自己的默认基线 ref 和预期的前后
标签(extensions/qa-lab/src/mantis/run.runtime.ts):
--candidate 默认为 HEAD。其他标志:--credential-source
(默认 convex)、--credential-role(默认 ci)、--provider-mode
(默认 live-frontier)、--fast(默认启用)、--skip-install、--skip-build。
运行器会在 <output-dir>/worktrees/ 下为基线和
候选版本创建分离的 git worktree 检出,在
每个检出中运行 pnpm install/pnpm build(除非跳过),然后针对每个工作树运行
pnpm openclaw qa discord --scenario <id> --model openai/gpt-5.4 --alt-model openai/gpt-5.4 --allow-failures。
每个通道写入 discord-qa-reaction-timelines.json
以及一对 <scenario-id>-timeline.html/.png;运行器将此
证据复制回 baseline//candidate/ 下,在输出目录中写入 comparison.json、
mantis-report.md 和 mantis-evidence.json,并在比较未通过时
以非零状态退出(基线 fail,候选版本
pass)。
第二个 Discord 场景(discord-thread-reply-filepath-attachment)使用
驱动 Bot 发布父消息,创建真实帖子,使用仓库本地的 filePath 调用 SUT 的
message.thread-reply 操作,然后轮询
帖子以获取回复和附件文件名。它预期存在名为
mantis-thread-report.md 的附件。
desktop-browser-smoke
--browser-url(默认 https://openclaw.ai)或渲染后的
--html-file,等待后使用 scrot 截屏,可选择使用
ffmpeg 录制 MP4,并将 desktop-browser-smoke.png / .mp4 / remote-metadata.json
通过 rsync 同步回 --output-dir。
标志:
--lease-id <cbx_...>复用已预热的桌面,而不是创建新桌面。--browser-profile-dir <remote-path>复用远程 Chrome user-data-dir,使持久化桌面在多次运行之间保持登录状态(用于长期运行的 Discord Web 查看器配置文件)。--browser-profile-archive-env <name>在启动前从该环境变量恢复 base64.tgzChrome 配置文件归档(默认OPENCLAW_MANTIS_BROWSER_PROFILE_TGZ_B64);用于 Discord Web 等已登录见证。--video-duration <seconds>控制 MP4 捕获时长(默认 10 秒)。--keep-lease(或OPENCLAW_MANTIS_KEEP_VM=1)让本次运行创建的租约保持打开,以供 VNC 检查;默认情况下,创建了租约的失败运行也会保留该租约。
qa discord)仍是权威依据;设置
OPENCLAW_QA_DISCORD_CAPTURE_UI_METADATA=1 后,该场景还会写入
Discord Web URL 工件,而 OPENCLAW_QA_DISCORD_KEEP_THREADS=1 会让
帖子保持打开足够长的时间,以便浏览器打开它。
GitHub 工作流优先通过
MANTIS_DISCORD_VIEWER_CHROME_PROFILE_DIR 使用持久化查看器配置文件(完整配置文件归档可能超过
GitHub 的机密大小限制);对于较小的/引导用配置文件,它可以改为从 MANTIS_DISCORD_VIEWER_CHROME_PROFILE_TGZ_B64 恢复
base64 .tgz。如果
两种来源均未配置,工作流仍会发布确定性的
基线/候选版本屏幕截图,并记录已跳过登录状态见证。
slack-desktop-smoke
pnpm openclaw qa slack,在 VNC 浏览器中打开 Slack Web,
捕获桌面,并将 Slack QA 工件(slack-qa/)和
VNC 屏幕截图/视频复制回本地。这是唯一一种 SUT Gateway 网关和浏览器
都在同一 VM 中运行的 Mantis 形式。
使用 --gateway-setup 时,该命令会在 VM 中的 $HOME/.openclaw-mantis/slack-openclaw
创建持久化的一次性 OpenClaw 主目录,修补目标频道的 Slack
Socket Mode 配置,启动
openclaw gateway run --dev --allow-unconfigured --port 38973,并让
Chrome 在 VNC 会话中保持运行;省略 --gateway-setup 则改为运行普通的
Bot 对 Bot Slack QA 通道。
--credential-source env 所需的环境变量(本地默认值为 env;角色
默认值为 maintainer):
OPENCLAW_QA_SLACK_CHANNEL_IDOPENCLAW_QA_SLACK_DRIVER_BOT_TOKENOPENCLAW_QA_SLACK_SUT_BOT_TOKENOPENCLAW_QA_SLACK_SUT_APP_TOKENOPENCLAW_LIVE_OPENAI_KEY用于远程模型通道(如果本地仅设置了OPENAI_API_KEY, Mantis 会先将其复制到OPENCLAW_LIVE_OPENAI_KEY,再 调用 Crabbox)
--credential-source convex 时,Mantis 会在创建 VM 前从
共享池租用 Slack SUT 凭据,并将频道 ID、应用令牌和
Bot 令牌作为 OPENCLAW_MANTIS_SLACK_* 环境变量转发到 VM 中,因此 GitHub
工作流只需要 Convex 代理机密,而不需要原始 Slack 令牌。
其他标志:--slack-url <url> 打开指定 URL(否则 Mantis 会从 auth.test
派生 https://app.slack.com/client/<team>/<channel>);
--slack-channel-id <id> 设置 Gateway 网关允许列表频道;
OPENCLAW_MANTIS_SLACK_BROWSER_PROFILE_DIR 控制 VM 内持久化的 Chrome
配置文件(默认 $HOME/.config/openclaw-mantis/slack-chrome-profile);
--approval-checkpoints 运行原生 Slack 审批场景
(slack-approval-exec-native、slack-approval-plugin-native),并渲染
待处理/已解决的检查点屏幕截图,而不是执行 Gateway 网关设置(与
--gateway-setup 互斥);--hydrate-mode source|prehydrated、
--provider-mode、--model、--alt-model 和 --fast 会传递给
Slack 实时通道。
审批检查点屏幕截图根据场景观察到的 Slack API 消息渲染,
而不是来自实时 Slack UI;只有当租约的浏览器配置文件已登录时,
slack-desktop-smoke.png 才能作为 Slack Web 本身的证据。
telegram-desktop-builder
openclaw gateway run --dev --allow-unconfigured --port 38974,向租用的私有群组发布
驱动 Bot 就绪消息,然后捕获
屏幕截图和 MP4。Bot 令牌仅用于配置 OpenClaw;它绝不会让
Telegram Desktop 登录。桌面查看器是一个独立的 Telegram 用户会话,
通过 --telegram-profile-archive-env <name> 恢复,或
通过 VNC 手动登录并使用 --keep-lease 保持活跃。
标志:--lease-id <cbx_...> 针对已登录
Telegram Desktop 的 VM 重新运行;--telegram-profile-archive-env <name> 在启动前恢复 base64
.tgz 配置文件归档;--telegram-profile-dir <remote-path>
设置远程配置文件目录(默认 $HOME/.local/share/TelegramDesktop);
--no-gateway-setup 仅安装并打开 Telegram Desktop;
--credential-source/--credential-role 默认为 convex/maintainer。
证据清单
每个发布到 PR 的场景都会在其报告旁写入mantis-evidence.json:
path 相对于清单所在目录;targetPath 相对于配置的 R2/S3 工件前缀。scripts/mantis/publish-pr-evidence.mjs 会拒绝路径遍历,并在文件缺失时跳过包含 "required": false 的条目。
工件类型:timeline(确定性的前后截图)、desktopScreenshot(VNC/浏览器截图)、motionPreview(录制内容中的内联动态 GIF)、motionClip(裁剪静止片段后的 MP4)、fullVideo(完整录制)、metadata(JSON/日志伴随文件)、report(Markdown 报告)。
一次运行在磁盘上的工件布局:
OPENCLAW_QA_REDACT_PUBLIC_METADATA=1;Discord/Slack/Telegram GitHub 工作流默认启用该设置。
GitHub 自动化
scripts/mantis/publish-pr-evidence.mjs 是可复用的发布器。工作流调用它时会传入清单、目标 PR、工件目标根目录、评论标记、工件 URL、运行 URL 和请求来源。它会将声明的工件上传到 Mantis R2 存储桶,构建一条摘要优先的 PR 评论,其中包含内联图片/预览和视频链接,然后更新现有的标记评论或创建新评论。必需的环境变量:
MANTIS_ARTIFACT_R2_ACCESS_KEY_IDMANTIS_ARTIFACT_R2_SECRET_ACCESS_KEYMANTIS_ARTIFACT_R2_BUCKET(工作流设置openclaw-crabbox-artifacts)MANTIS_ARTIFACT_R2_ENDPOINTMANTIS_ARTIFACT_R2_REGION(工作流设置auto)MANTIS_ARTIFACT_R2_PUBLIC_BASE_URL(工作流设置https://artifacts.openclaw.ai)
MANTIS_GITHUB_APP_ID / MANTIS_GITHUB_APP_PRIVATE_KEY)发布,而不是 github-actions[bot],并使用隐藏的标记评论作为更新插入键。
Mantis Discord Status Reactions 和 Mantis Telegram Live 均接受 baseline_ref/candidate_ref(或 PR 评论中的 baseline=/candidate=),并在使用含秘密的凭据运行之前,验证解析出的 SHA 是 origin/main 的祖先、发布标签(v*)或开放 PR 的头部。
来自具有 write/maintain/admin 访问权限的 PR 的评论触发命令:
telegram-status-command 用作场景;它们接受 provider=aws|hetzner 和 lease=<cbx_...>,以指定特定的 Crabbox 提供商或已预热的桌面。只有当 PR 已带有 mantis: telegram-visible-proof 标签时,Mantis Telegram Desktop Proof 才会响应 PR 评论。
Web UI 聊天评论触发器默认将 PR 头部 SHA 用作候选版本。它们会运行 Control UI 模拟 Gateway 网关聊天证明并发布浏览器工件;对于其他网页和原生应用界面,请使用常规 Playwright/浏览器证明、维护者截图、Crabbox 或本地工件。
ClawSweeper 也可以直接调度场景:
机器和秘密
本地 CLI Crabbox 默认为--provider hetzner --class beast;可使用 --provider、--class/--machine-class 或 OPENCLAW_MANTIS_CRABBOX_PROVIDER / OPENCLAW_MANTIS_CRABBOX_CLASS 覆盖。GitHub 工作流通常会同时覆盖二者(例如 --class standard,以及 Slack 工作流的 aws/hetzner 提供商选择输入)。如果某个提供商速度过慢或不可用,应将其接入同一个 Crabbox 接口,而不是硬编码回退方案。
虚拟机基线:Linux,配备支持桌面的 Chrome/Chromium、CDP 访问权限、VNC/noVNC、Node 22.22.3+、24.15+ 或 25.9+ 和 pnpm、一个 OpenClaw 检出,并且能够出站访问目标传输服务、GitHub、模型提供商和凭据代理。
Mantis 命令和工作流中使用的凭据及环境变量名称:
OPENCLAW_QA_DISCORD_MANTIS_BOT_TOKENOPENCLAW_QA_DISCORD_GUILD_IDOPENCLAW_QA_DISCORD_CHANNEL_ID- 本地
qa mantis run --credential-source env还需要OPENCLAW_QA_DISCORD_DRIVER_BOT_TOKEN、OPENCLAW_QA_DISCORD_SUT_BOT_TOKEN和OPENCLAW_QA_DISCORD_SUT_APPLICATION_ID。GitHub 工作流通常使用--credential-source convex和下方的代理凭据,而不是原始 Discord Bot 令牌。 OPENCLAW_QA_REDACT_PUBLIC_METADATA=1,用于公开上传工件OPENCLAW_QA_CONVEX_SITE_URL、OPENCLAW_QA_CONVEX_SECRET_CIOPENAI_API_KEY(或 Telegram Desktop 证明专用的OPENCLAW_MANTIS_AGENT_OPENAI_API_KEY)CRABBOX_COORDINATOR/CRABBOX_COORDINATOR_TOKEN(工作流还接受OPENCLAW_QA_MANTIS_CRABBOX_COORDINATOR/_TOKEN作为回退,并在调用 Crabbox 之前将其映射到普通名称)CRABBOX_ACCESS_CLIENT_ID、CRABBOX_ACCESS_CLIENT_SECRETMANTIS_GITHUB_APP_ID、MANTIS_GITHUB_APP_PRIVATE_KEY
运行结果
前后对比传输场景会区分以下结果,避免将不稳定的环境误判为产品回归:- 已复现缺陷:基线按场景预期的方式失败。
- 测试框架故障:环境设置、凭据、传输 API、浏览器 或提供商在判定依据有意义之前失败。
添加场景
实时传输场景按传输方式使用 TypeScript 定义(有关 Discord 前后对比形式,请参阅extensions/qa-lab/src/mantis/run.runtime.ts 中的 MANTIS_SCENARIO_CONFIGS),而不是采用独立的声明式文件格式。每个场景都需要:ID 和标题、传输方式、必需凭据、基线 ref 策略、候选 ref 策略、OpenClaw 配置补丁、设置/激励步骤、预期的基线和候选判定依据、视觉捕获目标、超时预算以及清理步骤。
聚焦的仅候选版本浏览器证明可以使用专用的确定性 E2E 测试和工作流。明确限定其范围,在执行前验证候选 ref,隔离由秘密支持的发布流程,并生成相同的证据清单契约。
优先使用小型、类型化的判定依据,而不是视觉检查:Discord 表情回应状态或消息引用、Slack 线程 ts/表情回应 API 状态、电子邮件消息 ID 和标头。当 UI 是唯一可靠的可观察对象时使用浏览器截图;如果平台 API 判定依据存在,则视觉检查应仅作为其补充。
继 Discord、Slack 和 Telegram 之后,相同的运行器形式还可扩展到 WhatsApp(二维码登录、重新识别、投递、媒体、表情回应)和 Matrix(加密房间、线程/回复关系、重启后恢复);二者目前均未实现。
待决问题
- 复用现有 Mantis Bot 时,哪个 Discord Bot 应作为驱动端,哪个应作为被测系统(SUT)?
- GitHub 应将 PR 的 Mantis 工件保留多长时间?
- ClawSweeper 应在何时自动推荐 Mantis 场景,而不是等待维护者命令?
- 对于公开 PR,上传前是否应对截图进行脱敏或裁剪?