OpenClaw có ba bộ kiểm thử Vitest (unit/integration, e2e, live) và một nhóm nhỏ các Docker runner. Tài liệu này là hướng dẫn “cách chúng tôi kiểm thử”:Documentation Index
Fetch the complete documentation index at: https://docs2.openclaw.ai/llms.txt
Use this file to discover all available pages before exploring further.
- Mỗi bộ kiểm thử bao phủ những gì (và những gì nó cố ý không bao phủ).
- Lệnh nào cần chạy cho các quy trình phổ biến (cục bộ, trước khi đẩy, gỡ lỗi).
- Cách kiểm thử live phát hiện thông tin xác thực và chọn mô hình/nhà cung cấp.
- Cách thêm hồi quy cho các sự cố mô hình/nhà cung cấp trong thực tế.
Ngăn xếp QA (qa-lab, qa-channel, các lane truyền tải live) được ghi tài liệu riêng:
- Tổng quan QA - kiến trúc, bề mặt lệnh, cách soạn kịch bản.
- QA Ma trận - tài liệu tham chiếu cho
pnpm openclaw qa matrix. - Kênh QA - Plugin truyền tải tổng hợp được dùng bởi các kịch bản dựa trên repo.
qa cụ thể và trỏ lại các tài liệu tham chiếu ở trên.Bắt đầu nhanh
Hầu hết các ngày:- Cổng kiểm tra đầy đủ (được kỳ vọng trước khi đẩy):
pnpm build && pnpm check && pnpm check:test-types && pnpm test - Chạy toàn bộ bộ kiểm thử cục bộ nhanh hơn trên máy dư tài nguyên:
pnpm test:max - Vòng lặp watch Vitest trực tiếp:
pnpm test:watch - Nhắm mục tiêu tệp trực tiếp giờ cũng định tuyến các đường dẫn extension/channel:
pnpm test extensions/discord/src/monitor/message-handler.preflight.test.ts - Ưu tiên các lượt chạy có mục tiêu trước khi bạn đang lặp trên một lỗi duy nhất.
- Trang QA dựa trên Docker:
pnpm qa:lab:up - Lane QA dựa trên VM Linux:
pnpm openclaw qa suite --runner multipass --scenario channel-chat-baseline
- Cổng coverage:
pnpm test:coverage - Bộ kiểm thử E2E:
pnpm test:e2e
- Bộ live (mô hình + các probe công cụ/hình ảnh của Gateway):
pnpm test:live - Nhắm mục tiêu một tệp live trong chế độ yên lặng:
pnpm test:live -- src/agents/models.profiles.live.test.ts - Báo cáo hiệu năng runtime: dispatch
OpenClaw Performancevớilive_gpt54=truecho một lượt agentopenai/gpt-5.4thật hoặcdeep_profile=truecho các artifact CPU/heap/trace của Kova. Các lượt chạy theo lịch hằng ngày xuất bản artifact của các lane mock-provider, deep-profile và GPT 5.4 lênopenclaw/clawgrit-reportskhiCLAWGRIT_REPORTS_TOKENđược cấu hình. Báo cáo mock-provider cũng bao gồm số liệu ở cấp nguồn cho khởi động Gateway, bộ nhớ, áp lực Plugin, vòng lặp hello fake-model lặp lại và khởi động CLI. - Quét mô hình live bằng Docker:
pnpm test:docker:live-models- Mỗi mô hình được chọn giờ chạy một lượt văn bản cộng với một probe nhỏ kiểu đọc tệp.
Các mô hình có metadata quảng bá đầu vào
imagecũng chạy một lượt hình ảnh nhỏ. Tắt các probe bổ sung bằngOPENCLAW_LIVE_MODEL_FILE_PROBE=0hoặcOPENCLAW_LIVE_MODEL_IMAGE_PROBE=0khi cô lập lỗi nhà cung cấp. - Phạm vi CI:
OpenClaw Scheduled Live And E2E Checkshằng ngày vàOpenClaw Release Checksthủ công đều gọi workflow live/E2E tái sử dụng vớiinclude_live_suites: true, bao gồm các job ma trận mô hình live Docker riêng được chia shard theo nhà cung cấp. - Để chạy lại CI có trọng tâm, dispatch
OpenClaw Live And E2E Checks (Reusable)vớiinclude_live_suites: truevàlive_models_only: true. - Thêm secret nhà cung cấp tín hiệu cao mới vào
scripts/ci-hydrate-live-auth.shcùng.github/workflows/openclaw-live-and-e2e-checks-reusable.ymlvà các caller theo lịch/phát hành của nó.
- Mỗi mô hình được chọn giờ chạy một lượt văn bản cộng với một probe nhỏ kiểu đọc tệp.
Các mô hình có metadata quảng bá đầu vào
- Smoke trò chuyện ràng buộc Codex native:
pnpm test:docker:live-codex-bind- Chạy một lane live Docker trên đường dẫn app-server Codex, ràng buộc một
Slack DM tổng hợp bằng
/codex bind, thực thi/codex fastvà/codex permissions, rồi xác minh một phản hồi thường và một tệp đính kèm hình ảnh đi qua ràng buộc Plugin native thay vì ACP.
- Chạy một lane live Docker trên đường dẫn app-server Codex, ràng buộc một
Slack DM tổng hợp bằng
- Smoke harness app-server Codex:
pnpm test:docker:live-codex-harness- Chạy các lượt agent Gateway qua harness app-server Codex do Plugin sở hữu,
xác minh
/codex statusvà/codex models, và theo mặc định thực thi các probe hình ảnh, cron MCP, sub-agent và Guardian. Tắt probe sub-agent bằngOPENCLAW_LIVE_CODEX_HARNESS_SUBAGENT_PROBE=0khi cô lập các lỗi khác của app-server Codex. Để kiểm tra sub-agent có trọng tâm, hãy tắt các probe khác:OPENCLAW_LIVE_CODEX_HARNESS_IMAGE_PROBE=0 OPENCLAW_LIVE_CODEX_HARNESS_MCP_PROBE=0 OPENCLAW_LIVE_CODEX_HARNESS_GUARDIAN_PROBE=0 OPENCLAW_LIVE_CODEX_HARNESS_SUBAGENT_PROBE=1 pnpm test:docker:live-codex-harness. Lệnh này thoát sau probe sub-agent trừ khiOPENCLAW_LIVE_CODEX_HARNESS_SUBAGENT_ONLY=0được đặt.
- Chạy các lượt agent Gateway qua harness app-server Codex do Plugin sở hữu,
xác minh
- Smoke cài đặt Codex theo yêu cầu:
pnpm test:docker:codex-on-demand- Cài đặt tarball OpenClaw đã đóng gói trong Docker, chạy onboarding bằng OpenAI API-key,
và xác minh Plugin Codex cùng dependency
@openai/codexđã được tải xuống npm root được quản lý theo yêu cầu.
- Cài đặt tarball OpenClaw đã đóng gói trong Docker, chạy onboarding bằng OpenAI API-key,
và xác minh Plugin Codex cùng dependency
- Smoke dependency công cụ Plugin live:
pnpm test:docker:live-plugin-tool- Đóng gói một Plugin fixture với dependency
slugifythật, cài đặt nó thông quanpm-pack:, xác minh dependency dưới npm root được quản lý, rồi yêu cầu một mô hình OpenAI live gọi công cụ Plugin và trả về slug ẩn.
- Đóng gói một Plugin fixture với dependency
- Smoke lệnh cứu hộ Crestodian:
pnpm test:live:crestodian-rescue-channel- Kiểm tra opt-in belt-and-suspenders cho bề mặt lệnh cứu hộ kênh tin nhắn.
Nó thực thi
/crestodian status, xếp hàng một thay đổi mô hình bền vững, trả lời/crestodian yes, và xác minh đường dẫn ghi audit/config.
- Kiểm tra opt-in belt-and-suspenders cho bề mặt lệnh cứu hộ kênh tin nhắn.
Nó thực thi
- Smoke Docker planner Crestodian:
pnpm test:docker:crestodian-planner- Chạy Crestodian trong container không có config với Claude CLI giả trên
PATHvà xác minh fallback planner mờ được dịch thành một lần ghi config đã audit và có kiểu.
- Chạy Crestodian trong container không có config với Claude CLI giả trên
- Smoke Docker lần chạy đầu của Crestodian:
pnpm test:docker:crestodian-first-run- Bắt đầu từ thư mục trạng thái OpenClaw trống, định tuyến
openclawtrần tới Crestodian, áp dụng các lần ghi setup/model/agent/Plugin Discord + SecretRef, xác thực config và xác minh các mục audit. Cùng đường dẫn thiết lập Ring 0 này cũng được bao phủ trong QA Lab bởipnpm openclaw qa suite --scenario crestodian-ring-zero-setup.
- Bắt đầu từ thư mục trạng thái OpenClaw trống, định tuyến
- Smoke chi phí Moonshot/Kimi: với
MOONSHOT_API_KEYđược đặt, chạyopenclaw models list --provider moonshot --json, rồi chạy một lượt tách biệtopenclaw agent --local --session-id live-kimi-cost --message 'Reply exactly: KIMI_LIVE_OK' --thinking off --jsontrênmoonshot/kimi-k2.6. Xác minh JSON báo cáo Moonshot/K2.6 và bản ghi assistant lưuusage.costđã chuẩn hóa.
Runner dành riêng cho QA
Các lệnh này nằm cạnh các bộ kiểm thử chính khi bạn cần tính thực tế của QA-lab: CI chạy QA Lab trong các workflow chuyên dụng. Tính tương đương agentic được lồng dướiQA-Lab - All Lanes và xác thực phát hành, không phải một workflow PR độc lập.
Xác thực rộng nên dùng Full Release Validation với
rerun_group=qa-parity hoặc nhóm QA của release-checks. Các kiểm tra phát hành ổn định/mặc định
giữ soak live/Docker toàn diện phía sau run_release_soak=true; profile
full buộc bật soak. QA-Lab - All Lanes
chạy hằng đêm trên main và từ dispatch thủ công với lane tương đương mock, lane
Matrix live, lane Telegram live do Convex quản lý, và lane Discord live do Convex quản lý
dưới dạng các job song song. QA theo lịch và kiểm tra phát hành truyền Matrix
--profile fast một cách tường minh, trong khi CLI Matrix và đầu vào workflow thủ công
mặc định vẫn là all; dispatch thủ công có thể chia shard all thành các job
transport, media, e2ee-smoke, e2ee-deep, và e2ee-cli. OpenClaw Release Checks chạy tính tương đương cộng với các lane Matrix nhanh và Telegram trước khi phê duyệt
phát hành, dùng mock-openai/gpt-5.5 cho kiểm tra truyền tải phát hành để chúng
có tính xác định và tránh khởi động provider-plugin thông thường. Các Gateway truyền tải live này
tắt tìm kiếm bộ nhớ; hành vi bộ nhớ vẫn được bao phủ bởi các bộ tương đương QA.
Các shard media live của phát hành đầy đủ dùng
ghcr.io/openclaw/openclaw-live-media-runner:ubuntu-24.04, vốn đã có
ffmpeg và ffprobe. Các shard mô hình/backend live Docker dùng image chia sẻ
ghcr.io/openclaw/openclaw-live-test:<sha> được build một lần cho mỗi commit được chọn,
rồi kéo image đó bằng OPENCLAW_SKIP_DOCKER_BUILD=1 thay vì build lại
trong từng shard.
pnpm openclaw qa suite- Chạy các kịch bản QA được hậu thuẫn bởi repo trực tiếp trên máy chủ.
- Theo mặc định, chạy song song nhiều kịch bản đã chọn với các worker
gateway cô lập.
qa-channelmặc định concurrency là 4 (bị giới hạn bởi số lượng kịch bản đã chọn). Dùng--concurrency <count>để tinh chỉnh số worker, hoặc--concurrency 1cho lane tuần tự cũ hơn. - Thoát với mã khác 0 khi bất kỳ kịch bản nào thất bại. Dùng
--allow-failureskhi bạn muốn có artifact mà không có mã thoát thất bại. - Hỗ trợ các chế độ provider
live-frontier,mock-openai, vàaimock.aimockkhởi động một server provider cục bộ được hậu thuẫn bởi AIMock cho coverage fixture và protocol-mock thử nghiệm mà không thay thế lanemock-openainhận biết kịch bản.
pnpm test:plugins:kitchen-sink-live- Chạy gauntlet Plugin OpenAI Kitchen Sink trực tiếp qua QA Lab. Nó
cài đặt gói Kitchen Sink bên ngoài, xác minh inventory bề mặt plugin SDK,
thăm dò
/healthzvà/readyz, ghi lại bằng chứng CPU/RSS của Gateway, chạy một lượt OpenAI trực tiếp, và kiểm tra chẩn đoán đối kháng. Yêu cầu xác thực OpenAI trực tiếp nhưOPENAI_API_KEY. Trong các phiên Testbox đã được hydrate, nó tự động source hồ sơ live-auth của Testbox khi có helperopenclaw-testbox-env.
- Chạy gauntlet Plugin OpenAI Kitchen Sink trực tiếp qua QA Lab. Nó
cài đặt gói Kitchen Sink bên ngoài, xác minh inventory bề mặt plugin SDK,
thăm dò
pnpm test:gateway:cpu-scenarios- Chạy benchmark khởi động Gateway cùng một gói nhỏ các kịch bản QA Lab mock
(
channel-chat-baseline,memory-failure-fallback,gateway-restart-inflight-run) và ghi bản tóm tắt quan sát CPU kết hợp vào.artifacts/gateway-cpu-scenarios/. - Theo mặc định chỉ gắn cờ các quan sát CPU nóng kéo dài (
--cpu-core-warncùng--hot-wall-warn-ms), nên các đợt tăng ngắn khi khởi động được ghi như metric mà không trông giống hồi quy Gateway ghim CPU kéo dài nhiều phút. - Dùng artifact
distđã build; hãy chạy build trước khi checkout chưa có output runtime mới.
- Chạy benchmark khởi động Gateway cùng một gói nhỏ các kịch bản QA Lab mock
(
pnpm openclaw qa suite --runner multipass- Chạy cùng bộ QA bên trong một VM Linux Multipass dùng một lần.
- Giữ cùng hành vi chọn kịch bản như
qa suitetrên máy chủ. - Tái sử dụng cùng các cờ chọn provider/model như
qa suite. - Các lần chạy trực tiếp chuyển tiếp những input xác thực QA được hỗ trợ và thực tế cho guest:
khóa provider dựa trên env, đường dẫn cấu hình provider trực tiếp của QA, và
CODEX_HOMEkhi có. - Thư mục output phải nằm dưới gốc repo để guest có thể ghi ngược qua workspace đã mount.
- Ghi báo cáo QA + tóm tắt thông thường cùng log Multipass dưới
.artifacts/qa-e2e/....
pnpm qa:lab:up- Khởi động site QA được hậu thuẫn bởi Docker cho công việc QA kiểu operator.
pnpm test:docker:npm-onboard-channel-agent- Build một tarball npm từ checkout hiện tại, cài đặt toàn cục trong Docker, chạy onboarding khóa API OpenAI không tương tác, cấu hình Telegram theo mặc định, xác minh runtime Plugin đã đóng gói tải được mà không cần sửa dependency lúc khởi động, chạy doctor, và chạy một lượt agent cục bộ với endpoint OpenAI được mock.
- Dùng
OPENCLAW_NPM_ONBOARD_CHANNEL=discordđể chạy cùng lane packaged-install với Discord.
pnpm test:docker:session-runtime-context- Chạy một smoke Docker ứng dụng đã build có tính xác định cho transcript
ngữ cảnh runtime nhúng. Nó xác minh ngữ cảnh runtime OpenClaw ẩn được lưu
dưới dạng thông điệp tùy chỉnh không hiển thị thay vì rò rỉ vào lượt người dùng
nhìn thấy được, sau đó seed một JSONL phiên bị hỏng chịu ảnh hưởng và xác minh
openclaw doctor --fixghi lại nó sang nhánh active với một bản sao lưu.
- Chạy một smoke Docker ứng dụng đã build có tính xác định cho transcript
ngữ cảnh runtime nhúng. Nó xác minh ngữ cảnh runtime OpenClaw ẩn được lưu
dưới dạng thông điệp tùy chỉnh không hiển thị thay vì rò rỉ vào lượt người dùng
nhìn thấy được, sau đó seed một JSONL phiên bị hỏng chịu ảnh hưởng và xác minh
pnpm test:docker:npm-telegram-live- Cài đặt một candidate gói OpenClaw trong Docker, chạy onboarding gói đã cài, cấu hình Telegram qua CLI đã cài, rồi tái sử dụng lane QA Telegram trực tiếp với gói đã cài đó làm Gateway SUT.
- Wrapper chỉ mount source harness
qa-labtừ checkout; gói đã cài sở hữudist,openclaw/plugin-sdk, và runtime Plugin đi kèm để lane không trộn các Plugin từ checkout hiện tại vào gói đang được kiểm thử. - Mặc định là
OPENCLAW_NPM_TELEGRAM_PACKAGE_SPEC=openclaw@beta; đặtOPENCLAW_NPM_TELEGRAM_PACKAGE_TGZ=/path/to/openclaw-current.tgzhoặcOPENCLAW_CURRENT_PACKAGE_TGZđể kiểm thử một tarball cục bộ đã resolve thay vì cài đặt từ registry. - Dùng cùng thông tin xác thực env Telegram hoặc nguồn thông tin xác thực Convex như
pnpm openclaw qa telegram. Với tự động hóa CI/release, đặtOPENCLAW_NPM_TELEGRAM_CREDENTIAL_SOURCE=convexcùngOPENCLAW_QA_CONVEX_SITE_URLvà role secret. NếuOPENCLAW_QA_CONVEX_SITE_URLvà một Convex role secret có trong CI, wrapper Docker tự động chọn Convex. - Wrapper xác thực env thông tin xác thực Telegram hoặc Convex trên máy chủ trước
công việc build/cài đặt Docker. Chỉ đặt
OPENCLAW_NPM_TELEGRAM_SKIP_CREDENTIAL_PREFLIGHT=1khi cố ý debug thiết lập trước thông tin xác thực. OPENCLAW_NPM_TELEGRAM_CREDENTIAL_ROLE=ci|maintainerghi đèOPENCLAW_QA_CREDENTIAL_ROLEdùng chung chỉ cho lane này.- GitHub Actions hiển thị lane này dưới dạng workflow maintainer thủ công
NPM Telegram Beta E2E. Nó không chạy khi merge. Workflow dùng môi trườngqa-live-sharedvà các lease thông tin xác thực CI Convex.
- GitHub Actions cũng hiển thị
Package Acceptancecho bằng chứng sản phẩm chạy bên cạnh trên một gói candidate. Nó chấp nhận một ref đáng tin cậy, spec npm đã phát hành, URL tarball HTTPS cùng SHA-256, hoặc artifact tarball từ một lần chạy khác, uploadopenclaw-current.tgzđã chuẩn hóa dưới tênpackage-under-test, rồi chạy scheduler Docker E2E hiện có với các hồ sơ lane smoke, package, product, full, hoặc custom. Đặttelegram_mode=mock-openaihoặclive-frontierđể chạy workflow QA Telegram với cùng artifactpackage-under-test.- Bằng chứng sản phẩm beta mới nhất:
- Bằng chứng URL tarball chính xác yêu cầu digest:
- Bằng chứng artifact tải xuống một artifact tarball từ một lần chạy Actions khác:
-
pnpm test:docker:plugins- Đóng gói và cài đặt bản build OpenClaw hiện tại trong Docker, khởi động Gateway với OpenAI đã cấu hình, rồi bật các kênh/Plugin đi kèm qua chỉnh sửa cấu hình.
- Xác minh discovery thiết lập để vắng mặt các Plugin có thể tải xuống chưa cấu hình, lần sửa doctor đầu tiên đã cấu hình sẽ cài đặt rõ ràng từng Plugin có thể tải xuống bị thiếu, và lần khởi động lại thứ hai không chạy sửa dependency ẩn.
- Cũng cài đặt một baseline npm cũ đã biết, bật Telegram trước khi chạy
openclaw update --tag <candidate>, và xác minh doctor sau cập nhật của candidate dọn dẹp phần thừa dependency Plugin cũ mà không có sửa postinstall phía harness.
-
pnpm test:parallels:npm-update-
Chạy smoke cập nhật cài đặt gói native trên các guest Parallels. Mỗi
nền tảng được chọn trước tiên cài đặt gói baseline được yêu cầu, sau đó chạy
lệnh
openclaw updateđã cài trong cùng guest và xác minh phiên bản đã cài, trạng thái cập nhật, độ sẵn sàng của Gateway, và một lượt agent cục bộ. -
Dùng
--platform macos,--platform windows, hoặc--platform linuxkhi lặp trên một guest. Dùng--jsoncho đường dẫn artifact tóm tắt và trạng thái từng lane. -
Lane OpenAI dùng
openai/gpt-5.5cho bằng chứng lượt agent trực tiếp theo mặc định. Truyền--model <provider/model>hoặc đặtOPENCLAW_PARALLELS_OPENAI_MODELkhi cố ý xác thực một model OpenAI khác. -
Bọc các lần chạy cục bộ dài trong timeout của máy chủ để các lần kẹt transport Parallels
không tiêu tốn phần còn lại của cửa sổ kiểm thử:
-
Script ghi các log lane lồng nhau dưới
/tmp/openclaw-parallels-npm-update.*. Kiểm trawindows-update.log,macos-update.log, hoặclinux-update.logtrước khi giả định wrapper bên ngoài bị treo. - Cập nhật Windows có thể mất 10 đến 15 phút trong công việc doctor sau cập nhật và cập nhật package trên một guest lạnh; điều đó vẫn lành mạnh khi log debug npm lồng nhau đang tiến triển.
- Không chạy wrapper tổng hợp này song song với các lane smoke Parallels macOS, Windows, hoặc Linux riêng lẻ. Chúng dùng chung trạng thái VM và có thể va chạm khi khôi phục snapshot, phục vụ package, hoặc trạng thái Gateway của guest.
- Bằng chứng sau cập nhật chạy bề mặt Plugin đi kèm thông thường vì các facade capability như speech, tạo ảnh, và hiểu media được tải qua API runtime đi kèm ngay cả khi bản thân lượt agent chỉ kiểm tra một phản hồi văn bản đơn giản.
-
Chạy smoke cập nhật cài đặt gói native trên các guest Parallels. Mỗi
nền tảng được chọn trước tiên cài đặt gói baseline được yêu cầu, sau đó chạy
lệnh
-
pnpm openclaw qa aimock- Chỉ khởi động server provider AIMock cục bộ cho kiểm thử smoke protocol trực tiếp.
-
pnpm openclaw qa matrix- Chạy lane QA Matrix trực tiếp với một homeserver Tuwunel dùng một lần được hậu thuẫn bởi Docker. Chỉ source-checkout - các bản cài đặt đóng gói không ship
qa-lab. - CLI đầy đủ, catalog hồ sơ/kịch bản, env var, và bố cục artifact: QA Matrix.
- Chạy lane QA Matrix trực tiếp với một homeserver Tuwunel dùng một lần được hậu thuẫn bởi Docker. Chỉ source-checkout - các bản cài đặt đóng gói không ship
-
pnpm openclaw qa telegram- Chạy lane QA Telegram trực tiếp với một nhóm riêng tư thật bằng token bot driver và SUT từ env.
- Yêu cầu
OPENCLAW_QA_TELEGRAM_GROUP_ID,OPENCLAW_QA_TELEGRAM_DRIVER_BOT_TOKEN, vàOPENCLAW_QA_TELEGRAM_SUT_BOT_TOKEN. ID nhóm phải là ID chat Telegram dạng số. - Hỗ trợ
--credential-source convexcho thông tin xác thực dùng chung theo pool. Dùng chế độ env theo mặc định, hoặc đặtOPENCLAW_QA_CREDENTIAL_SOURCE=convexđể chọn dùng lease theo pool. - Mặc định bao phủ canary, cổng mention, định địa chỉ lệnh,
/status, trả lời được mention giữa bot với bot, và trả lời lệnh native cốt lõi. Mặc địnhmock-openaicũng bao phủ các hồi quy reply-chain có tính xác định và streaming final-message Telegram. Dùng--list-scenarioscho các probe tùy chọn nhưsession_status. - Thoát với mã khác 0 khi bất kỳ kịch bản nào thất bại. Dùng
--allow-failureskhi bạn muốn có artifact mà không có mã thoát thất bại. - Yêu cầu hai bot riêng biệt trong cùng một nhóm riêng tư, với bot SUT hiển thị username Telegram.
- Để quan sát ổn định giữa bot với bot, bật Bot-to-Bot Communication Mode trong
@BotFathercho cả hai bot và đảm bảo bot driver có thể quan sát traffic bot trong nhóm. - Ghi báo cáo QA Telegram, tóm tắt, và artifact observed-messages dưới
.artifacts/qa-e2e/.... Các kịch bản trả lời bao gồm RTT từ yêu cầu gửi của driver đến phản hồi SUT quan sát được.
Mantis Telegram Live là wrapper bằng chứng PR quanh lane này. Nó chạy
candidate ref với thông tin xác thực Telegram được Convex lease, render transcript
observed-message đã biên tập trong trình duyệt desktop Crabbox, ghi bằng chứng MP4,
tạo GIF đã cắt theo chuyển động, upload bundle artifact, và đăng bằng chứng PR inline
qua Mantis GitHub App khi pr_number được đặt. Maintainer có thể
khởi động từ UI Actions qua Mantis Scenario (scenario_id: telegram-live) hoặc trực tiếp từ bình luận pull request:
Mantis Telegram Desktop Proof là wrapper Telegram Desktop native có tính agent
trước/sau cho bằng chứng trực quan của PR. Khởi động từ UI Actions với
instructions tự do, qua Mantis Scenario (scenario_id: telegram-desktop-proof), hoặc từ bình luận PR:
motionPreview theo cặp, và đăng cùng bảng GIF 2 cột thông qua
Mantis GitHub App khi pr_number được đặt.
pnpm openclaw qa mantis telegram-desktop-builder- Thuê hoặc tái sử dụng một desktop Linux Crabbox, cài đặt Telegram Desktop gốc, cấu hình OpenClaw với token bot SUT Telegram được thuê, khởi động Gateway, và ghi lại bằng chứng ảnh chụp màn hình/MP4 từ desktop VNC đang hiển thị.
- Mặc định dùng
--credential-source convexđể workflow chỉ cần secret broker Convex. Dùng--credential-source envvới cùng các biếnOPENCLAW_QA_TELEGRAM_*nhưpnpm openclaw qa telegram. - Telegram Desktop vẫn cần một hồ sơ/phiên đăng nhập người dùng. Token bot chỉ cấu hình OpenClaw. Dùng
--telegram-profile-archive-env <name>cho kho lưu trữ hồ sơ.tgzbase64, hoặc dùng--keep-leasevà đăng nhập thủ công qua VNC một lần. - Ghi
mantis-telegram-desktop-builder-report.md,mantis-telegram-desktop-builder-summary.json,telegram-desktop-builder.png, vàtelegram-desktop-builder.mp4dưới thư mục đầu ra.
qa-channel là bộ kiểm thử tổng hợp rộng và không thuộc ma trận đó.
Thông tin xác thực Telegram dùng chung qua Convex (v1)
Khi--credential-source convex (hoặc OPENCLAW_QA_CREDENTIAL_SOURCE=convex) được bật cho
QA truyền tải trực tiếp, QA lab nhận một lease độc quyền từ pool được hậu thuẫn bởi Convex, Heartbeat
lease đó trong khi làn đang chạy, và giải phóng lease khi tắt. Tên mục này có trước
hỗ trợ Discord, Slack, và WhatsApp; hợp đồng lease được dùng chung trên các loại.
Scaffold dự án Convex tham chiếu:
qa/convex-credential-broker/
OPENCLAW_QA_CONVEX_SITE_URL(ví dụhttps://your-deployment.convex.site)- Một secret cho vai trò đã chọn:
OPENCLAW_QA_CONVEX_SECRET_MAINTAINERchomaintainerOPENCLAW_QA_CONVEX_SECRET_CIchoci
- Chọn vai trò thông tin xác thực:
- CLI:
--credential-role maintainer|ci - Mặc định env:
OPENCLAW_QA_CREDENTIAL_ROLE(mặc định làcitrong CI, nếu không làmaintainer)
- CLI:
OPENCLAW_QA_CREDENTIAL_LEASE_TTL_MS(mặc định1200000)OPENCLAW_QA_CREDENTIAL_HEARTBEAT_INTERVAL_MS(mặc định30000)OPENCLAW_QA_CREDENTIAL_ACQUIRE_TIMEOUT_MS(mặc định90000)OPENCLAW_QA_CREDENTIAL_HTTP_TIMEOUT_MS(mặc định15000)OPENCLAW_QA_CONVEX_ENDPOINT_PREFIX(mặc định/qa-credentials/v1)OPENCLAW_QA_CREDENTIAL_OWNER_ID(id truy vết tùy chọn)OPENCLAW_QA_ALLOW_INSECURE_HTTP=1cho phép URL Convex loopbackhttp://chỉ dành cho phát triển cục bộ.
OPENCLAW_QA_CONVEX_SITE_URL nên dùng https:// trong vận hành thông thường.
Các lệnh quản trị của maintainer (thêm/xóa/liệt kê pool) yêu cầu riêng
OPENCLAW_QA_CONVEX_SECRET_MAINTAINER.
Trình trợ giúp CLI cho maintainer:
doctor trước các lần chạy trực tiếp để kiểm tra URL site Convex, secret broker,
tiền tố endpoint, thời gian chờ HTTP, và khả năng truy cập admin/list mà không in
giá trị secret. Dùng --json để có đầu ra máy đọc được trong script và tiện ích CI.
Hợp đồng endpoint mặc định (OPENCLAW_QA_CONVEX_SITE_URL + /qa-credentials/v1):
POST /acquire- Yêu cầu:
{ kind, ownerId, actorRole, leaseTtlMs, heartbeatIntervalMs } - Thành công:
{ status: "ok", credentialId, leaseToken, payload, leaseTtlMs?, heartbeatIntervalMs? } - Hết tài nguyên/có thể thử lại:
{ status: "error", code: "POOL_EXHAUSTED" | "NO_CREDENTIAL_AVAILABLE", ... }
- Yêu cầu:
POST /payload-chunk- Yêu cầu:
{ kind, ownerId, actorRole, credentialId, leaseToken, index } - Thành công:
{ status: "ok", index, data }
- Yêu cầu:
POST /heartbeat- Yêu cầu:
{ kind, ownerId, actorRole, credentialId, leaseToken, leaseTtlMs } - Thành công:
{ status: "ok" }(hoặc2xxrỗng)
- Yêu cầu:
POST /release- Yêu cầu:
{ kind, ownerId, actorRole, credentialId, leaseToken } - Thành công:
{ status: "ok" }(hoặc2xxrỗng)
- Yêu cầu:
POST /admin/add(chỉ secret maintainer)- Yêu cầu:
{ kind, actorId, payload, note?, status? } - Thành công:
{ status: "ok", credential }
- Yêu cầu:
POST /admin/remove(chỉ secret maintainer)- Yêu cầu:
{ credentialId, actorId } - Thành công:
{ status: "ok", changed, credential } - Chặn lease đang hoạt động:
{ status: "error", code: "LEASE_ACTIVE", ... }
- Yêu cầu:
POST /admin/list(chỉ secret maintainer)- Yêu cầu:
{ kind?, status?, includePayload?, limit? } - Thành công:
{ status: "ok", credentials, count }
- Yêu cầu:
{ groupId: string, driverToken: string, sutToken: string }groupIdphải là chuỗi id cuộc trò chuyện Telegram dạng số.admin/addxác thực dạng này chokind: "telegram"và từ chối payload sai định dạng.
{ groupId: string, sutToken: string, testerUserId: string, testerUsername: string, telegramApiId: string, telegramApiHash: string, tdlibDatabaseEncryptionKey: string, tdlibArchiveBase64: string, tdlibArchiveSha256: string, desktopTdataArchiveBase64: string, desktopTdataArchiveSha256: string }groupId,testerUserId, vàtelegramApiIdphải là chuỗi số.tdlibArchiveSha256vàdesktopTdataArchiveSha256phải là chuỗi hex SHA-256.kind: "telegram-user"đại diện cho một tài khoản burner Telegram. Xem lease là phạm vi toàn tài khoản: trình điều khiển CLI TDLib và nhân chứng trực quan Telegram Desktop khôi phục từ cùng payload, và mỗi lần chỉ một job được giữ lease.
Telegram -workdir "$tmp/desktop" khi cần bản ghi trực quan. Trong môi trường operator cục bộ, scripts/e2e/telegram-user-credential.ts đọc ~/.codex/skills/custom/telegram-e2e-bot-to-bot/convex.local.env theo mặc định nếu biến env của tiến trình không có.
Phiên Crabbox do tác tử điều khiển:
start thuê thông tin xác thực telegram-user, khôi phục cùng tài khoản vào
TDLib và Telegram Desktop trên một desktop Linux Crabbox, khởi động Gateway SUT mock cục bộ
từ checkout hiện tại, mở cuộc trò chuyện Telegram đang hiển thị, bắt đầu
ghi desktop, và ghi session.json riêng tư. Khi phiên còn sống,
một tác tử có thể tiếp tục kiểm thử cho đến khi hài lòng:
send --session <file> --text <message>gửi qua người dùng TDLib thật và chờ phản hồi SUT.run --session <file> -- <remote command>chạy một lệnh tùy ý trên Crabbox và lưu đầu ra của lệnh đó, ví dụbash -lc 'source /tmp/openclaw-telegram-user-crabbox/env.sh && python3 /tmp/openclaw-telegram-user-crabbox/user-driver.py transcript --limit 20 --json'.screenshot --session <file>chụp desktop đang hiển thị hiện tại.status --session <file>in lease và lệnh WebVNC.finish --session <file>dừng bộ ghi, chụp ảnh chụp màn hình/video/artifact cắt theo chuyển động, giải phóng thông tin xác thực Convex, dừng các tiến trình SUT cục bộ, và dừng lease Crabbox trừ khi truyền--keep-box.publish --session <file> --pr <number>mặc định xuất bản bình luận PR chỉ có GIF. Chỉ truyền--full-artifactskhi cố ý cần log hoặc artifact JSON.
--mock-response-file <path> cho start
hoặc cho lối tắt một lệnh probe. Runner mặc định dùng một lớp
Crabbox chuẩn, ghi 24fps, bản xem trước GIF chuyển động 24fps, và độ rộng GIF
1920px. Chỉ ghi đè bằng --class, --record-fps, --preview-fps, và
--preview-width khi bằng chứng cần cài đặt ghi khác.
Bằng chứng Crabbox một lệnh:
probe mặc định là lối tắt cho một chu kỳ start/send/finish. Dùng
nó cho smoke nhanh /status. Dùng các lệnh phiên cho đánh giá PR,
công việc tái hiện lỗi, hoặc bất kỳ trường hợp nào tác tử cần vài phút
thử nghiệm tùy ý trước khi quyết định bằng chứng đã hoàn tất. Dùng --id <cbx_...> để
tái sử dụng một lease desktop đã sẵn sàng, --keep-box để giữ VNC mở sau khi finish,
--desktop-chat-title <name> để chọn cuộc trò chuyện hiển thị, và --tdlib-url <tgz>
khi dùng kho lưu trữ libtdjson.so Linux dựng sẵn thay vì xây dựng TDLib trên
một box mới. Runner xác minh --tdlib-url bằng --tdlib-sha256 <hex> hoặc,
theo mặc định, một tệp cùng cấp <url>.sha256.
Payload đa kênh được broker xác thực:
- Discord:
{ guildId: string, channelId: string, driverBotToken: string, sutBotToken: string, sutApplicationId: string, voiceChannelId?: string } - WhatsApp:
{ driverPhoneE164: string, sutPhoneE164: string, driverAuthArchiveBase64: string, sutAuthArchiveBase64: string, groupJid?: string }
{ channelId: string, driverBotToken: string, sutBotToken: string, sutAppToken: string }
cho các hàng Slack.
Thêm một kênh vào QA
Kiến trúc và tên trình trợ giúp kịch bản cho adapter kênh mới nằm trong Tổng quan QA → Thêm một kênh. Mức tối thiểu: triển khai runner truyền tải trên seam hostqa-lab dùng chung, khai báo qaRunners trong manifest Plugin, mount dưới dạng openclaw qa <runner>, và viết kịch bản dưới qa/scenarios/.
Bộ kiểm thử (chạy ở đâu)
Hãy xem các bộ kiểm thử là “độ chân thực tăng dần” (và độ bất ổn/chi phí cũng tăng dần):Unit / integration (mặc định)
- Lệnh:
pnpm test - Cấu hình: các lần chạy không nhắm mục tiêu dùng bộ shard
vitest.full-*.config.tsvà có thể mở rộng shard đa dự án thành cấu hình theo từng dự án để lập lịch song song - Tệp: inventory core/unit dưới
src/**/*.test.ts,packages/**/*.test.ts, vàtest/**/*.test.ts; kiểm thử unit UI chạy trong shard chuyên dụngunit-ui - Phạm vi:
- Kiểm thử unit thuần
- Kiểm thử integration trong tiến trình (xác thực Gateway, định tuyến, công cụ, phân tích cú pháp, cấu hình)
- Hồi quy có tính xác định cho các lỗi đã biết
- Kỳ vọng:
- Chạy trong CI
- Không yêu cầu khóa thật
- Nên nhanh và ổn định
- Các kiểm thử resolver và loader bề mặt công khai phải chứng minh hành vi fallback rộng của
api.jsvàruntime-api.jsbằng fixture Plugin nhỏ được tạo ra, không phải API nguồn của Plugin được đóng gói thật. Tải API Plugin thật thuộc về các bộ kiểm thử hợp đồng/integration do Plugin sở hữu.
- Bản cài đặt kiểm thử mặc định bỏ qua các bản dựng opus Discord native tùy chọn. Nhận giọng nói Discord dùng bộ giải mã
opusscriptpure-JS, và@discordjs/opusvẫn bị vô hiệu hóa trongallowBuildsđể các bài kiểm thử cục bộ và làn Testbox không biên dịch addon native. - Dùng một làn hiệu năng giọng nói Discord hoặc làn live chuyên dụng nếu bạn chủ ý cần so sánh một bản dựng opus native. Không đặt
@discordjs/opusthànhtruetrongallowBuildsmặc định; điều đó khiến các vòng lặp cài đặt/kiểm thử không liên quan phải biên dịch mã native.
Dự án, shard và làn có phạm vi
Dự án, shard và làn có phạm vi
pnpm testkhông nhắm mục tiêu chạy mười hai cấu hình shard nhỏ hơn (core-unit-fast,core-unit-src,core-unit-security,core-unit-ui,core-unit-support,core-support-boundary,core-contracts,core-bundled,core-runtime,agentic,auto-reply,extensions) thay vì một tiến trình native root-project khổng lồ. Điều này giảm RSS đỉnh trên các máy đang tải nặng và tránh để công việc auto-reply/extension làm đói các bộ kiểm thử không liên quan.pnpm test --watchvẫn dùng đồ thị dự án rootvitest.config.tsnative, vì vòng lặp watch đa shard không thực tế.pnpm test,pnpm test:watchvàpnpm test:perf:importsđịnh tuyến các mục tiêu tệp/thư mục rõ ràng qua các làn có phạm vi trước, nênpnpm test extensions/discord/src/monitor/message-handler.preflight.test.tstránh phải trả toàn bộ chi phí khởi động dự án root.pnpm test:changedmặc định mở rộng các đường dẫn git đã thay đổi thành các làn có phạm vi rẻ: chỉnh sửa kiểm thử trực tiếp, các tệp*.test.tscùng cấp, ánh xạ nguồn rõ ràng và các phụ thuộc đồ thị import cục bộ. Chỉnh sửa config/setup/package không chạy kiểm thử rộng trừ khi bạn dùng rõ ràngOPENCLAW_TEST_CHANGED_BROAD=1 pnpm test:changed.pnpm check:changedlà cổng kiểm tra cục bộ thông minh thông thường cho công việc hẹp. Nó phân loại diff thành core, kiểm thử core, extensions, kiểm thử extension, apps, docs, metadata phát hành, tooling Docker live và tooling, rồi chạy các lệnh typecheck, lint và guard tương ứng. Nó không chạy kiểm thử Vitest; gọipnpm test:changedhoặcpnpm test <target>rõ ràng để có bằng chứng kiểm thử. Các lần tăng phiên bản chỉ metadata phát hành chạy các kiểm tra phiên bản/config/root-dependency có mục tiêu, với một guard từ chối thay đổi package ngoài trường phiên bản cấp cao nhất.- Chỉnh sửa harness Live Docker ACP chạy các kiểm tra tập trung: cú pháp shell cho script xác thực live Docker và dry-run bộ lập lịch live Docker. Các thay đổi
package.jsonchỉ được bao gồm khi diff giới hạn trongscripts["test:docker:live-*"]; dependency, export, version và các chỉnh sửa bề mặt package khác vẫn dùng các guard rộng hơn. - Kiểm thử unit nhẹ về import từ agents, commands, plugins, helper auto-reply,
plugin-sdkvà các khu vực tiện ích pure tương tự được định tuyến qua lànunit-fast, làn này bỏ quatest/setup-openclaw-runtime.ts; các tệp có trạng thái/nặng runtime vẫn ở các làn hiện có. - Một số tệp nguồn helper
plugin-sdkvàcommandsđược chọn cũng ánh xạ các lần chạy changed-mode tới các kiểm thử cùng cấp rõ ràng trong các làn nhẹ đó, nên chỉnh sửa helper tránh chạy lại toàn bộ bộ kiểm thử nặng cho thư mục đó. auto-replycó các bucket riêng cho helper core cấp cao nhất, kiểm thử tích hợpreply.*cấp cao nhất và cây consrc/auto-reply/reply/**. CI còn tách cây con reply thành các shard agent-runner, dispatch và commands/state-routing để một bucket nặng import không sở hữu toàn bộ phần đuôi Node.- CI PR/main thông thường chủ ý bỏ qua lượt quét batch extension và shard
agentic-pluginschỉ dành cho phát hành. Full Release Validation dispatch workflow conPlugin Prereleaseriêng cho các bộ kiểm thử nặng plugin/extension đó trên các release candidate.
Phạm vi bao phủ runner nhúng
Phạm vi bao phủ runner nhúng
- Khi bạn thay đổi đầu vào khám phá message-tool hoặc ngữ cảnh runtime compaction, hãy giữ cả hai cấp độ bao phủ.
- Thêm các regression helper tập trung cho các ranh giới định tuyến và chuẩn hóa thuần túy.
- Giữ các bộ kiểm thử tích hợp runner nhúng ở trạng thái khỏe:
src/agents/pi-embedded-runner/compact.hooks.test.ts,src/agents/pi-embedded-runner/run.overflow-compaction.test.ts, vàsrc/agents/pi-embedded-runner/run.overflow-compaction.loop.test.ts. - Các bộ này xác minh rằng id có phạm vi và hành vi compaction vẫn chảy
qua các đường dẫn
run.ts/compact.tsthật; kiểm thử chỉ helper không phải là thay thế đủ cho các đường dẫn tích hợp đó.
Mặc định pool và isolation của Vitest
Mặc định pool và isolation của Vitest
- Cấu hình Vitest cơ sở mặc định dùng
threads. - Cấu hình Vitest dùng chung cố định
isolate: falsevà dùng runner không isolate trên các dự án root, e2e và cấu hình live. - Làn UI root giữ setup và optimizer
jsdom, nhưng cũng chạy trên runner không isolate dùng chung. - Mỗi shard
pnpm testkế thừa cùng mặc địnhthreads+isolate: falsetừ cấu hình Vitest dùng chung. scripts/run-vitest.mjsmặc định thêm--no-maglevcho các tiến trình Node con của Vitest để giảm churn biên dịch V8 trong các lần chạy cục bộ lớn. ĐặtOPENCLAW_VITEST_ENABLE_MAGLEV=1để so sánh với hành vi V8 gốc.
Lặp cục bộ nhanh
Lặp cục bộ nhanh
pnpm changed:laneshiển thị các làn kiến trúc mà một diff kích hoạt.- Hook pre-commit chỉ định dạng. Nó stage lại các tệp đã định dạng và không chạy lint, typecheck hoặc kiểm thử.
- Chạy
pnpm check:changedrõ ràng trước khi bàn giao hoặc push khi bạn cần cổng kiểm tra cục bộ thông minh. pnpm test:changedmặc định định tuyến qua các làn có phạm vi rẻ. Chỉ dùngOPENCLAW_TEST_CHANGED_BROAD=1 pnpm test:changedkhi agent quyết định một chỉnh sửa harness, config, package hoặc contract thật sự cần phạm vi bao phủ Vitest rộng hơn.pnpm test:maxvàpnpm test:changed:maxgiữ nguyên hành vi định tuyến, chỉ với giới hạn worker cao hơn.- Tự động co giãn worker cục bộ được chủ ý giữ thận trọng và giảm tải khi load average của host đã cao, nên nhiều lần chạy Vitest đồng thời mặc định gây ít thiệt hại hơn.
- Cấu hình Vitest cơ sở đánh dấu các tệp projects/config là
forceRerunTriggersđể các lần chạy lại changed-mode vẫn đúng khi wiring kiểm thử thay đổi. - Cấu hình giữ
OPENCLAW_VITEST_FS_MODULE_CACHEbật trên các host được hỗ trợ; đặtOPENCLAW_VITEST_FS_MODULE_CACHE_PATH=/abs/pathnếu bạn muốn một vị trí cache rõ ràng cho profiling trực tiếp.
Gỡ lỗi hiệu năng
Gỡ lỗi hiệu năng
pnpm test:perf:importsbật báo cáo thời lượng import của Vitest cộng với đầu ra phân tách import.pnpm test:perf:imports:changedgiới hạn cùng chế độ xem profiling đó cho các tệp đã thay đổi kể từorigin/main.- Dữ liệu thời gian shard được ghi vào
.artifacts/vitest-shard-timings.json. Các lần chạy toàn cấu hình dùng đường dẫn config làm khóa; các shard CI include-pattern nối thêm tên shard để có thể theo dõi riêng các shard đã lọc. - Khi một kiểm thử nóng vẫn dành phần lớn thời gian cho import khởi động,
giữ các dependency nặng phía sau một seam
*.runtime.tscục bộ hẹp và mock trực tiếp seam đó thay vì deep-import helper runtime chỉ để truyền chúng quavi.mock(...). pnpm test:perf:changed:bench -- --ref <git-ref>so sánhtest:changedđã định tuyến với đường dẫn root-project native cho diff đã commit đó và in thời gian wall cùng RSS tối đa trên macOS.pnpm test:perf:changed:bench -- --worktreebenchmark cây bẩn hiện tại bằng cách định tuyến danh sách tệp đã thay đổi quascripts/test-projects.mjsvà cấu hình Vitest root.pnpm test:perf:profile:mainghi profile CPU main-thread cho chi phí khởi động và transform của Vitest/Vite.pnpm test:perf:profile:runnerghi profile CPU+heap của runner cho bộ unit với song song hóa theo tệp bị tắt.
Độ ổn định (gateway)
- Lệnh:
pnpm test:stability:gateway - Cấu hình:
vitest.gateway.config.ts, bị ép về một worker - Phạm vi:
- Khởi động một Gateway loopback thật với diagnostics được bật theo mặc định
- Đẩy churn thông điệp gateway, memory và payload lớn tổng hợp qua đường dẫn sự kiện diagnostic
- Truy vấn
diagnostics.stabilityqua Gateway WS RPC - Bao phủ các helper lưu bền bundle độ ổn định diagnostic
- Khẳng định recorder vẫn bị giới hạn, các mẫu RSS tổng hợp ở dưới budget áp lực và độ sâu hàng đợi theo phiên thoát về không
- Kỳ vọng:
- An toàn cho CI và không cần key
- Làn hẹp cho theo dõi regression độ ổn định, không thay thế bộ Gateway đầy đủ
E2E (gateway smoke)
- Lệnh:
pnpm test:e2e - Cấu hình:
vitest.e2e.config.ts - Tệp:
src/**/*.e2e.test.ts,test/**/*.e2e.test.ts, và các kiểm thử E2E bundled-plugin dướiextensions/ - Mặc định runtime:
- Dùng
threadscủa Vitest vớiisolate: false, khớp với phần còn lại của repo. - Dùng worker thích ứng (CI: tối đa 2, cục bộ: mặc định 1).
- Mặc định chạy ở chế độ silent để giảm chi phí console I/O.
- Dùng
- Ghi đè hữu ích:
OPENCLAW_E2E_WORKERS=<n>để ép số lượng worker (giới hạn ở 16).OPENCLAW_E2E_VERBOSE=1để bật lại đầu ra console verbose.
- Phạm vi:
- Hành vi end-to-end của gateway đa instance
- Bề mặt WebSocket/HTTP, ghép cặp node và networking nặng hơn
- Kỳ vọng:
- Chạy trong CI (khi được bật trong pipeline)
- Không cần key thật
- Nhiều phần chuyển động hơn kiểm thử unit (có thể chậm hơn)
E2E: OpenShell backend smoke
- Lệnh:
pnpm test:e2e:openshell - Tệp:
extensions/openshell/src/backend.e2e.test.ts - Phạm vi:
- Khởi động một gateway OpenShell cô lập trên host qua Docker
- Tạo sandbox từ một Dockerfile cục bộ tạm thời
- Thực thi backend OpenShell của OpenClaw qua
sandbox ssh-configthật + SSH exec - Xác minh hành vi hệ thống tệp remote-canonical qua bridge fs của sandbox
- Kỳ vọng:
- Chỉ opt-in; không thuộc lần chạy
pnpm test:e2emặc định - Cần CLI
openshellcục bộ cùng một Docker daemon hoạt động - Dùng
HOME/XDG_CONFIG_HOMEcô lập, rồi hủy gateway kiểm thử và sandbox
- Chỉ opt-in; không thuộc lần chạy
- Ghi đè hữu ích:
OPENCLAW_E2E_OPENSHELL=1để bật kiểm thử khi chạy thủ công bộ e2e rộng hơnOPENCLAW_E2E_OPENSHELL_COMMAND=/path/to/openshellđể trỏ tới binary CLI không mặc định hoặc script wrapper
Live (provider thật + model thật)
- Lệnh:
pnpm test:live - Cấu hình:
vitest.live.config.ts - Tệp:
src/**/*.live.test.ts,test/**/*.live.test.ts, và các kiểm thử live của Plugin đóng gói dướiextensions/ - Mặc định: được bật bởi
pnpm test:live(đặtOPENCLAW_LIVE_TEST=1) - Phạm vi:
- “Provider/model này có thực sự hoạt động hôm nay với thông tin xác thực thật không?”
- Bắt các thay đổi định dạng của provider, điểm đặc thù khi gọi công cụ, sự cố xác thực và hành vi giới hạn tốc độ
- Kỳ vọng:
- Theo thiết kế không ổn định cho CI (mạng thật, chính sách provider thật, hạn mức, sự cố ngừng hoạt động)
- Tốn tiền / dùng giới hạn tốc độ
- Ưu tiên chạy các tập con đã thu hẹp thay vì “mọi thứ”
- Các lần chạy live nạp
~/.profileđể lấy các khóa API còn thiếu. - Theo mặc định, các lần chạy live vẫn cô lập
HOMEvà sao chép vật liệu cấu hình/xác thực vào một thư mục home kiểm thử tạm thời để fixture đơn vị không thể sửa đổi~/.openclawthật của bạn. - Chỉ đặt
OPENCLAW_LIVE_USE_REAL_HOME=1khi bạn chủ ý cần kiểm thử live dùng thư mục home thật của mình. pnpm test:livehiện mặc định dùng chế độ ít ồn hơn: chế độ này giữ đầu ra tiến trình[live] ..., nhưng ẩn thông báo~/.profilebổ sung và tắt tiếng nhật ký khởi động Gateway/tiếng ồn Bonjour. ĐặtOPENCLAW_LIVE_TEST_QUIET=0nếu bạn muốn bật lại toàn bộ nhật ký khởi động.- Xoay vòng khóa API (theo từng provider): đặt
*_API_KEYSvới định dạng phân tách bằng dấu phẩy/chấm phẩy hoặc*_API_KEY_1,*_API_KEY_2(ví dụOPENAI_API_KEYS,ANTHROPIC_API_KEYS,GEMINI_API_KEYS) hoặc ghi đè theo từng live quaOPENCLAW_LIVE_*_KEY; kiểm thử sẽ thử lại khi nhận phản hồi giới hạn tốc độ. - Đầu ra tiến trình/Heartbeat:
- Các bộ kiểm thử live hiện phát các dòng tiến trình ra stderr để các lệnh gọi provider lâu vẫn hiển thị là đang hoạt động ngay cả khi cơ chế bắt console của Vitest im lặng.
vitest.live.config.tstắt cơ chế chặn console của Vitest để các dòng tiến trình provider/Gateway được truyền ngay trong các lần chạy live.- Điều chỉnh Heartbeat mô hình trực tiếp bằng
OPENCLAW_LIVE_HEARTBEAT_MS. - Điều chỉnh Heartbeat Gateway/probe bằng
OPENCLAW_LIVE_GATEWAY_HEARTBEAT_MS.
Tôi nên chạy bộ kiểm thử nào?
Dùng bảng quyết định này:- Chỉnh sửa logic/kiểm thử: chạy
pnpm test(vàpnpm test:coveragenếu bạn thay đổi nhiều) - Chạm vào mạng Gateway / giao thức WS / ghép đôi: thêm
pnpm test:e2e - Gỡ lỗi “bot của tôi bị sập” / lỗi theo provider / gọi công cụ: chạy một
pnpm test:liveđã thu hẹp
Kiểm thử live (chạm mạng)
Với ma trận mô hình live, smoke CLI backend, smoke ACP, harness app-server Codex và tất cả kiểm thử live cho provider media (Deepgram, BytePlus, ComfyUI, image, music, video, media harness) - cộng với xử lý thông tin xác thực cho các lần chạy live - xem Kiểm thử các bộ live. Với danh sách kiểm tra chuyên biệt cho cập nhật và xác thực Plugin, xem Kiểm thử cập nhật và Plugin.Trình chạy Docker (kiểm tra tùy chọn “hoạt động trong Linux”)
Các trình chạy Docker này chia thành hai nhóm:- Trình chạy mô hình live:
test:docker:live-modelsvàtest:docker:live-gatewaychỉ chạy tệp live profile-key tương ứng của chúng bên trong ảnh Docker của repo (src/agents/models.profiles.live.test.tsvàsrc/gateway/gateway-models.profiles.live.test.ts), gắn thư mục cấu hình cục bộ và workspace của bạn (và nạp~/.profilenếu được gắn). Các điểm vào cục bộ tương ứng làtest:live:models-profilesvàtest:live:gateway-profiles. - Trình chạy Docker live mặc định dùng giới hạn smoke nhỏ hơn để một lượt quét Docker đầy đủ vẫn thực tế:
test:docker:live-modelsmặc định làOPENCLAW_LIVE_MAX_MODELS=12, vàtest:docker:live-gatewaymặc định làOPENCLAW_LIVE_GATEWAY_SMOKE=1,OPENCLAW_LIVE_GATEWAY_MAX_MODELS=8,OPENCLAW_LIVE_GATEWAY_STEP_TIMEOUT_MS=45000, vàOPENCLAW_LIVE_GATEWAY_MODEL_TIMEOUT_MS=90000. Ghi đè các biến môi trường đó khi bạn chủ ý muốn quét toàn diện lớn hơn. test:docker:alldựng ảnh Docker live một lần quatest:docker:live-build, đóng gói OpenClaw một lần thành npm tarball thông quascripts/package-openclaw-for-docker.mjs, rồi dựng/tái sử dụng hai ảnhscripts/e2e/Dockerfile. Ảnh bare chỉ là trình chạy Node/Git cho các làn install/update/plugin-dependency; các làn đó gắn tarball đã dựng sẵn. Ảnh functional cài cùng tarball đó vào/appcho các làn chức năng ứng dụng đã dựng. Định nghĩa làn Docker nằm trongscripts/lib/docker-e2e-scenarios.mjs; logic lập kế hoạch nằm trongscripts/lib/docker-e2e-plan.mjs;scripts/test-docker-all.mjsthực thi kế hoạch đã chọn. Phần tổng hợp dùng bộ lập lịch cục bộ có trọng số:OPENCLAW_DOCKER_ALL_PARALLELISMkiểm soát các slot tiến trình, trong khi các giới hạn tài nguyên ngăn các làn live nặng, npm-install và đa dịch vụ cùng khởi động một lúc. Nếu một làn riêng lẻ nặng hơn các giới hạn đang hoạt động, bộ lập lịch vẫn có thể khởi động làn đó khi pool trống rồi giữ làn đó chạy một mình cho đến khi lại có dung lượng. Mặc định là 10 slot,OPENCLAW_DOCKER_ALL_LIVE_LIMIT=9,OPENCLAW_DOCKER_ALL_NPM_LIMIT=10, vàOPENCLAW_DOCKER_ALL_SERVICE_LIMIT=7; chỉ điều chỉnhOPENCLAW_DOCKER_ALL_WEIGHT_LIMIThoặcOPENCLAW_DOCKER_ALL_DOCKER_LIMITkhi máy chủ Docker có nhiều dư địa hơn. Trình chạy thực hiện preflight Docker theo mặc định, xóa các container OpenClaw E2E cũ, in trạng thái mỗi 30 giây, lưu thời gian của các làn thành công vào.artifacts/docker-tests/lane-timings.json, và dùng các thời gian đó để khởi động các làn dài hơn trước trong những lần chạy sau. DùngOPENCLAW_DOCKER_ALL_DRY_RUN=1để in manifest làn có trọng số mà không dựng hoặc chạy Docker, hoặcnode scripts/test-docker-all.mjs --plan-jsonđể in kế hoạch CI cho các làn đã chọn, nhu cầu package/ảnh và thông tin xác thực.Package Acceptancelà cổng package gốc GitHub cho “tarball có thể cài đặt này có hoạt động như một sản phẩm không?” Nó phân giải một package ứng viên từsource=npm,source=ref,source=url, hoặcsource=artifact, tải nó lên dưới tênpackage-under-test, rồi chạy các làn Docker E2E tái sử dụng trên đúng tarball đó thay vì đóng gói lại ref đã chọn. Các profile được sắp theo độ rộng:smoke,package,product, vàfull. Xem Kiểm thử cập nhật và Plugin để biết hợp đồng package/cập nhật/Plugin, ma trận sống sót qua nâng cấp đã phát hành, mặc định phát hành và phân loại lỗi.- Kiểm tra build và release chạy
scripts/check-cli-bootstrap-imports.mjssau tsdown. Guard này duyệt đồ thị đã build tĩnh từdist/entry.jsvàdist/cli/run-main.jsvà báo lỗi nếu quá trình khởi động trước dispatch nhập các dependency package như Commander, prompt UI, undici hoặc logging trước khi dispatch lệnh; nó cũng giữ chunk chạy Gateway đóng gói dưới ngưỡng và từ chối import tĩnh các đường dẫn Gateway lạnh đã biết. Smoke CLI đã đóng gói cũng bao phủ root help, onboard help, doctor help, status, config schema và lệnh liệt kê mô hình. - Khả năng tương thích kế thừa của Package Acceptance được giới hạn ở
2026.4.25(bao gồm2026.4.25-beta.*). Tới mốc đó, harness chỉ dung thứ các khoảng trống metadata của package đã phát hành: mục QA inventory riêng tư bị bỏ qua, thiếugateway install --wrapper, thiếu tệp patch trong fixture git lấy từ tarball, thiếuupdate.channelđã lưu, vị trí install-record Plugin kế thừa, thiếu lưu install-record marketplace và migration metadata cấu hình trongplugins update. Với các package sau2026.4.25, các đường dẫn đó là lỗi nghiêm ngặt. - Trình chạy smoke container:
test:docker:openwebui,test:docker:onboard,test:docker:npm-onboard-channel-agent,test:docker:skill-install,test:docker:update-channel-switch,test:docker:upgrade-survivor,test:docker:published-upgrade-survivor,test:docker:session-runtime-context,test:docker:agents-delete-shared-workspace,test:docker:gateway-network,test:docker:browser-cdp-snapshot,test:docker:mcp-channels,test:docker:pi-bundle-mcp-tools,test:docker:cron-mcp-cleanup,test:docker:plugins,test:docker:plugin-update,test:docker:plugin-lifecycle-matrix, vàtest:docker:config-reloadkhởi động một hoặc nhiều container thật và xác minh các đường dẫn tích hợp cấp cao hơn.
- Mô hình trực tiếp:
pnpm test:docker:live-models(script:scripts/test-live-models-docker.sh) - Kiểm thử nhanh ràng buộc ACP:
pnpm test:docker:live-acp-bind(script:scripts/test-live-acp-bind-docker.sh; mặc định bao phủ Claude, Codex và Gemini, với phạm vi bao phủ Droid/OpenCode nghiêm ngặt quapnpm test:docker:live-acp-bind:droidvàpnpm test:docker:live-acp-bind:opencode) - Kiểm thử nhanh backend CLI:
pnpm test:docker:live-cli-backend(script:scripts/test-live-cli-backend-docker.sh) - Kiểm thử nhanh harness app-server Codex:
pnpm test:docker:live-codex-harness(script:scripts/test-live-codex-harness-docker.sh) - Gateway + agent dev:
pnpm test:docker:live-gateway(script:scripts/test-live-gateway-models-docker.sh) - Kiểm thử nhanh khả năng quan sát:
pnpm qa:otel:smokelà một làn kiểm tra source-checkout QA riêng tư. Làn này cố ý không nằm trong các làn phát hành Docker của gói vì tarball npm bỏ qua QA Lab. - Kiểm thử nhanh live Open WebUI:
pnpm test:docker:openwebui(script:scripts/e2e/openwebui-docker.sh) - Trình hướng dẫn onboarding (TTY, dựng khung đầy đủ):
pnpm test:docker:onboard(script:scripts/e2e/onboard-docker.sh) - Kiểm thử nhanh onboarding/channel/agent bằng tarball npm:
pnpm test:docker:npm-onboard-channel-agentcài đặt tarball OpenClaw đã đóng gói ở phạm vi toàn cục trong Docker, cấu hình OpenAI qua onboarding tham chiếu env cùng Telegram theo mặc định, chạy doctor và chạy một lượt agent OpenAI được mock. Tái sử dụng tarball đã dựng sẵn vớiOPENCLAW_CURRENT_PACKAGE_TGZ=/path/to/openclaw-*.tgz, bỏ qua việc dựng lại trên host vớiOPENCLAW_NPM_ONBOARD_HOST_BUILD=0, hoặc chuyển kênh bằngOPENCLAW_NPM_ONBOARD_CHANNEL=discordhoặcOPENCLAW_NPM_ONBOARD_CHANNEL=slack. - Kiểm thử nhanh cài đặt Skill:
pnpm test:docker:skill-installcài đặt tarball OpenClaw đã đóng gói ở phạm vi toàn cục trong Docker, tắt cài đặt archive đã tải lên trong cấu hình, phân giải slug skill ClawHub live hiện tại từ tìm kiếm, cài đặt bằngopenclaw skills install, rồi xác minh skill đã cài đặt cùng metadata nguồn gốc/khóa.clawhub. - Kiểm thử nhanh chuyển kênh cập nhật:
pnpm test:docker:update-channel-switchcài đặt tarball OpenClaw đã đóng gói ở phạm vi toàn cục trong Docker, chuyển từ góistablesang gitdev, xác minh kênh đã lưu và Plugin sau cập nhật hoạt động, rồi chuyển lại về góistablevà kiểm tra trạng thái cập nhật. - Kiểm thử nhanh sống sót sau nâng cấp:
pnpm test:docker:upgrade-survivorcài đặt tarball OpenClaw đã đóng gói đè lên một fixture người dùng cũ còn bẩn với agent, cấu hình kênh, danh sách cho phép Plugin, trạng thái phụ thuộc Plugin cũ và các tệp workspace/session hiện có. Lệnh này chạy cập nhật gói cùng doctor không tương tác mà không có khóa nhà cung cấp hoặc kênh live, sau đó khởi động một Gateway loopback và kiểm tra việc giữ nguyên cấu hình/trạng thái cùng ngân sách khởi động/trạng thái. - Kiểm thử nhanh sống sót sau nâng cấp bản đã phát hành:
pnpm test:docker:published-upgrade-survivormặc định cài đặtopenclaw@latest, seed các tệp người dùng hiện có thực tế, cấu hình baseline đó bằng một công thức lệnh được nhúng sẵn, xác thực cấu hình thu được, cập nhật bản cài đặt đã phát hành đó lên tarball ứng viên, chạy doctor không tương tác, ghi.artifacts/upgrade-survivor/summary.json, rồi khởi động một Gateway loopback và kiểm tra intent đã cấu hình, việc giữ nguyên trạng thái, khởi động,/healthz,/readyzvà ngân sách trạng thái RPC. Ghi đè một baseline bằngOPENCLAW_UPGRADE_SURVIVOR_BASELINE_SPEC, yêu cầu bộ lập lịch tổng hợp mở rộng các baseline cục bộ chính xác bằngOPENCLAW_UPGRADE_SURVIVOR_BASELINE_SPECSnhưopenclaw@2026.5.2 openclaw@2026.4.23 openclaw@2026.4.15, và mở rộng fixture dạng issue bằngOPENCLAW_UPGRADE_SURVIVOR_SCENARIOSnhưreported-issues; tập reported-issues bao gồmconfigured-plugin-installsđể tự động sửa cài đặt Plugin OpenClaw bên ngoài. Package Acceptance cung cấp các mục đó dưới dạngpublished_upgrade_survivor_baseline,published_upgrade_survivor_baselinesvàpublished_upgrade_survivor_scenarios, phân giải các token baseline meta nhưlast-stable-4hoặcall-since-2026.4.23, và Full Release Validation mở rộng cổng gói release-soak thànhlast-stable-4 2026.4.23 2026.5.2 2026.4.15cộng vớireported-issues. - Kiểm thử nhanh ngữ cảnh runtime session:
pnpm test:docker:session-runtime-contextxác minh việc duy trì transcript ngữ cảnh runtime ẩn cùng sửa chữa bằng doctor cho các nhánh prompt-rewrite trùng lặp bị ảnh hưởng. - Kiểm thử nhanh cài đặt toàn cục Bun:
bash scripts/e2e/bun-global-install-smoke.shđóng gói cây hiện tại, cài đặt bằngbun install -gtrong một home cô lập, và xác minhopenclaw infer image providers --jsontrả về các nhà cung cấp hình ảnh được đóng gói thay vì bị treo. Tái sử dụng tarball đã dựng sẵn vớiOPENCLAW_BUN_GLOBAL_SMOKE_PACKAGE_TGZ=/path/to/openclaw-*.tgz, bỏ qua dựng trên host vớiOPENCLAW_BUN_GLOBAL_SMOKE_HOST_BUILD=0, hoặc sao chépdist/từ một image Docker đã dựng bằngOPENCLAW_BUN_GLOBAL_SMOKE_DIST_IMAGE=openclaw-dockerfile-smoke:local. - Kiểm thử nhanh Docker trình cài đặt:
bash scripts/test-install-sh-docker.shdùng chung một cache npm cho các container root, update và direct-npm. Kiểm thử nhanh cập nhật mặc định dùng npmlatestlàm baseline stable trước khi nâng cấp lên tarball ứng viên. Ghi đè bằngOPENCLAW_INSTALL_SMOKE_UPDATE_BASELINE=2026.4.22cục bộ, hoặc bằng inputupdate_baseline_versioncủa workflow Install Smoke trên GitHub. Các kiểm tra trình cài đặt không phải root giữ một cache npm cô lập để các mục cache do root sở hữu không che khuất hành vi cài đặt cục bộ của người dùng. ĐặtOPENCLAW_INSTALL_SMOKE_NPM_CACHE_DIR=/path/to/cacheđể tái sử dụng cache root/update/direct-npm qua các lần chạy lại cục bộ. - Install Smoke CI bỏ qua cập nhật toàn cục direct-npm trùng lặp bằng
OPENCLAW_INSTALL_SMOKE_SKIP_NPM_GLOBAL=1; chạy script cục bộ không có env đó khi cần phạm vi bao phủnpm install -gtrực tiếp. - Kiểm thử nhanh CLI xóa workspace dùng chung của agent:
pnpm test:docker:agents-delete-shared-workspace(script:scripts/e2e/agents-delete-shared-workspace-docker.sh) mặc định dựng image Dockerfile gốc, seed hai agent với một workspace trong home container cô lập, chạyagents delete --json, và xác minh JSON hợp lệ cùng hành vi giữ lại workspace. Tái sử dụng image install-smoke vớiOPENCLAW_AGENTS_DELETE_SHARED_WORKSPACE_E2E_IMAGE=openclaw-dockerfile-smoke:local OPENCLAW_AGENTS_DELETE_SHARED_WORKSPACE_E2E_SKIP_BUILD=1. - Mạng Gateway (hai container, xác thực WS + sức khỏe):
pnpm test:docker:gateway-network(script:scripts/e2e/gateway-network-docker.sh) - Kiểm thử nhanh snapshot CDP trình duyệt:
pnpm test:docker:browser-cdp-snapshot(script:scripts/e2e/browser-cdp-snapshot-docker.sh) dựng image E2E nguồn cùng một lớp Chromium, khởi động Chromium với CDP thô, chạybrowser doctor --deep, và xác minh snapshot vai trò CDP bao phủ URL liên kết, phần tử có thể nhấp được nâng cấp bằng con trỏ, tham chiếu iframe và metadata frame. - Hồi quy reasoning tối thiểu OpenAI Responses web_search:
pnpm test:docker:openai-web-search-minimal(script:scripts/e2e/openai-web-search-minimal-docker.sh) chạy một máy chủ OpenAI được mock qua Gateway, xác minhweb_searchnângreasoning.efforttừminimallênlow, sau đó buộc schema nhà cung cấp từ chối và kiểm tra chi tiết thô xuất hiện trong log Gateway. - Cầu nối kênh MCP (Gateway đã seed + cầu nối stdio + kiểm thử nhanh notification-frame Claude thô):
pnpm test:docker:mcp-channels(script:scripts/e2e/mcp-channels-docker.sh) - Công cụ MCP gói Pi (máy chủ MCP stdio thật + kiểm thử nhanh allow/deny hồ sơ Pi nhúng):
pnpm test:docker:pi-bundle-mcp-tools(script:scripts/e2e/pi-bundle-mcp-tools-docker.sh) - Dọn dẹp MCP Cron/subagent (Gateway thật + gỡ bỏ tiến trình con MCP stdio sau cron cô lập và các lần chạy subagent một lần):
pnpm test:docker:cron-mcp-cleanup(script:scripts/e2e/cron-mcp-cleanup-docker.sh) - Plugins (kiểm thử nhanh cài đặt/cập nhật cho đường dẫn cục bộ,
file:, registry npm với phụ thuộc được hoist, ref git di động, ClawHub kitchen-sink, cập nhật marketplace và bật/kiểm tra Claude-bundle):pnpm test:docker:plugins(script:scripts/e2e/plugins-docker.sh) ĐặtOPENCLAW_PLUGINS_E2E_CLAWHUB=0để bỏ qua khối ClawHub, hoặc ghi đè cặp package/runtime kitchen-sink mặc định bằngOPENCLAW_PLUGINS_E2E_CLAWHUB_SPECvàOPENCLAW_PLUGINS_E2E_CLAWHUB_ID. Nếu không cóOPENCLAW_CLAWHUB_URL/CLAWHUB_URL, bài kiểm tra dùng một máy chủ fixture ClawHub cục bộ khép kín. - Kiểm thử nhanh Plugin update không đổi:
pnpm test:docker:plugin-update(script:scripts/e2e/plugin-update-unchanged-docker.sh) - Kiểm thử nhanh ma trận vòng đời Plugin:
pnpm test:docker:plugin-lifecycle-matrixcài đặt tarball OpenClaw đã đóng gói trong một container trống, cài đặt một Plugin npm, bật/tắt, nâng cấp và hạ cấp nó qua một registry npm cục bộ, xóa mã đã cài đặt, rồi xác minh uninstall vẫn xóa trạng thái cũ trong khi ghi log các chỉ số RSS/CPU cho từng giai đoạn vòng đời. - Kiểm thử nhanh metadata tải lại cấu hình:
pnpm test:docker:config-reload(script:scripts/e2e/config-reload-source-docker.sh) - Plugins:
pnpm test:docker:pluginsbao phủ kiểm thử nhanh cài đặt/cập nhật cho đường dẫn cục bộ,file:, registry npm với phụ thuộc được hoist, ref git di động, fixture ClawHub, cập nhật marketplace và bật/kiểm tra Claude-bundle.pnpm test:docker:plugin-updatebao phủ hành vi cập nhật không đổi cho Plugin đã cài đặt.pnpm test:docker:plugin-lifecycle-matrixbao phủ cài đặt, bật, tắt, nâng cấp, hạ cấp và uninstall khi thiếu mã của Plugin npm có theo dõi tài nguyên.
OPENCLAW_GATEWAY_NETWORK_E2E_IMAGE vẫn được ưu tiên khi được đặt. Khi OPENCLAW_SKIP_DOCKER_BUILD=1 trỏ tới một image dùng chung từ xa, các script sẽ pull image đó nếu nó chưa có cục bộ. Các bài kiểm tra Docker QR và trình cài đặt giữ Dockerfile riêng vì chúng xác thực hành vi gói/cài đặt thay vì runtime ứng dụng đã dựng dùng chung.
Các trình chạy Docker mô hình trực tiếp cũng bind-mount checkout hiện tại ở chế độ chỉ đọc và
dàn dựng nó vào một thư mục làm việc tạm thời bên trong container. Điều này giữ cho image runtime
gọn nhẹ trong khi vẫn chạy Vitest trên đúng source/config cục bộ của bạn.
Bước dàn dựng bỏ qua các cache lớn chỉ dùng cục bộ và đầu ra build ứng dụng như
.pnpm-store, .worktrees, __openclaw_vitest__, và các thư mục .build cục bộ của ứng dụng hoặc
thư mục đầu ra Gradle để các lần chạy Docker trực tiếp không mất nhiều phút sao chép
artifact riêng theo máy.
Chúng cũng đặt OPENCLAW_SKIP_CHANNELS=1 để các probe trực tiếp của Gateway không khởi động
worker kênh Telegram/Discord/v.v. thật bên trong container.
test:docker:live-models vẫn chạy pnpm test:live, vì vậy hãy truyền tiếp
OPENCLAW_LIVE_GATEWAY_* khi bạn cần thu hẹp hoặc loại trừ phạm vi kiểm thử trực tiếp của gateway
khỏi lane Docker đó.
test:docker:openwebui là smoke tương thích cấp cao hơn: nó khởi động một
container gateway OpenClaw với các endpoint HTTP tương thích OpenAI được bật,
khởi động một container Open WebUI được pin theo gateway đó, đăng nhập qua
Open WebUI, xác minh /api/models hiển thị openclaw/default, rồi gửi một
yêu cầu chat thật qua proxy /api/chat/completions của Open WebUI.
Đặt OPENWEBUI_SMOKE_MODE=models cho các kiểm tra CI theo đường phát hành cần dừng
sau khi đăng nhập Open WebUI và khám phá mô hình, mà không chờ một lần hoàn tất mô hình trực tiếp.
Lần chạy đầu tiên có thể chậm hơn rõ rệt vì Docker có thể cần kéo image
Open WebUI và Open WebUI có thể cần hoàn tất thiết lập cold-start riêng.
Lane này cần một key mô hình trực tiếp dùng được, và OPENCLAW_PROFILE_FILE
(mặc định là ~/.profile) là cách chính để cung cấp key đó trong các lần chạy Docker hóa.
Các lần chạy thành công in ra một payload JSON nhỏ như { "ok": true, "model": "openclaw/default", ... }.
test:docker:mcp-channels được thiết kế có tính xác định và không cần tài khoản
Telegram, Discord, hoặc iMessage thật. Nó boot một container Gateway đã seed,
khởi động một container thứ hai để spawn openclaw mcp serve, rồi xác minh
khám phá hội thoại được định tuyến, đọc transcript, metadata attachment,
hành vi hàng đợi sự kiện trực tiếp, định tuyến gửi đi, và thông báo kênh +
quyền theo kiểu Claude qua cầu nối MCP stdio thật. Kiểm tra thông báo
kiểm tra trực tiếp các frame MCP stdio thô để smoke xác thực những gì cầu nối
thật sự phát ra, không chỉ những gì một SDK client cụ thể tình cờ hiển thị.
test:docker:pi-bundle-mcp-tools có tính xác định và không cần key mô hình trực tiếp.
Nó build image Docker của repo, khởi động một server probe MCP stdio thật
bên trong container, hiện thực hóa server đó qua runtime MCP của Pi bundle nhúng,
thực thi tool, rồi xác minh coding và messaging giữ lại các tool
bundle-mcp trong khi minimal và tools.deny: ["bundle-mcp"] lọc chúng ra.
test:docker:cron-mcp-cleanup có tính xác định và không cần key mô hình trực tiếp.
Nó khởi động một Gateway đã seed với một server probe MCP stdio thật, chạy một
turn cron cô lập và một turn con một lần /subagents spawn, rồi xác minh
tiến trình con MCP thoát sau mỗi lần chạy.
Smoke thread ngôn ngữ thường ACP thủ công (không phải CI):
bun scripts/dev/discord-acp-plain-language-smoke.ts --channel <discord-channel-id> ...- Giữ script này cho các workflow hồi quy/debug. Nó có thể lại cần cho việc xác thực định tuyến thread ACP, vì vậy đừng xóa nó.
OPENCLAW_CONFIG_DIR=...(mặc định:~/.openclaw) được mount vào/home/node/.openclawOPENCLAW_WORKSPACE_DIR=...(mặc định:~/.openclaw/workspace) được mount vào/home/node/.openclaw/workspaceOPENCLAW_PROFILE_FILE=...(mặc định:~/.profile) được mount vào/home/node/.profilevà được source trước khi chạy kiểm thửOPENCLAW_DOCKER_PROFILE_ENV_ONLY=1để chỉ xác minh các biến môi trường được source từOPENCLAW_PROFILE_FILE, dùng các thư mục config/workspace tạm thời và không mount auth CLI bên ngoàiOPENCLAW_DOCKER_CLI_TOOLS_DIR=...(mặc định:~/.cache/openclaw/docker-cli-tools) được mount vào/home/node/.npm-globalcho các cài đặt CLI được cache bên trong Docker- Các thư mục/tệp auth CLI bên ngoài dưới
$HOMEđược mount chỉ đọc dưới/host-auth..., rồi được sao chép vào/home/node/...trước khi kiểm thử bắt đầu- Thư mục mặc định:
.minimax - Tệp mặc định:
~/.codex/auth.json,~/.codex/config.toml,.claude.json,~/.claude/.credentials.json,~/.claude/settings.json,~/.claude/settings.local.json - Các lần chạy provider đã thu hẹp chỉ mount những thư mục/tệp cần thiết được suy luận từ
OPENCLAW_LIVE_PROVIDERS/OPENCLAW_LIVE_GATEWAY_PROVIDERS - Ghi đè thủ công bằng
OPENCLAW_DOCKER_AUTH_DIRS=all,OPENCLAW_DOCKER_AUTH_DIRS=none, hoặc danh sách phân tách bằng dấu phẩy nhưOPENCLAW_DOCKER_AUTH_DIRS=.claude,.codex
- Thư mục mặc định:
OPENCLAW_LIVE_GATEWAY_MODELS=.../OPENCLAW_LIVE_MODELS=...để thu hẹp lần chạyOPENCLAW_LIVE_GATEWAY_PROVIDERS=.../OPENCLAW_LIVE_PROVIDERS=...để lọc provider trong containerOPENCLAW_SKIP_DOCKER_BUILD=1để tái sử dụng imageopenclaw:local-livehiện có cho các lần chạy lại không cần rebuildOPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1để đảm bảo cred đến từ profile store (không phải env)OPENCLAW_OPENWEBUI_MODEL=...để chọn mô hình gateway hiển thị cho smoke Open WebUIOPENCLAW_OPENWEBUI_PROMPT=...để ghi đè prompt kiểm tra nonce được smoke Open WebUI dùngOPENWEBUI_IMAGE=...để ghi đè tag image Open WebUI đã pin
Kiểm tra hợp lệ tài liệu
Chạy kiểm tra tài liệu sau khi chỉnh sửa tài liệu:pnpm check:docs.
Chạy xác thực anchor Mintlify đầy đủ khi bạn cũng cần kiểm tra heading trong trang: pnpm docs:check-links:anchors.
Hồi quy ngoại tuyến (an toàn cho CI)
Đây là các hồi quy “pipeline thật” không có provider thật:- Gọi tool qua Gateway (OpenAI mock, gateway thật + vòng lặp agent):
src/gateway/gateway.test.ts(case: “runs a mock OpenAI tool call end-to-end via gateway agent loop”) - Wizard Gateway (WS
wizard.start/wizard.next, ghi config + bắt buộc auth):src/gateway/gateway.test.ts(case: “runs wizard over ws and writes auth token config”)
Đánh giá độ tin cậy agent (skills)
Chúng ta đã có một vài kiểm thử an toàn cho CI hoạt động giống “đánh giá độ tin cậy agent”:- Gọi tool mock qua gateway thật + vòng lặp agent (
src/gateway/gateway.test.ts). - Luồng wizard đầu cuối xác thực wiring session và hiệu lực config (
src/gateway/gateway.test.ts).
- Ra quyết định: khi skills được liệt kê trong prompt, agent có chọn đúng skill (hoặc tránh những skill không liên quan) không?
- Tuân thủ: agent có đọc
SKILL.mdtrước khi dùng và làm theo các bước/args bắt buộc không? - Hợp đồng workflow: các kịch bản nhiều turn assert thứ tự tool, truyền tiếp lịch sử session, và ranh giới sandbox.
- Một scenario runner dùng provider mock để assert tool call + thứ tự, đọc tệp skill, và wiring session.
- Một bộ nhỏ các kịch bản tập trung vào skill (dùng so với tránh, gating, prompt injection).
- Đánh giá trực tiếp tùy chọn (opt-in, được gate bằng env) chỉ sau khi bộ an toàn cho CI đã có.
Kiểm thử hợp đồng (hình dạng plugin và kênh)
Kiểm thử hợp đồng xác minh rằng mọi plugin và kênh đã đăng ký đều tuân thủ hợp đồng interface của nó. Chúng lặp qua tất cả plugin được khám phá và chạy một bộ assertion về hình dạng và hành vi. Lane unitpnpm test mặc định cố ý
bỏ qua các tệp smoke và seam dùng chung này; hãy chạy rõ ràng các lệnh hợp đồng
khi bạn chạm vào các bề mặt kênh hoặc provider dùng chung.
Lệnh
- Tất cả hợp đồng:
pnpm test:contracts - Chỉ hợp đồng kênh:
pnpm test:contracts:channels - Chỉ hợp đồng provider:
pnpm test:contracts:plugins
Hợp đồng kênh
Nằm trongsrc/channels/plugins/contracts/*.contract.test.ts:
- plugin - Hình dạng plugin cơ bản (id, tên, capability)
- setup - Hợp đồng wizard thiết lập
- session-binding - Hành vi ràng buộc session
- outbound-payload - Cấu trúc payload tin nhắn
- inbound - Xử lý tin nhắn đến
- actions - Handler hành động kênh
- threading - Xử lý ID thread
- directory - API thư mục/roster
- group-policy - Thực thi chính sách nhóm
Hợp đồng trạng thái provider
Nằm trongsrc/plugins/contracts/*.contract.test.ts.
- status - Probe trạng thái kênh
- registry - Hình dạng registry plugin
Hợp đồng provider
Nằm trongsrc/plugins/contracts/*.contract.test.ts:
- auth - Hợp đồng luồng auth
- auth-choice - Lựa chọn/chọn auth
- catalog - API catalog mô hình
- discovery - Khám phá plugin
- loader - Tải plugin
- runtime - Runtime provider
- shape - Hình dạng/interface plugin
- wizard - Wizard thiết lập
Khi nào chạy
- Sau khi thay đổi export hoặc subpath của plugin-sdk
- Sau khi thêm hoặc sửa đổi một plugin kênh hoặc provider
- Sau khi refactor đăng ký hoặc khám phá plugin
Thêm hồi quy (hướng dẫn)
Khi bạn sửa một vấn đề provider/mô hình được phát hiện trong live:- Thêm hồi quy an toàn cho CI nếu có thể (provider mock/stub, hoặc capture phép biến đổi request-shape chính xác)
- Nếu nó vốn chỉ có thể kiểm thử live (rate limit, chính sách auth), giữ kiểm thử live hẹp và opt-in qua biến môi trường
- Ưu tiên nhắm vào lớp nhỏ nhất bắt được lỗi:
- lỗi chuyển đổi/phát lại request provider → kiểm thử models trực tiếp
- lỗi pipeline gateway session/history/tool → smoke gateway trực tiếp hoặc kiểm thử mock gateway an toàn cho CI
- Guardrail duyệt SecretRef:
src/secrets/exec-secret-ref-id-parity.test.tssuy ra một target được lấy mẫu cho mỗi lớp SecretRef từ metadata registry (listSecretTargetRegistryEntries()), rồi assert các exec id có segment duyệt bị từ chối.- Nếu bạn thêm một họ target SecretRef
includeInPlanmới trongsrc/secrets/target-registry-data.ts, hãy cập nhậtclassifyTargetClasstrong kiểm thử đó. Kiểm thử cố ý fail trên các target id chưa được phân loại để các lớp mới không thể bị bỏ qua âm thầm.