La pila de QA (qa-lab, qa-channel, carriles de transporte live) se documenta por separado:
- Resumen de QA - arquitectura, superficie de comandos, creación de escenarios.
- QA de matriz - referencia para
pnpm openclaw qa matrix. - Cuadro de mando de madurez - cómo la evidencia de QA de release respalda decisiones de estabilidad y LTS.
- Canal QA - el plugin de transporte sintético usado por escenarios respaldados por el repositorio.
qa concretas y vuelve a remitir a las referencias anteriores.Inicio rápido
La mayoría de los días:- Puerta completa (esperada antes de push):
pnpm build && pnpm check && pnpm check:test-types && pnpm test - Ejecución local más rápida de la suite completa en una máquina holgada:
pnpm test:max - Bucle directo de observación de Vitest:
pnpm test:watch - El apuntado directo a archivos también enruta rutas de plugins/canales:
pnpm test extensions/discord/src/monitor/message-handler.preflight.test.ts - Prefiere ejecuciones dirigidas primero al iterar sobre un único fallo.
- Sitio de QA respaldado por Docker:
pnpm qa:lab:up - Carril de QA respaldado por VM Linux:
pnpm openclaw qa suite --runner multipass --scenario channel-chat-baseline
- Puerta de cobertura:
pnpm test:coverage - Suite E2E:
pnpm test:e2e
Directorios temporales de prueba
Usa los helpers compartidos entest/helpers/temp-dir.ts para directorios temporales propiedad de las pruebas, de modo que la propiedad sea explícita y la limpieza permanezca en el ciclo de vida de la prueba:
useAutoCleanupTempDirTracker(afterEach) no expone intencionalmente ningún método de limpieza manual: Vitest posee la limpieza después de cada prueba. Los helpers antiguos de menor nivel (makeTempDir, cleanupTempDirs, createTempDirTracker) aún existen para pruebas que no han migrado; evita nuevos usos de ellos y evita nuevas llamadas desnudas a fs.mkdtemp*, salvo que una prueba esté verificando explícitamente el comportamiento bruto de temp-dir. Cuando se necesite genuinamente un directorio temporal desnudo, agrega un comentario de permiso auditable con un motivo:
node scripts/report-test-temp-creations.mjs informa nuevas creaciones desnudas de temp-dir y nuevo uso manual de helpers compartidos en líneas agregadas del diff, sin bloquear estilos de limpieza existentes. Sigue la misma clasificación de rutas de prueba que scripts/changed-lanes.mjs y omite la propia implementación del helper compartido. check:changed ejecuta este informe para rutas de prueba cambiadas como una señal de CI solo de advertencia (anotaciones de advertencia de GitHub, no fallos).
Flujos de trabajo live y Docker/Parallels
Al depurar proveedores/modelos reales (requiere credenciales reales):- Suite live (modelos + sondeos de herramienta/imagen de Gateway):
pnpm test:live - Apuntar silenciosamente a un archivo live:
pnpm test:live -- src/agents/models.profiles.live.test.ts - Informes de rendimiento en runtime: despacha
OpenClaw Performanceconlive_openai_candidate=truepara un turno real de agenteopenai/gpt-5.5odeep_profile=truepara artefactos de CPU/heap/traza de Kova. Las ejecuciones programadas diarias publican artefactos de carril de mock-provider, deep-profile y GPT 5.5 enopenclaw/clawgrit-reportscuandoCLAWGRIT_REPORTS_TOKENestá configurado. El informe de mock-provider también incluye números a nivel de fuente de arranque de gateway, memoria, presión de plugins, bucle hello repetido de modelo falso e inicio de CLI. - Barrido de modelos live con Docker:
pnpm test:docker:live-models- Cada modelo seleccionado ejecuta un turno de texto más un pequeño sondeo de estilo lectura de archivo. Los modelos cuyos metadatos anuncian entrada
imagetambién ejecutan un pequeño turno de imagen. Deshabilita los sondeos adicionales conOPENCLAW_LIVE_MODEL_FILE_PROBE=0uOPENCLAW_LIVE_MODEL_IMAGE_PROBE=0al aislar fallos de proveedor. - Cobertura de CI: tanto
OpenClaw Scheduled Live And E2E Checksdiario comoOpenClaw Release Checksmanual llaman al flujo de trabajo live/E2E reutilizable coninclude_live_suites: true, que incluye trabajos de matriz de modelos live en Docker fragmentados por proveedor. - Para reejecuciones enfocadas de CI, despacha
OpenClaw Live And E2E Checks (Reusable)coninclude_live_suites: trueylive_models_only: true. - Agrega nuevos secretos de proveedor de alta señal a
scripts/ci-hydrate-live-auth.shmás.github/workflows/openclaw-live-and-e2e-checks-reusable.ymly sus llamadores programados/de release.
- Cada modelo seleccionado ejecuta un turno de texto más un pequeño sondeo de estilo lectura de archivo. Los modelos cuyos metadatos anuncian entrada
- Smoke nativo de chat enlazado de Codex:
pnpm test:docker:live-codex-bind- Ejecuta un carril live de Docker contra la ruta de app-server de Codex, enlaza un DM sintético de Slack con
/codex bind, ejercita/codex fasty/codex permissions, luego verifica una respuesta simple y una ruta de adjunto de imagen a través del enlace de plugin nativo en lugar de ACP.
- Ejecuta un carril live de Docker contra la ruta de app-server de Codex, enlaza un DM sintético de Slack con
- Smoke del harness de app-server de Codex:
pnpm test:docker:live-codex-harness- Ejecuta turnos de agente de gateway a través del harness de app-server de Codex propiedad del plugin, verifica
/codex statusy/codex models, y por defecto ejercita sondeos de imagen, cron MCP, sub-agente y Guardian. Deshabilita el sondeo de sub-agente conOPENCLAW_LIVE_CODEX_HARNESS_SUBAGENT_PROBE=0al aislar otros fallos. Para una comprobación enfocada de sub-agente, deshabilita los otros sondeos:OPENCLAW_LIVE_CODEX_HARNESS_IMAGE_PROBE=0 OPENCLAW_LIVE_CODEX_HARNESS_MCP_PROBE=0 OPENCLAW_LIVE_CODEX_HARNESS_GUARDIAN_PROBE=0 OPENCLAW_LIVE_CODEX_HARNESS_SUBAGENT_PROBE=1 pnpm test:docker:live-codex-harness. Esto sale después del sondeo de sub-agente salvo queOPENCLAW_LIVE_CODEX_HARNESS_SUBAGENT_ONLY=0esté establecido.
- Ejecuta turnos de agente de gateway a través del harness de app-server de Codex propiedad del plugin, verifica
- Smoke de instalación bajo demanda de Codex:
pnpm test:docker:codex-on-demand- Instala el tarball empaquetado de OpenClaw en Docker, ejecuta el onboarding con clave de API de OpenAI y verifica que el plugin de Codex más la dependencia
@openai/codexse descargaron bajo demanda en la raíz del proyecto npm gestionado.
- Instala el tarball empaquetado de OpenClaw en Docker, ejecuta el onboarding con clave de API de OpenAI y verifica que el plugin de Codex más la dependencia
- Smoke de dependencia de herramienta de plugin live:
pnpm test:docker:live-plugin-tool- Empaqueta un plugin fixture con una dependencia real
slugify, lo instala mediantenpm-pack:, verifica la dependencia bajo la raíz del proyecto npm gestionado, luego pide a un modelo live de OpenAI que llame a la herramienta del plugin y devuelva el slug oculto.
- Empaqueta un plugin fixture con una dependencia real
- Smoke del comando de rescate de Crestodian:
pnpm test:live:crestodian-rescue-channel- Comprobación opcional de cinturón y tirantes para la superficie del comando de rescate del canal de mensajes. Ejercita
/crestodian status, encola un cambio persistente de modelo, responde/crestodian yesy verifica la ruta de escritura de auditoría/configuración.
- Comprobación opcional de cinturón y tirantes para la superficie del comando de rescate del canal de mensajes. Ejercita
- Smoke Docker del planificador de Crestodian:
pnpm test:docker:crestodian-planner- Ejecuta Crestodian en un contenedor sin configuración con una CLI falsa de Claude en
PATHy verifica que el fallback del planificador difuso se traduzca en una escritura de configuración tipada auditada.
- Ejecuta Crestodian en un contenedor sin configuración con una CLI falsa de Claude en
- Smoke Docker de primera ejecución de Crestodian:
pnpm test:docker:crestodian-first-run- Parte de un directorio de estado de OpenClaw vacío, verifica el entrypoint moderno de onboard de Crestodian, aplica escrituras de setup/modelo/agente/plugin de Discord + SecretRef, valida la configuración y verifica entradas de auditoría. La misma ruta de setup Ring 0 también está cubierta en QA Lab por
pnpm openclaw qa suite --scenario crestodian-ring-zero-setup.
- Parte de un directorio de estado de OpenClaw vacío, verifica el entrypoint moderno de onboard de Crestodian, aplica escrituras de setup/modelo/agente/plugin de Discord + SecretRef, valida la configuración y verifica entradas de auditoría. La misma ruta de setup Ring 0 también está cubierta en QA Lab por
- Smoke de costo de Moonshot/Kimi: con
MOONSHOT_API_KEYestablecido, ejecutaopenclaw models list --provider moonshot --json, luego ejecuta unopenclaw agent --local --session-id live-kimi-cost --message 'Reply exactly: KIMI_LIVE_OK' --thinking off --jsonaislado contramoonshot/kimi-k2.6. Verifica que el JSON informe Moonshot/K2.6 y que la transcripción del asistente almaceneusage.costnormalizado.
Ejecutores específicos de QA
Estos comandos se ubican junto a las suites de prueba principales cuando necesitas realismo de QA-lab. CI ejecuta QA Lab en flujos de trabajo dedicados. La paridad agéntica está anidada bajoQA-Lab - All Lanes y la validación de release, no como un flujo de trabajo de PR independiente. La validación amplia debe usar Full Release Validation con rerun_group=qa-parity o el grupo de QA de release-checks. Las comprobaciones de release estables/predeterminadas mantienen el soak live/Docker exhaustivo detrás de run_release_soak=true; el perfil full fuerza el soak. QA-Lab - All Lanes se ejecuta por la noche en main y desde despacho manual con el carril de paridad mock, el carril live de Matrix, el carril live de Telegram gestionado por Convex y el carril live de Discord gestionado por Convex como trabajos paralelos. QA programado y release checks pasan Matrix --profile fast explícitamente, mientras que el valor predeterminado de la CLI de Matrix y la entrada del flujo manual permanece en all; el despacho manual puede fragmentar all en trabajos transport, media, e2ee-smoke, e2ee-deep y e2ee-cli. OpenClaw Release Checks ejecuta paridad más los carriles rápidos de Matrix y Telegram antes de la aprobación de release, usando mock-openai/gpt-5.5 para comprobaciones de transporte de release, de modo que permanezcan deterministas y eviten el inicio normal de proveedor-plugin. Estos gateways de transporte live deshabilitan la búsqueda de memoria; el comportamiento de memoria sigue cubierto por las suites de paridad de QA.
Los shards de medios live de release completa usan ghcr.io/openclaw/openclaw-live-media-runner:ubuntu-24.04, que ya tiene ffmpeg y ffprobe. Los shards de modelos/backends live de Docker usan la imagen compartida ghcr.io/openclaw/openclaw-live-test:<sha> construida una vez por commit seleccionado, y luego la extraen con OPENCLAW_SKIP_DOCKER_BUILD=1 en lugar de reconstruir dentro de cada shard.
pnpm openclaw qa suite- Ejecuta escenarios de QA respaldados por el repositorio directamente en el host.
- Escribe artefactos de nivel superior
qa-evidence.json,qa-suite-summary.jsonyqa-suite-report.mdpara el conjunto de escenarios seleccionado, incluidas selecciones de escenarios de flujo mixto, Vitest y Playwright. - Cuando lo despacha
pnpm openclaw qa run --qa-profile <profile>, incrusta el scorecard del perfil de taxonomía seleccionado en el mismoqa-evidence.json.smoke-ciescribe evidencia reducida (evidenceMode: "slim", sinexecutionpor entrada).releasecubre el segmento seleccionado de preparación para lanzamiento;allselecciona todas las categorías de madurez activas y apunta a despachos explícitos del workflow QA Profile Evidence cuando se necesita un artefacto de scorecard completo. - Ejecuta varios escenarios seleccionados en paralelo de forma predeterminada con
workers de gateway aislados.
qa-channelusa concurrencia 4 de forma predeterminada (limitada por el número de escenarios seleccionado). Usa--concurrency <count>para ajustar el número de workers, o--concurrency 1para la vía serial anterior. - Sale con código distinto de cero cuando falla cualquier escenario. Usa
--allow-failurespara artefactos sin un código de salida fallido. - Admite los modos de proveedor
live-frontier,mock-openaiyaimock.aimockinicia un servidor proveedor local respaldado por AIMock para cobertura experimental de fixtures y mocks de protocolo sin reemplazar la víamock-openaiconsciente de escenarios.
pnpm openclaw qa coverage --match <query>- Busca en IDs de escenarios, títulos, superficies, IDs de cobertura, referencias de docs, referencias de código, plugins y requisitos de proveedores, y luego imprime objetivos de suite coincidentes.
- Usa esto antes de una ejecución de QA Lab cuando conoces el comportamiento tocado o la ruta del archivo, pero no el escenario más pequeño. Solo es orientativo: aun así elige prueba mock, live, Multipass, Matrix o de transporte según el comportamiento que se está cambiando.
pnpm test:plugins:kitchen-sink-live- Ejecuta la batería live del plugin OpenAI Kitchen Sink mediante QA Lab.
Instala el paquete externo Kitchen Sink, verifica el inventario de superficie
del SDK de plugins, prueba
/healthzy/readyz, registra evidencia de CPU/RSS del Gateway, ejecuta un turno live de OpenAI y comprueba diagnósticos adversariales. Requiere autenticación live de OpenAI comoOPENAI_API_KEY. En sesiones Testbox hidratadas, carga automáticamente el perfil live-auth de Testbox cuando el helperopenclaw-testbox-envestá presente.
- Ejecuta la batería live del plugin OpenAI Kitchen Sink mediante QA Lab.
Instala el paquete externo Kitchen Sink, verifica el inventario de superficie
del SDK de plugins, prueba
pnpm test:gateway:cpu-scenarios- Ejecuta el bench de arranque del Gateway más un pequeño paquete de escenarios mock de QA Lab
(
channel-chat-baseline,memory-failure-fallback,gateway-restart-inflight-run) y escribe un resumen combinado de observaciones de CPU en.artifacts/gateway-cpu-scenarios/. - Marca solo observaciones sostenidas de CPU alta de forma predeterminada (
--cpu-core-warn, valor predeterminado0.9;--hot-wall-warn-ms, valor predeterminado30000), por lo que los picos breves de arranque se registran como métricas sin parecerse a la regresión del Gateway fijado durante minutos. - Se ejecuta contra artefactos
distcompilados; ejecuta primero una compilación cuando el checkout aún no tenga salida de runtime reciente.
- Ejecuta el bench de arranque del Gateway más un pequeño paquete de escenarios mock de QA Lab
(
pnpm openclaw qa suite --runner multipass- Ejecuta la misma suite de QA dentro de una VM Linux desechable de Multipass, manteniendo
las mismas flags de selección de escenarios y proveedor/modelo que
qa suite. - Las ejecuciones live reenvían las entradas de autenticación de QA prácticas para el invitado:
claves de proveedores basadas en env, la ruta de configuración del proveedor live de QA y
CODEX_HOMEcuando está presente. - Los directorios de salida deben permanecer bajo la raíz del repositorio para que el invitado pueda escribir de vuelta mediante el workspace montado.
- Escribe el reporte y resumen normales de QA más logs de Multipass en
.artifacts/qa-e2e/....
- Ejecuta la misma suite de QA dentro de una VM Linux desechable de Multipass, manteniendo
las mismas flags de selección de escenarios y proveedor/modelo que
pnpm qa:lab:up- Inicia el sitio de QA respaldado por Docker para trabajo de QA estilo operador.
pnpm test:docker:npm-onboard-channel-agent- Compila un tarball npm desde el checkout actual, lo instala globalmente en Docker, ejecuta onboarding no interactivo con clave de API de OpenAI, configura Telegram de forma predeterminada, verifica que el runtime del plugin empaquetado cargue sin reparación de dependencias al iniciar, ejecuta doctor y ejecuta un turno de agente local contra un endpoint OpenAI simulado.
- Usa
OPENCLAW_NPM_ONBOARD_CHANNEL=discordpara ejecutar la misma vía de instalación empaquetada con Discord.
pnpm test:docker:session-runtime-context- Ejecuta un smoke determinista de app compilada en Docker para transcripciones de contexto de runtime
incrustado. Verifica que el contexto de runtime oculto de OpenClaw persista como un
mensaje personalizado no visible en lugar de filtrarse al turno visible del usuario,
luego siembra un JSONL de sesión roto afectado y verifica que
openclaw doctor --fixlo reescriba a la rama activa con una copia de seguridad.
- Ejecuta un smoke determinista de app compilada en Docker para transcripciones de contexto de runtime
incrustado. Verifica que el contexto de runtime oculto de OpenClaw persista como un
mensaje personalizado no visible en lugar de filtrarse al turno visible del usuario,
luego siembra un JSONL de sesión roto afectado y verifica que
pnpm test:docker:npm-telegram-live- Instala un candidato de paquete OpenClaw en Docker, ejecuta onboarding del paquete instalado, configura Telegram mediante la CLI instalada y luego reutiliza la vía live de QA de Telegram con ese paquete instalado como Gateway SUT.
- El wrapper monta solo el código fuente del harness
qa-labdesde el checkout; el paquete instalado poseedist,openclaw/plugin-sdky el runtime de plugins incluidos, por lo que la vía no mezcla plugins del checkout actual en el paquete bajo prueba. - El valor predeterminado es
OPENCLAW_NPM_TELEGRAM_PACKAGE_SPEC=openclaw@beta; defineOPENCLAW_NPM_TELEGRAM_PACKAGE_TGZ=/path/to/openclaw-current.tgzoOPENCLAW_CURRENT_PACKAGE_TGZpara probar un tarball local resuelto en lugar de instalar desde el registro. - Emite temporización RTT repetida en
qa-evidence.jsonde forma predeterminada conOPENCLAW_NPM_TELEGRAM_RTT_SAMPLES=20. SobrescribeOPENCLAW_NPM_TELEGRAM_RTT_SAMPLES,OPENCLAW_NPM_TELEGRAM_RTT_TIMEOUT_MSoOPENCLAW_NPM_TELEGRAM_RTT_MAX_FAILURESpara ajustar la ejecución.OPENCLAW_NPM_TELEGRAM_RTT_CHECKSacepta una lista separada por comas de IDs de comprobación de QA de Telegram para muestrear; cuando no está definido, la comprobación predeterminada compatible con RTT estelegram-mentioned-message-reply. - Usa las mismas credenciales env de Telegram o fuente de credenciales Convex que
pnpm openclaw qa telegram. Para automatización de CI/lanzamiento, defineOPENCLAW_NPM_TELEGRAM_CREDENTIAL_SOURCE=convexmásOPENCLAW_QA_CONVEX_SITE_URLy un secreto de rol. SiOPENCLAW_QA_CONVEX_SITE_URLy un secreto de rol Convex están presentes en CI, el wrapper de Docker selecciona Convex automáticamente. - El wrapper valida env de credenciales de Telegram o Convex en el host
antes del trabajo de build/install de Docker. Define
OPENCLAW_NPM_TELEGRAM_SKIP_CREDENTIAL_PREFLIGHT=1solo cuando depures deliberadamente la configuración previa a credenciales. OPENCLAW_NPM_TELEGRAM_CREDENTIAL_ROLE=ci|maintainersobrescribe elOPENCLAW_QA_CREDENTIAL_ROLEcompartido solo para esta vía. Cuando se seleccionan credenciales Convex y no se define ningún rol, el wrapper usacien CI ymaintainerfuera de CI.- GitHub Actions expone esta vía como el workflow manual de mantenedores
NPM Telegram Beta E2E. No se ejecuta en merge. El workflow usa el entornoqa-live-sharedy leases de credenciales Convex CI.
- GitHub Actions también expone
Package Acceptancepara prueba de producto en ejecución lateral contra un paquete candidato. Acepta una referencia Git, especificación npm publicada, URL de tarball HTTPS más SHA-256, política de URL confiable o artefacto de tarball de otra ejecución (source=ref|npm|url|trusted-url|artifact), sube elopenclaw-current.tgznormalizado comopackage-under-testy luego ejecuta el planificador Docker E2E existente con perfiles de víasmoke,package,product,fullocustom. Definetelegram_mode=mock-openaiolive-frontierpara ejecutar el workflow de QA de Telegram contra el mismo artefactopackage-under-test.- Prueba de producto de la beta más reciente:
- La prueba con URL exacta de tarball requiere un digest y usa la política de seguridad de URL públicas:
- Los espejos de tarball empresariales/privados usan una política explícita de fuente confiable:
source=trusted-url lee .github/package-trusted-sources.json desde la referencia confiable del workflow y no acepta credenciales de URL ni una omisión de red privada mediante entrada de workflow. Si la política nombrada declara autenticación bearer, configura el secreto fijo OPENCLAW_TRUSTED_PACKAGE_TOKEN.
- La prueba con artefacto descarga un artefacto tarball de otra ejecución de Actions:
-
pnpm test:docker:plugins- Empaqueta e instala la build actual de OpenClaw en Docker, inicia el Gateway con OpenAI configurado y luego habilita canales/plugins incluidos mediante ediciones de configuración.
- Verifica que el descubrimiento de configuración deje ausentes los plugins descargables no configurados, que la primera reparación configurada de doctor instale cada plugin descargable faltante explícitamente y que un segundo reinicio no ejecute reparación oculta de dependencias.
- También instala una línea base npm anterior conocida, habilita Telegram antes
de ejecutar
openclaw update --tag <candidate>y verifica que el doctor posterior a la actualización del candidato limpie restos de dependencias de plugins heredados sin una reparación postinstall del lado del harness.
-
pnpm test:parallels:npm-update-
Ejecuta el smoke nativo de actualización de instalación empaquetada en invitados Parallels.
Cada plataforma seleccionada primero instala el paquete de línea base solicitado,
luego ejecuta el comando
openclaw updateinstalado en el mismo invitado y verifica la versión instalada, el estado de actualización, la preparación del gateway y un turno de agente local. -
Usa
--platform macos,--platform windowso--platform linuxmientras iteras en un invitado. Usa--jsonpara la ruta del artefacto de resumen y el estado por vía. -
La vía OpenAI usa
openai/gpt-5.5para la prueba live de turno de agente de forma predeterminada. Pasa--model <provider/model>o defineOPENCLAW_PARALLELS_OPENAI_MODELpara validar otro modelo OpenAI. -
Envuelve ejecuciones locales largas en un timeout del host para que los bloqueos de transporte
de Parallels no consuman el resto de la ventana de pruebas:
-
El script escribe logs de vías anidadas en
/tmp/openclaw-parallels-npm-update.*. Inspeccionawindows-update.log,macos-update.logolinux-update.logantes de asumir que el wrapper externo está colgado. - La actualización de Windows puede tardar entre 10 y 15 minutos en doctor posterior a la actualización y trabajo de actualización de paquetes en un invitado frío; eso sigue siendo saludable cuando el log debug npm anidado avanza.
- No ejecutes este wrapper agregado en paralelo con vías smoke individuales de Parallels macOS, Windows o Linux. Comparten estado de VM y pueden colisionar en la restauración de snapshots, el servicio de paquetes o el estado del gateway invitado.
- La prueba posterior a la actualización ejecuta la superficie normal de plugins incluidos porque facades de capacidades como voz, generación de imágenes y comprensión de medios cargan mediante APIs de runtime incluidas aunque el turno del agente solo compruebe una respuesta de texto simple.
-
Ejecuta el smoke nativo de actualización de instalación empaquetada en invitados Parallels.
Cada plataforma seleccionada primero instala el paquete de línea base solicitado,
luego ejecuta el comando
-
pnpm openclaw qa aimock- Inicia solo el servidor proveedor local AIMock para pruebas de humo directas del protocolo.
-
pnpm openclaw qa matrix- Ejecuta la vía de QA en vivo de Matrix contra un servidor doméstico Tuwunel
desechable respaldado por Docker. Solo checkout de origen; las instalaciones
empaquetadas no distribuyen
qa-lab. - CLI completa, catálogo de perfiles/escenarios, variables de entorno y diseño de artefactos: QA de Matrix.
- Ejecuta la vía de QA en vivo de Matrix contra un servidor doméstico Tuwunel
desechable respaldado por Docker. Solo checkout de origen; las instalaciones
empaquetadas no distribuyen
-
pnpm openclaw qa telegram- Ejecuta la vía de QA en vivo de Telegram contra un grupo privado real usando los tokens del bot controlador y del bot SUT desde el entorno.
- Requiere
OPENCLAW_QA_TELEGRAM_GROUP_ID,OPENCLAW_QA_TELEGRAM_DRIVER_BOT_TOKENyOPENCLAW_QA_TELEGRAM_SUT_BOT_TOKEN. El id del grupo debe ser el id numérico del chat de Telegram. - Admite
--credential-source convexpara credenciales agrupadas compartidas. Usa el modo de entorno de forma predeterminada, o configuraOPENCLAW_QA_CREDENTIAL_SOURCE=convexpara optar por concesiones agrupadas. - Los valores predeterminados cubren canary, control de menciones, direccionamiento de comandos,
/status, respuestas mencionadas de bot a bot y respuestas de comandos nativos centrales. Los valores predeterminados demock-openaitambién cubren regresiones deterministas de cadenas de respuesta y streaming del mensaje final de Telegram. Usa--list-scenariospara sondeos opcionales comosession_status. - Sale con código distinto de cero cuando falla cualquier escenario. Usa
--allow-failurespara artefactos sin un código de salida fallido. - Requiere dos bots distintos en el mismo grupo privado, con el bot SUT exponiendo un nombre de usuario de Telegram.
- Para una observación estable de bot a bot, habilita el modo de comunicación bot a bot
en
@BotFatherpara ambos bots y asegúrate de que el bot controlador pueda observar el tráfico de bots del grupo. - Escribe un informe de QA de Telegram, un resumen y
qa-evidence.jsonen.artifacts/qa-e2e/.... Los escenarios con respuesta incluyen RTT desde la solicitud de envío del controlador hasta la respuesta SUT observada.
Mantis Telegram Live es el contenedor de evidencia de PR alrededor de esta vía. Ejecuta
la referencia candidata con credenciales de Telegram concedidas por Convex, renderiza el
paquete redactado de informe/evidencia de QA en un navegador de escritorio de Crabbox, graba evidencia MP4,
genera un GIF recortado por movimiento, sube el paquete de artefactos y
publica evidencia inline del PR mediante la aplicación de GitHub de Mantis cuando pr_number está
configurado. Los mantenedores pueden iniciarlo desde la UI de Actions mediante Mantis Scenario
(scenario_id: telegram-live) o directamente desde un comentario de pull request:
Mantis Telegram Desktop Proof es el contenedor agéntico nativo de Telegram Desktop
antes/después para prueba visual de PR. Inícialo desde la UI de Actions con
instructions de formato libre, mediante Mantis Scenario (scenario_id: telegram-desktop-proof) o desde un comentario de PR:
motionPreview emparejado y publica la misma tabla GIF
de 2 columnas mediante la aplicación de GitHub de Mantis cuando pr_number está configurado.
pnpm openclaw qa mantis telegram-desktop-builder- Concede o reutiliza un escritorio Linux de Crabbox, instala Telegram Desktop nativo, configura OpenClaw con un token de bot SUT de Telegram concedido, inicia el Gateway y graba evidencia de captura de pantalla/MP4 desde el escritorio VNC visible.
- Usa
--credential-source convexde forma predeterminada para que los workflows solo necesiten el secreto del bróker de Convex. Usa--credential-source envcon las mismas variablesOPENCLAW_QA_TELEGRAM_*quepnpm openclaw qa telegram. - Telegram Desktop todavía necesita un inicio de sesión/perfil de usuario. El token de bot
configura solo OpenClaw. Usa
--telegram-profile-archive-env <name>para un archivo de perfil.tgzen base64, o usa--keep-leasee inicia sesión manualmente mediante VNC una vez. - Escribe
mantis-telegram-desktop-builder-report.md,mantis-telegram-desktop-builder-summary.json,telegram-desktop-builder.pngytelegram-desktop-builder.mp4en el directorio de salida.
qa-channel es el conjunto sintético amplio y no forma parte de esa matriz.
Credenciales compartidas de Telegram mediante Convex (v1)
Cuando--credential-source convex (o OPENCLAW_QA_CREDENTIAL_SOURCE=convex)
está habilitado para QA de transporte en vivo, QA lab adquiere una concesión exclusiva de un
pool respaldado por Convex, envía heartbeats de esa concesión mientras la vía se ejecuta y
libera la concesión al cerrar. El nombre de la sección es anterior al soporte de Discord, Slack y
WhatsApp; el contrato de concesión se comparte entre tipos.
Andamiaje de referencia del proyecto Convex: qa/convex-credential-broker/
Variables de entorno requeridas:
OPENCLAW_QA_CONVEX_SITE_URL(por ejemplohttps://your-deployment.convex.site)- Un secreto para el rol seleccionado:
OPENCLAW_QA_CONVEX_SECRET_MAINTAINERparamaintainerOPENCLAW_QA_CONVEX_SECRET_CIparaci
- Selección de rol de credencial:
- CLI:
--credential-role maintainer|ci - Valor predeterminado de entorno:
OPENCLAW_QA_CREDENTIAL_ROLE(usacide forma predeterminada en CI,maintaineren caso contrario)
- CLI:
OPENCLAW_QA_CREDENTIAL_LEASE_TTL_MS(predeterminado1200000)OPENCLAW_QA_CREDENTIAL_HEARTBEAT_INTERVAL_MS(predeterminado30000)OPENCLAW_QA_CREDENTIAL_ACQUIRE_TIMEOUT_MS(predeterminado90000)OPENCLAW_QA_CREDENTIAL_HTTP_TIMEOUT_MS(predeterminado15000)OPENCLAW_QA_CONVEX_ENDPOINT_PREFIX(predeterminado/qa-credentials/v1)OPENCLAW_QA_CREDENTIAL_OWNER_ID(id de traza opcional)OPENCLAW_QA_ALLOW_INSECURE_HTTP=1permite URL de Convexhttp://de loopback para desarrollo solo local.
OPENCLAW_QA_CONVEX_SITE_URL debe usar https:// en funcionamiento normal.
Los comandos de administración de mantenedor (agregar/quitar/listar del pool) requieren
específicamente OPENCLAW_QA_CONVEX_SECRET_MAINTAINER.
Ayudantes de CLI para mantenedores:
doctor antes de ejecuciones en vivo para comprobar la URL del sitio Convex, los secretos del bróker,
el prefijo de endpoint, el timeout HTTP y la accesibilidad de administración/listado sin imprimir
valores secretos. Usa --json para salida legible por máquinas en scripts y utilidades de CI.
Contrato de endpoint predeterminado (OPENCLAW_QA_CONVEX_SITE_URL + /qa-credentials/v1).
Las solicitudes se autentican con un encabezado Authorization: Bearer <role secret>;
los cuerpos siguientes omiten ese encabezado:
POST /acquire- Solicitud:
{ kind, ownerId, actorRole, leaseTtlMs, heartbeatIntervalMs } - Correcto:
{ status: "ok", credentialId, leaseToken, payload, leaseTtlMs?, heartbeatIntervalMs? } - Agotado/reintentable:
{ status: "error", code: "POOL_EXHAUSTED" | "NO_CREDENTIAL_AVAILABLE", ... }
- Solicitud:
POST /payload-chunk- Solicitud:
{ kind, ownerId, actorRole, credentialId, leaseToken, index } - Correcto:
{ status: "ok", index, data }
- Solicitud:
POST /heartbeat- Solicitud:
{ kind, ownerId, actorRole, credentialId, leaseToken, leaseTtlMs } - Correcto:
{ status: "ok" }(o2xxvacío)
- Solicitud:
POST /release- Solicitud:
{ kind, ownerId, actorRole, credentialId, leaseToken } - Correcto:
{ status: "ok" }(o2xxvacío)
- Solicitud:
POST /admin/add(solo secreto de mantenedor)- Solicitud:
{ kind, actorId, payload, note?, status? } - Correcto:
{ status: "ok", credential }
- Solicitud:
POST /admin/remove(solo secreto de mantenedor)- Solicitud:
{ credentialId, actorId } - Correcto:
{ status: "ok", changed, credential } - Guardia de concesión activa:
{ status: "error", code: "LEASE_ACTIVE", ... }
- Solicitud:
POST /admin/list(solo secreto de mantenedor)- Solicitud:
{ kind?, status?, includePayload?, limit? } - Correcto:
{ status: "ok", credentials, count }
- Solicitud:
{ groupId: string, driverToken: string, sutToken: string }groupIddebe ser una cadena de id numérico de chat de Telegram.admin/addvalida esta forma parakind: "telegram"y rechaza payloads mal formados.
{ groupId: string, sutToken: string, testerUserId: string, testerUsername: string, telegramApiId: string, telegramApiHash: string, tdlibDatabaseEncryptionKey: string, tdlibArchiveBase64: string, tdlibArchiveSha256: string, desktopTdataArchiveBase64: string, desktopTdataArchiveSha256: string }groupId,testerUserIdytelegramApiIddeben ser cadenas numéricas.tdlibArchiveSha256ydesktopTdataArchiveSha256deben ser cadenas hexadecimales SHA-256.kind: "telegram-user"está reservado para el workflow de prueba de Mantis Telegram Desktop. Las vías genéricas de QA Lab no deben adquirirlo.
- Discord:
{ guildId: string, channelId: string, driverBotToken: string, sutBotToken: string, sutApplicationId: string, voiceChannelId?: string } - WhatsApp:
{ driverPhoneE164: string, sutPhoneE164: string, driverAuthArchiveBase64: string, sutAuthArchiveBase64: string, groupJid?: string }
{ channelId: string, driverBotToken: string, sutBotToken: string, sutAppToken: string }
para filas de Slack.
Agregar un canal a QA
La arquitectura y los nombres de ayudantes de escenarios para nuevos adaptadores de canal viven en resumen de QA - Agregar un canal. El umbral mínimo: implementar el runner de transporte en la costura compartida del hostqa-lab,
agregar un adapterFactory para escenarios compartidos, declarar qaRunners en el
manifiesto del plugin, montar como openclaw qa <runner> y escribir escenarios en
qa/scenarios/.
Suites de prueba (qué se ejecuta dónde)
Piensa en las suites como de “realismo creciente” (y mayor inestabilidad/costo).Unitarias / integración (predeterminado)
- Comando:
pnpm test - Configuración: las ejecuciones sin objetivo usan el conjunto de shards
vitest.full-*.config.tsy pueden expandir shards multiproyecto en configuraciones por proyecto para planificación paralela - Archivos: inventarios de núcleo/unitarias en
src/**/*.test.ts,packages/**/*.test.tsytest/**/*.test.ts; las pruebas unitarias de UI se ejecutan en el shard dedicadounit-ui - Alcance:
- Pruebas unitarias puras
- Pruebas de integración en proceso (autenticación de Gateway, enrutamiento, herramientas, parsing, configuración)
- Regresiones deterministas para errores conocidos
- Expectativas:
- Se ejecuta en CI
- No requiere claves reales
- Debe ser rápido y estable
- Las pruebas del resolver y del cargador de superficie pública deben probar el comportamiento amplio de fallback de
api.jsyruntime-api.jscon fixtures diminutos generados de plugin, no con APIs reales de origen de plugin incluido. Las cargas reales de API de plugin pertenecen a suites de contrato/integración propiedad del plugin.
- Las instalaciones de prueba predeterminadas omiten compilaciones opcionales nativas de opus de Discord. La voz de Discord
usa
libopus-wasmincluido, y@discordjs/opuspermanece deshabilitado enallowBuildspara que las pruebas locales y las vías de Testbox no compilen el addon nativo. - Compara el rendimiento de opus nativo en el repo de benchmark de
libopus-wasm, no en los bucles predeterminados de instalación/prueba de OpenClaw. No configures@discordjs/opuscomotrueen elallowBuildspredeterminado; eso hace que bucles no relacionados de instalación/prueba compilen código nativo.
Proyectos, shards y vías acotadas
Proyectos, shards y vías acotadas
pnpm testsin destino ejecuta trece configuraciones de fragmentos más pequeñas (core-unit-fast,core-unit-src,core-unit-security,core-unit-ui,core-unit-support,core-support-boundary,core-tooling,core-contracts,core-bundled,core-runtime,agentic,auto-reply,extensions) en lugar de un único proceso nativo gigante de proyecto raíz. Esto reduce el RSS máximo en máquinas cargadas y evita que el trabajo de auto-reply/Plugin deje sin recursos a suites no relacionadas.pnpm test --watchsigue usando el grafo de proyectos raíz nativo devitest.config.ts, porque un bucle de vigilancia con varios fragmentos no es práctico.pnpm test,pnpm test:watchypnpm test:perf:importsenrutan primero los destinos explícitos de archivo/directorio por carriles acotados, de modo quepnpm test extensions/discord/src/monitor/message-handler.preflight.test.tsevita pagar el coste completo de arranque del proyecto raíz.pnpm test:changedexpande por defecto las rutas de git modificadas en carriles acotados baratos: ediciones directas de pruebas, archivos*.test.tshermanos, asignaciones explícitas de código fuente y dependientes locales del grafo de importaciones. Las ediciones de configuración/preparación/paquete no ejecutan pruebas amplias salvo que uses explícitamenteOPENCLAW_TEST_CHANGED_BROAD=1 pnpm test:changed.pnpm check:changedes la puerta normal de comprobación local inteligente para trabajo acotado. Clasifica el diff en core, pruebas de core, extensions, pruebas de extensiones, apps, docs, metadatos de lanzamiento, herramientas Docker live y herramientas, y luego ejecuta los comandos de typecheck, lint y guard correspondientes. No ejecuta pruebas de Vitest; llama apnpm test:changedo a unpnpm test <target>explícito para prueba de tests. Los incrementos de versión que solo tocan metadatos de lanzamiento ejecutan comprobaciones dirigidas de versión/configuración/dependencias raíz, con una guardia que rechaza cambios de paquete fuera del campo de versión de nivel superior.- Las ediciones del arnés ACP Docker live ejecutan comprobaciones enfocadas: sintaxis de shell para los scripts de autenticación Docker live y un ensayo sin ejecución del planificador Docker live. Los cambios de
package.jsonse incluyen solo cuando el diff se limita ascripts["test:docker:live-*"]; las ediciones de dependencias, exports, versión y otras superficies de paquete siguen usando las guardias más amplias. - Las pruebas unitarias ligeras en importaciones de agentes, comandos, plugins, helpers de auto-reply,
plugin-sdky áreas similares de utilidades puras se enrutan por el carrilunit-fast, que omitetest/setup-openclaw-runtime.ts; los archivos con mucho estado o runtime permanecen en los carriles existentes. - Algunos archivos fuente auxiliares de
plugin-sdkycommandstambién asignan las ejecuciones en modo cambiado a pruebas hermanas explícitas en esos carriles ligeros, de modo que las ediciones de helpers evitan volver a ejecutar toda la suite pesada de ese directorio. auto-replytiene buckets dedicados para helpers de core de nivel superior, pruebas de integraciónreply.*de nivel superior y el subárbolsrc/auto-reply/reply/**. CI divide además el subárbol de reply en fragmentos de agent-runner, dispatch y commands/state-routing para que un bucket pesado en importaciones no posea toda la cola de Node.- La CI normal de PR/main omite intencionadamente el barrido por lotes de plugins incluidos y el fragmento
agentic-pluginsexclusivo de lanzamientos. Full Release Validation despacha el flujo de trabajo hijo separadoPlugin Prereleasepara esas suites pesadas en plugins sobre candidatos de lanzamiento.
Cobertura del runner integrado
Cobertura del runner integrado
- Cuando cambies las entradas de descubrimiento de herramientas de mensajes o el contexto de runtime de Compaction, conserva ambos niveles de cobertura.
- Añade regresiones enfocadas de helpers para los límites de enrutamiento y normalización puros.
- Mantén saludables las suites de integración del runner integrado:
src/agents/embedded-agent-runner/compact.hooks.test.ts,src/agents/embedded-agent-runner/run.overflow-compaction.test.tsysrc/agents/embedded-agent-runner/run.overflow-compaction.loop.test.ts. - Esas suites verifican que los ids acotados y el comportamiento de Compaction sigan fluyendo
por las rutas reales de
run.ts/compact.ts; las pruebas solo de helpers no son un sustituto suficiente para esas rutas de integración.
Valores predeterminados de pool e aislamiento de Vitest
Valores predeterminados de pool e aislamiento de Vitest
- La configuración base de Vitest usa
threadspor defecto. - La configuración compartida de Vitest fija
isolate: falsey usa el runner no aislado en los proyectos raíz, e2e y configuraciones live. - El carril UI raíz conserva su preparación
jsdomy su optimizador, pero también se ejecuta en el runner compartido no aislado. - Cada fragmento de
pnpm testhereda los mismos valores predeterminadosthreads+isolate: falsede la configuración compartida de Vitest. scripts/run-vitest.mjsañade--no-maglevpor defecto para procesos Node hijos de Vitest con el fin de reducir la rotación de compilación de V8 durante ejecuciones locales grandes. DefineOPENCLAW_VITEST_ENABLE_MAGLEV=1para comparar con el comportamiento V8 estándar.scripts/run-vitest.mjstermina las ejecuciones explícitas de Vitest sin watch después de 5 minutos sin salida por stdout ni stderr. DefineOPENCLAW_VITEST_NO_OUTPUT_TIMEOUT_MS=0para desactivar el watchdog en una investigación intencionadamente silenciosa.
Iteración local rápida
Iteración local rápida
pnpm changed:lanesmuestra qué carriles arquitectónicos activa un diff.- El hook de pre-commit solo formatea. Vuelve a preparar los archivos formateados y no ejecuta lint, typecheck ni pruebas.
- Ejecuta
pnpm check:changedexplícitamente antes de entregar o hacer push cuando necesites la puerta de comprobación local inteligente. pnpm test:changedse enruta por carriles acotados baratos por defecto. UsaOPENCLAW_TEST_CHANGED_BROAD=1 pnpm test:changedsolo cuando el agente decida que una edición de arnés, configuración, paquete o contrato realmente necesita cobertura de Vitest más amplia.pnpm test:maxypnpm test:changed:maxconservan el mismo comportamiento de enrutamiento, solo con un límite de workers más alto.- El autoescalado de workers locales es intencionadamente conservador y retrocede cuando el promedio de carga del host ya es alto, por lo que varias ejecuciones concurrentes de Vitest causan menos daño por defecto.
- La configuración base de Vitest marca los proyectos/archivos de configuración como
forceRerunTriggerspara que las reejecuciones en modo cambiado sigan siendo correctas cuando cambia el cableado de pruebas. - La configuración mantiene
OPENCLAW_VITEST_FS_MODULE_CACHEhabilitado en hosts compatibles; defineOPENCLAW_VITEST_FS_MODULE_CACHE_PATH=/abs/pathpara una única ubicación de caché explícita para perfilado directo.
Depuración de rendimiento
Depuración de rendimiento
pnpm test:perf:importshabilita los informes de duración de importaciones de Vitest más la salida de desglose de importaciones.pnpm test:perf:imports:changedacota la misma vista de perfilado a archivos modificados desdeorigin/main.- Los datos de tiempos de fragmentos se escriben en
.artifacts/vitest-shard-timings.json. Las ejecuciones de configuración completa usan la ruta de configuración como clave; los fragmentos de CI con patrón de inclusión anexan el nombre del fragmento para que los fragmentos filtrados puedan rastrearse por separado. - Cuando una prueba caliente todavía pasa la mayor parte de su tiempo en importaciones de arranque,
mantén las dependencias pesadas detrás de una interfaz local estrecha
*.runtime.tsy mockea esa interfaz directamente en lugar de hacer deep-import de helpers de runtime solo para pasarlos porvi.mock(...). pnpm test:perf:changed:bench -- --ref <git-ref>compara eltest:changedenrutado contra la ruta nativa de proyecto raíz para ese diff confirmado e imprime el tiempo de pared más el RSS máximo de macOS.pnpm test:perf:changed:bench -- --worktreemide el árbol sucio actual enrutando la lista de archivos modificados porscripts/test-projects.mjsy la configuración raíz de Vitest.pnpm test:perf:profile:mainescribe un perfil de CPU del hilo principal para la sobrecarga de arranque y transformación de Vitest/Vite.pnpm test:perf:profile:runnerescribe perfiles de CPU+heap del runner para la suite unitaria con el paralelismo de archivos deshabilitado.
Estabilidad (gateway)
- Comando:
pnpm test:stability:gateway - Configuración:
test/vitest/vitest.gateway.config.ts,test/vitest/vitest.logging.config.tsytest/vitest/vitest.infra.config.ts, cada uno forzado a un worker - Alcance:
- Inicia un Gateway de loopback real con diagnósticos habilitados por defecto
- Conduce rotación sintética de mensajes de gateway, memoria y cargas grandes por la ruta de eventos de diagnóstico
- Consulta
diagnostics.stabilitymediante el RPC WS del Gateway - Cubre helpers de persistencia del paquete de estabilidad de diagnóstico
- Afirma que el recorder permanece acotado, que las muestras RSS sintéticas se mantienen por debajo del presupuesto de presión y que las profundidades de cola por sesión vuelven a cero
- Expectativas:
- Seguro para CI y sin claves
- Carril estrecho para seguimiento de regresiones de estabilidad, no un sustituto de la suite completa de Gateway
E2E (agregado del repo)
- Comando:
pnpm test:e2e - Alcance:
- Ejecuta el carril E2E de smoke del gateway
- Ejecuta el carril E2E de navegador mockeado de Control UI
- Expectativas:
- Seguro para CI y sin claves
- Requiere que Playwright Chromium esté instalado
E2E (smoke del gateway)
- Comando:
pnpm test:e2e:gateway - Configuración:
test/vitest/vitest.e2e.config.ts - Archivos:
src/**/*.e2e.test.ts,test/**/*.e2e.test.tsy pruebas E2E de plugins incluidos bajoextensions/ - Valores predeterminados de runtime:
- Usa
threadsde Vitest conisolate: false, igual que el resto del repo. - Usa workers adaptativos (CI: hasta 2, local: 1 por defecto).
- Se ejecuta en modo silencioso por defecto para reducir la sobrecarga de E/S de consola.
- Usa
- Overrides útiles:
OPENCLAW_E2E_WORKERS=<n>para forzar el número de workers (limitado a 16).OPENCLAW_E2E_VERBOSE=1para volver a habilitar la salida de consola detallada.
- Alcance:
- Comportamiento end-to-end de gateway multiinstancia
- Superficies WebSocket/HTTP, emparejamiento de Node y redes más pesadas
- Expectativas:
- Se ejecuta en CI (cuando está habilitado en la canalización)
- No requiere claves reales
- Más partes móviles que las pruebas unitarias (puede ser más lento)
E2E (navegador mockeado de Control UI)
- Comando:
pnpm test:ui:e2e - Configuración:
test/vitest/vitest.ui-e2e.config.ts - Archivos:
ui/src/**/*.e2e.test.ts - Alcance:
- Inicia la Control UI de Vite
- Conduce una página real de Chromium mediante Playwright
- Reemplaza el WebSocket del Gateway con mocks deterministas en el navegador
- Expectativas:
- Se ejecuta en CI como parte de
pnpm test:e2e - No requiere Gateway, agentes ni claves de proveedor reales
- La dependencia del navegador debe estar presente (
pnpm --dir ui exec playwright install chromium)
- Se ejecuta en CI como parte de
E2E: smoke del backend de OpenShell
- Comando:
pnpm test:e2e:openshell - Archivo:
extensions/openshell/src/backend.e2e.test.ts - Alcance:
- Reutiliza un gateway OpenShell local activo
- Crea un sandbox a partir de un Dockerfile local temporal
- Ejercita el backend OpenShell de OpenClaw mediante
sandbox ssh-configreal + ejecución SSH - Verifica el comportamiento de filesystem canónico remoto mediante el puente fs del sandbox
- Expectativas:
- Solo opt-in; no forma parte de la ejecución predeterminada de
pnpm test:e2e - Requiere una CLI
openshelllocal y un daemon Docker funcional - Requiere un gateway OpenShell local activo y su fuente de configuración
- Usa
HOME/XDG_CONFIG_HOMEaislados y luego destruye el sandbox de prueba
- Solo opt-in; no forma parte de la ejecución predeterminada de
- Overrides útiles:
OPENCLAW_E2E_OPENSHELL=1para habilitar la prueba al ejecutar manualmente la suite e2e más ampliaOPENCLAW_E2E_OPENSHELL_COMMAND=/path/to/openshellpara apuntar a un binario CLI no predeterminado o a un script wrapperOPENCLAW_E2E_OPENSHELL_CONFIG_HOME=/path/to/configpara exponer la configuración de gateway registrada a la prueba aisladaOPENCLAW_E2E_OPENSHELL_HOST_IP=172.18.0.1para sobrescribir la IP del gateway Docker usada por el fixture de política del host
Live (proveedores reales + modelos reales)
- Comando:
pnpm test:live - Configuración:
test/vitest/vitest.live.config.ts - Archivos:
src/**/*.live.test.ts,test/**/*.live.test.tsy pruebas en vivo de plugins incluidos bajoextensions/ - Valor predeterminado: habilitado por
pnpm test:live(estableceOPENCLAW_LIVE_TEST=1) - Alcance:
- “¿Este proveedor/modelo funciona realmente hoy con credenciales reales?”
- Detectar cambios de formato de proveedores, peculiaridades de llamadas a herramientas, problemas de autenticación y comportamiento de límites de frecuencia
- Expectativas:
- No está diseñado para ser estable en CI (redes reales, políticas reales de proveedores, cuotas, interrupciones)
- Cuesta dinero / usa límites de frecuencia
- Preferir ejecutar subconjuntos acotados en lugar de “todo”
- Las ejecuciones en vivo usan claves de API ya exportadas y perfiles de autenticación preparados.
- De forma predeterminada, las ejecuciones en vivo siguen aislando
HOMEy copian material de configuración/autenticación en un directorio home de prueba temporal para que los fixtures unitarios no puedan mutar tu~/.openclawreal. - Establece
OPENCLAW_LIVE_USE_REAL_HOME=1solo cuando necesites intencionadamente que las pruebas en vivo usen tu directorio home real. pnpm test:liveusa de forma predeterminada un modo más silencioso: conserva la salida de progreso[live] ...y silencia los logs de arranque del Gateway/el ruido de Bonjour. EstableceOPENCLAW_LIVE_TEST_QUIET=0si quieres recuperar todos los logs de inicio.- Rotación de claves de API (específica por proveedor): establece
*_API_KEYScon formato separado por comas/puntos y coma o*_API_KEY_1,*_API_KEY_2(por ejemplo,OPENAI_API_KEYS,ANTHROPIC_API_KEYS,GEMINI_API_KEYS) o una anulación por ejecución en vivo medianteOPENCLAW_LIVE_*_KEY; las pruebas reintentan ante respuestas de límite de frecuencia. - Salida de progreso/Heartbeat:
- Las suites en vivo emiten líneas de progreso a stderr para que las llamadas largas a proveedores sean visiblemente activas incluso cuando la captura de consola de Vitest está en silencio.
test/vitest/vitest.live.config.tsdesactiva la intercepción de consola de Vitest para que las líneas de progreso de proveedor/Gateway se transmitan inmediatamente durante las ejecuciones en vivo.- Ajusta los Heartbeat de modelos directos con
OPENCLAW_LIVE_HEARTBEAT_MS. - Ajusta los Heartbeat de Gateway/sonda con
OPENCLAW_LIVE_GATEWAY_HEARTBEAT_MS.
¿Qué suite debería ejecutar?
Usa esta tabla de decisión:- Edición de lógica/pruebas: ejecuta
pnpm test(ypnpm test:coveragesi cambiaste mucho) - Cambios en redes de Gateway / protocolo WS / emparejamiento: añade
pnpm test:e2e - Depuración de “mi bot está caído” / fallos específicos del proveedor / llamadas a herramientas: ejecuta un
pnpm test:liveacotado
Pruebas en vivo (con acceso a la red)
Para la matriz de modelos en vivo, pruebas de humo de backend CLI, pruebas de humo ACP, arnés de servidor de aplicación de Codex y todas las pruebas en vivo de proveedores de medios (Deepgram, BytePlus, ComfyUI, imagen, música, video, arnés de medios), además del manejo de credenciales para ejecuciones en vivo- consulta Probar suites en vivo. Para la lista de verificación dedicada de actualización y validación de plugins, consulta Probar actualizaciones y plugins.
Ejecutores Docker (comprobaciones opcionales de “funciona en Linux”)
Estos ejecutores Docker se dividen en dos grupos:- Ejecutores de modelos en vivo:
test:docker:live-modelsytest:docker:live-gatewayejecutan solo su archivo en vivo de clave de perfil correspondiente dentro de la imagen Docker del repositorio (src/agents/models.profiles.live.test.tsysrc/gateway/gateway-models.profiles.live.test.ts), montando tu directorio de configuración local, workspace y archivo env de perfil opcional. Los entrypoints locales correspondientes sontest:live:models-profilesytest:live:gateway-profiles. - Los ejecutores Docker en vivo conservan sus propios límites prácticos cuando hace falta:
test:docker:live-modelsusa de forma predeterminada el conjunto seleccionado compatible de alta señal, ytest:docker:live-gatewayusa de forma predeterminadaOPENCLAW_LIVE_GATEWAY_SMOKE=1,OPENCLAW_LIVE_GATEWAY_MAX_MODELS=8,OPENCLAW_LIVE_GATEWAY_STEP_TIMEOUT_MS=45000yOPENCLAW_LIVE_GATEWAY_MODEL_TIMEOUT_MS=90000. EstableceOPENCLAW_LIVE_MAX_MODELSo las variables env de Gateway cuando quieras explícitamente un límite menor o un escaneo mayor. test:docker:allcompila la imagen Docker en vivo una vez mediantetest:docker:live-build, empaqueta OpenClaw una vez como tarball npm mediantescripts/package-openclaw-for-docker.mjsy luego compila/reutiliza dos imágenesscripts/e2e/Dockerfile. La imagen básica es solo el ejecutor Node/Git para carriles de instalación/actualización/dependencias de plugins; esos carriles montan el tarball precompilado. La imagen funcional instala el mismo tarball en/apppara carriles de funcionalidad de la aplicación compilada. Las definiciones de carriles Docker viven enscripts/lib/docker-e2e-scenarios.mjs; la lógica del planificador vive enscripts/lib/docker-e2e-plan.mjs;scripts/test-docker-all.mjsejecuta el plan seleccionado. El agregado usa un planificador local ponderado:OPENCLAW_DOCKER_ALL_PARALLELISMcontrola los slots de procesos, mientras que los límites de recursos evitan que carriles pesados en vivo, de instalación npm y multiservicio comiencen todos a la vez. Si un solo carril es más pesado que los límites activos, el planificador aún puede iniciarlo cuando el pool está vacío y luego lo mantiene ejecutándose solo hasta que vuelva a haber capacidad disponible. Los valores predeterminados son 10 slots,OPENCLAW_DOCKER_ALL_LIVE_LIMIT=9,OPENCLAW_DOCKER_ALL_NPM_LIMIT=5yOPENCLAW_DOCKER_ALL_SERVICE_LIMIT=7; ajustaOPENCLAW_DOCKER_ALL_WEIGHT_LIMITuOPENCLAW_DOCKER_ALL_DOCKER_LIMIT(y otras anulacionesOPENCLAW_DOCKER_ALL_<RESOURCE>_LIMIT) solo cuando el host Docker tenga más margen. El ejecutor realiza una precomprobación de Docker de forma predeterminada, elimina contenedores E2E de OpenClaw obsoletos, imprime estado cada 30 segundos, almacena los tiempos de carriles exitosos en.artifacts/docker-tests/lane-timings.jsony usa esos tiempos para iniciar primero los carriles más largos en ejecuciones posteriores. UsaOPENCLAW_DOCKER_ALL_DRY_RUN=1para imprimir el manifiesto ponderado de carriles sin compilar ni ejecutar Docker, onode scripts/test-docker-all.mjs --plan-jsonpara imprimir el plan de CI para los carriles seleccionados, necesidades de paquetes/imágenes y credenciales.Package Acceptancees la puerta de paquetes nativa de GitHub para “¿este tarball instalable funciona como producto?”. Resuelve un paquete candidato desource=npm,source=ref,source=url,source=trusted-urlosource=artifact, lo sube comopackage-under-testy luego ejecuta los carriles Docker E2E reutilizables contra ese tarball exacto en lugar de volver a empaquetar la ref seleccionada. Los perfiles están ordenados por amplitud:smoke,package,productyfull(máscustompara una lista explícita de carriles). Consulta Probar actualizaciones y plugins para el contrato de paquete/actualización/plugin, la matriz de supervivencia de actualización publicada, los valores predeterminados de lanzamiento y el triaje de fallos.- La compatibilidad heredada de Package Acceptance está limitada a
2026.4.25(2026.4.25-beta.*incluido). Hasta ese punto de corte, el arnés tolera solo brechas de metadatos de paquetes publicados: entradas omitidas de inventario privado de QA, falta degateway install --wrapper, falta de archivos patch en el fixture git derivado del tarball, falta deupdate.channelpersistido, ubicaciones heredadas de registros de instalación de plugins, falta de persistencia de registros de instalación del marketplace y migración de metadatos de configuración duranteplugins update. Para paquetes posteriores a2026.4.25, esas rutas son fallos estrictos. - Ejecutores de humo de contenedores:
test:docker:openwebui,test:docker:onboard,test:docker:npm-onboard-channel-agent,test:docker:release-user-journey,test:docker:release-typed-onboarding,test:docker:release-media-memory,test:docker:release-upgrade-user-journey,test:docker:release-plugin-marketplace,test:docker:skill-install,test:docker:update-channel-switch,test:docker:upgrade-survivor,test:docker:published-upgrade-survivor,test:docker:session-runtime-context,test:docker:agents-delete-shared-workspace,test:docker:gateway-network,test:docker:browser-cdp-snapshot,test:docker:mcp-channels,test:docker:agent-bundle-mcp-tools,test:docker:cron-mcp-cleanup,test:docker:plugins,test:docker:plugin-update,test:docker:plugin-lifecycle-matrixytest:docker:config-reloadarrancan uno o más contenedores reales y verifican rutas de integración de nivel superior. - Los carriles E2E de Docker/Bash que instalan el tarball empaquetado de OpenClaw mediante
scripts/lib/openclaw-e2e-instance.shlimitannpm installaOPENCLAW_E2E_NPM_INSTALL_TIMEOUT(predeterminado600s; establece0para desactivar el wrapper durante la depuración).
-
Modelos directos:
pnpm test:docker:live-models(script:scripts/test-live-models-docker.sh) -
Humo de bind ACP:
pnpm test:docker:live-acp-bind(script:scripts/test-live-acp-bind-docker.sh; cubre Claude, Codex y Gemini de forma predeterminada, con cobertura estricta de Droid/OpenCode mediantepnpm test:docker:live-acp-bind:droidypnpm test:docker:live-acp-bind:opencode) -
Humo de backend CLI:
pnpm test:docker:live-cli-backend(script:scripts/test-live-cli-backend-docker.sh) -
Humo de arnés de servidor de aplicación de Codex:
pnpm test:docker:live-codex-harness(script:scripts/test-live-codex-harness-docker.sh) -
Gateway + agente de desarrollo:
pnpm test:docker:live-gateway(script:scripts/test-live-gateway-models-docker.sh) -
Pruebas de humo de observabilidad:
pnpm qa:otel:smoke,pnpm qa:prometheus:smokeypnpm qa:observability:smokeson carriles privados de checkout de fuente de QA. Intencionadamente no forman parte de los carriles Docker de lanzamiento de paquete porque el tarball npm omite QA Lab. -
Humo en vivo de Open WebUI:
pnpm test:docker:openwebui(script:scripts/e2e/openwebui-docker.sh) -
Asistente de incorporación (TTY, andamiaje completo):
pnpm test:docker:onboard(script:scripts/e2e/onboard-docker.sh) -
Humo de incorporación/canal/agente de tarball npm:
pnpm test:docker:npm-onboard-channel-agentinstala globalmente el tarball empaquetado de OpenClaw en Docker, configura OpenAI mediante incorporación con ref de env más Telegram de forma predeterminada, ejecuta doctor y ejecuta un turno simulado de agente OpenAI. Reutiliza un tarball precompilado conOPENCLAW_CURRENT_PACKAGE_TGZ=/path/to/openclaw-*.tgz, omite la recompilación del host conOPENCLAW_NPM_ONBOARD_HOST_BUILD=0o cambia de canal conOPENCLAW_NPM_ONBOARD_CHANNEL=discordoOPENCLAW_NPM_ONBOARD_CHANNEL=slack. -
Smoke de recorrido de usuario de lanzamiento:
pnpm test:docker:release-user-journeyinstala el tarball empaquetado de OpenClaw globalmente en un home de Docker limpio, ejecuta la incorporación, configura un proveedor OpenAI simulado, ejecuta un turno de agente, instala/desinstala Plugins externos, configura ClickClack contra un fixture local, verifica la mensajería saliente/entrante, reinicia Gateway y ejecuta doctor. -
Smoke de incorporación tipada de lanzamiento:
pnpm test:docker:release-typed-onboardinginstala el tarball empaquetado, conduceopenclaw onboardmediante un TTY real, configura OpenAI como proveedor con referencia de entorno, verifica que no haya persistencia de claves sin procesar y ejecuta un turno de agente simulado. -
Smoke de medios/memoria de lanzamiento:
pnpm test:docker:release-media-memoryinstala el tarball empaquetado, verifica la comprensión de imágenes desde un adjunto PNG, la salida de generación de imágenes compatible con OpenAI, la recuperación de búsqueda en memoria y la supervivencia de la recuperación tras reiniciar Gateway. -
Smoke de recorrido de usuario de actualización de lanzamiento:
pnpm test:docker:release-upgrade-user-journeyinstala de forma predeterminada la línea base publicada más reciente anterior al tarball candidato, configura el estado de proveedor/Plugin/ClickClack en el paquete publicado, actualiza al tarball candidato y luego vuelve a ejecutar el recorrido principal de agente/Plugin/canal. Si no existe una línea base publicada anterior, reutiliza la versión candidata. Sobrescribe la línea base conOPENCLAW_RELEASE_UPGRADE_BASELINE_SPEC=openclaw@<version>. -
Smoke de marketplace de Plugins de lanzamiento:
pnpm test:docker:release-plugin-marketplaceinstala desde un marketplace de fixtures local, actualiza el Plugin instalado, lo desinstala y verifica que la CLI del Plugin desaparezca con los metadatos de instalación depurados. -
Smoke de instalación de Skills:
pnpm test:docker:skill-installinstala globalmente el tarball empaquetado de OpenClaw en Docker, desactiva las instalaciones de archivos subidos en la configuración, resuelve el slug actual de una skill viva de ClawHub desde la búsqueda, la instala conopenclaw skills instally verifica la skill instalada junto con los metadatos de origen/bloqueo de.clawhub. -
Smoke de cambio de canal de actualización:
pnpm test:docker:update-channel-switchinstala globalmente el tarball empaquetado de OpenClaw en Docker, cambia del paquetestablea gitdev, verifica el canal persistido y el trabajo posterior a la actualización del Plugin, luego vuelve al paquetestabley comprueba el estado de actualización. -
Smoke de supervivencia de actualización:
pnpm test:docker:upgrade-survivorinstala el tarball empaquetado de OpenClaw sobre un fixture sucio de usuario antiguo con agentes, configuración de canal, listas de permitidos de Plugins, estado obsoleto de dependencias de Plugins y archivos existentes de workspace/sesión. Ejecuta la actualización del paquete y doctor no interactivo sin proveedor vivo ni claves de canal, luego inicia un Gateway de loopback y comprueba la preservación de configuración/estado más los presupuestos de arranque/estado. -
Smoke de supervivencia de actualización publicada:
pnpm test:docker:published-upgrade-survivorinstalaopenclaw@latestde forma predeterminada, siembra archivos realistas de usuario existente, configura esa línea base con una receta de comandos integrada, valida la configuración resultante, actualiza esa instalación publicada al tarball candidato, ejecuta doctor no interactivo, escribe.artifacts/upgrade-survivor/summary.json, luego inicia un Gateway de loopback y comprueba los intents configurados, la preservación de estado, el arranque,/healthz,/readyzy los presupuestos de estado RPC. Sobrescribe una línea base conOPENCLAW_UPGRADE_SURVIVOR_BASELINE_SPEC, pide al programador agregado que expanda líneas base locales exactas conOPENCLAW_UPGRADE_SURVIVOR_BASELINE_SPECScomoopenclaw@2026.5.2 openclaw@2026.4.23 openclaw@2026.4.15, y expande fixtures con forma de issue conOPENCLAW_UPGRADE_SURVIVOR_SCENARIOScomoreported-issues; el conjunto reported-issues incluyeconfigured-plugin-installspara la reparación automática de instalaciones externas de Plugins de OpenClaw. Package Acceptance expone eso comopublished_upgrade_survivor_baseline,published_upgrade_survivor_baselinesypublished_upgrade_survivor_scenarios, resuelve tokens de línea base meta comolast-stable-4oall-since-2026.4.23, y Full Release Validation expande la puerta de paquete release-soak alast-stable-4 2026.4.23 2026.5.2 2026.4.15másreported-issues. -
Smoke de contexto de runtime de sesión:
pnpm test:docker:session-runtime-contextverifica la persistencia oculta de transcripciones de contexto de runtime más la reparación de doctor de ramas afectadas y duplicadas de reescritura de prompts. -
Smoke de instalación global con Bun:
bash scripts/e2e/bun-global-install-smoke.shempaqueta el árbol actual, lo instala conbun install -gen un home aislado y verifica queopenclaw infer image providers --jsondevuelva proveedores de imagen incluidos en el paquete en lugar de quedarse colgado. Reutiliza un tarball precompilado conOPENCLAW_BUN_GLOBAL_SMOKE_PACKAGE_TGZ=/path/to/openclaw-*.tgz, omite la build del host conOPENCLAW_BUN_GLOBAL_SMOKE_HOST_BUILD=0, o copiadist/desde una imagen de Docker construida conOPENCLAW_BUN_GLOBAL_SMOKE_DIST_IMAGE=openclaw-dockerfile-smoke:local. -
Smoke de Docker del instalador:
bash scripts/test-install-sh-docker.shcomparte una caché npm entre sus contenedores root, update y direct-npm. El smoke de update usa por defecto npmlatestcomo línea base estable antes de actualizar al tarball candidato. Sobrescribe conOPENCLAW_INSTALL_SMOKE_UPDATE_BASELINE=2026.4.22localmente, o con la entradaupdate_baseline_versiondel workflow Install Smoke en GitHub. Las comprobaciones del instalador no root mantienen una caché npm aislada para que las entradas de caché propiedad de root no enmascaren el comportamiento de instalación local del usuario. DefineOPENCLAW_INSTALL_SMOKE_NPM_CACHE_DIR=/path/to/cachepara reutilizar la caché root/update/direct-npm entre nuevas ejecuciones locales. -
Install Smoke CI omite la actualización global direct-npm duplicada con
OPENCLAW_INSTALL_SMOKE_SKIP_NPM_GLOBAL=1; ejecuta el script localmente sin esa variable de entorno cuando se necesite cobertura directa denpm install -g. -
Smoke de CLI de eliminación de agentes en workspace compartido:
pnpm test:docker:agents-delete-shared-workspace(script:scripts/e2e/agents-delete-shared-workspace-docker.sh) construye de forma predeterminada la imagen del Dockerfile raíz, siembra dos agentes con un workspace en un home de contenedor aislado, ejecutaagents delete --jsony verifica JSON válido más el comportamiento de workspace retenido. Reutiliza la imagen install-smoke conOPENCLAW_AGENTS_DELETE_SHARED_WORKSPACE_E2E_IMAGE=openclaw-dockerfile-smoke:local OPENCLAW_AGENTS_DELETE_SHARED_WORKSPACE_E2E_SKIP_BUILD=1. -
Redes de Gateway (dos contenedores, autenticación WS + health):
pnpm test:docker:gateway-network(script:scripts/e2e/gateway-network-docker.sh) -
Smoke de snapshot de CDP de navegador:
pnpm test:docker:browser-cdp-snapshot(script:scripts/e2e/browser-cdp-snapshot-docker.sh) construye la imagen E2E de fuente más una capa de Chromium, inicia Chromium con CDP sin procesar, ejecutabrowser doctor --deepy verifica que los snapshots de roles de CDP cubran URLs de enlaces, elementos clicables promovidos por cursor, referencias de iframe y metadatos de frames. -
Regresión de razonamiento mínimo de web_search en OpenAI Responses:
pnpm test:docker:openai-web-search-minimal(script:scripts/e2e/openai-web-search-minimal-docker.sh) ejecuta un servidor OpenAI simulado mediante Gateway, verifica queweb_searchelevareasoning.effortdeminimalalow, luego fuerza el rechazo del esquema del proveedor y comprueba que el detalle sin procesar aparezca en los logs de Gateway. -
Puente de canal MCP (Gateway sembrado + puente stdio + smoke de frame de notificación Claude sin procesar):
pnpm test:docker:mcp-channels(script:scripts/e2e/mcp-channels-docker.sh) -
Herramientas MCP del bundle de OpenClaw (servidor MCP stdio real + smoke de permitir/denegar perfil OpenClaw embebido):
pnpm test:docker:agent-bundle-mcp-tools(script:scripts/e2e/agent-bundle-mcp-tools-docker.sh) -
Limpieza de Cron/subagente MCP (Gateway real + desmontaje de hijo MCP stdio después de ejecuciones aisladas de cron y subagente de una sola vez):
pnpm test:docker:cron-mcp-cleanup(script:scripts/e2e/cron-mcp-cleanup-docker.sh) -
Plugins (smoke de instalación/actualización para ruta local,
file:, registro npm con dependencias elevadas, metadatos malformados de paquete npm, refs móviles de git, kitchen-sink de ClawHub, actualizaciones de marketplace y habilitación/inspección de bundle de Claude):pnpm test:docker:plugins(script:scripts/e2e/plugins-docker.sh) DefineOPENCLAW_PLUGINS_E2E_CLAWHUB=0para omitir el bloque de ClawHub, o sobrescribe el par predeterminado de paquete/runtime kitchen-sink conOPENCLAW_PLUGINS_E2E_CLAWHUB_SPECyOPENCLAW_PLUGINS_E2E_CLAWHUB_ID. SinOPENCLAW_CLAWHUB_URL/CLAWHUB_URL, la prueba usa un servidor hermético de fixtures locales de ClawHub. -
Smoke de actualización sin cambios de Plugin:
pnpm test:docker:plugin-update(script:scripts/e2e/plugin-update-unchanged-docker.sh) -
Smoke de matriz de ciclo de vida de Plugins:
pnpm test:docker:plugin-lifecycle-matrixinstala el tarball empaquetado de OpenClaw en un contenedor básico, instala un Plugin npm, alterna habilitar/deshabilitar, lo actualiza y degrada mediante un registro npm local, elimina el código instalado y luego verifica que la desinstalación siga eliminando el estado obsoleto mientras registra métricas RSS/CPU para cada fase del ciclo de vida. -
Smoke de metadatos de recarga de configuración:
pnpm test:docker:config-reload(script:scripts/e2e/config-reload-source-docker.sh) -
Plugins:
pnpm test:docker:pluginscubre smoke de instalación/actualización para ruta local,file:, registro npm con dependencias elevadas, refs móviles de git, fixtures de ClawHub, actualizaciones de marketplace y habilitación/inspección de bundle de Claude.pnpm test:docker:plugin-updatecubre el comportamiento de actualización sin cambios para Plugins instalados.pnpm test:docker:plugin-lifecycle-matrixcubre instalación, habilitación, deshabilitación, actualización, degradación y desinstalación con código faltante de Plugins npm con seguimiento de recursos.
OPENCLAW_GATEWAY_NETWORK_E2E_IMAGE, siguen prevaleciendo cuando están definidas. Cuando OPENCLAW_SKIP_DOCKER_BUILD=1 apunta a una imagen compartida remota, los scripts la descargan si aún no está local. Las pruebas Docker de QR e instalador mantienen sus propios Dockerfiles porque validan el comportamiento de paquete/instalación en lugar del runtime de aplicación construida compartido.
Los runners Docker con modelo vivo también montan la checkout actual como solo lectura
y la preparan en un workdir temporal dentro del contenedor. Esto mantiene la
imagen de runtime liviana y, a la vez, ejecuta Vitest contra tu fuente/configuración
local exacta. El paso de preparación omite cachés grandes solo locales y salidas de build
de apps como .pnpm-store, .worktrees, __openclaw_vitest__, y
directorios de salida .build o Gradle locales de apps para que las ejecuciones Docker vivas no
pasen minutos copiando artefactos específicos de la máquina. También definen
OPENCLAW_SKIP_CHANNELS=1 para que las sondas vivas de Gateway no inicien workers
reales de canales de Telegram/Discord/etc. dentro del contenedor.
test:docker:live-models sigue ejecutando pnpm test:live, así que pasa también
OPENCLAW_LIVE_GATEWAY_* cuando necesites acotar o excluir la cobertura viva de Gateway
de ese carril Docker.
test:docker:openwebui es un smoke de compatibilidad de nivel superior: inicia un
contenedor de gateway de OpenClaw con los endpoints HTTP compatibles con OpenAI habilitados,
inicia un contenedor de Open WebUI fijado contra ese gateway, inicia sesión mediante
Open WebUI, verifica que /api/models exponga openclaw/default y luego envía una
solicitud real de chat mediante el proxy /api/chat/completions de Open WebUI. Define
OPENWEBUI_SMOKE_MODE=models para comprobaciones CI de ruta de lanzamiento que deben detenerse
tras el inicio de sesión en Open WebUI y el descubrimiento de modelos, sin esperar a una finalización
con modelo vivo. La primera ejecución puede ser notablemente más lenta porque Docker puede necesitar
descargar la imagen de Open WebUI y Open WebUI puede necesitar terminar su propia
configuración de arranque en frío. Este carril espera una clave utilizable de modelo vivo, proporcionada mediante
el entorno del proceso, perfiles de autenticación preparados o un
OPENCLAW_PROFILE_FILE explícito. Las ejecuciones correctas imprimen una pequeña carga JSON como
{ "ok": true, "model": "openclaw/default", ... }.
test:docker:mcp-channels es intencionalmente determinista y no necesita una
cuenta real de Telegram, Discord ni iMessage. Arranca un contenedor Gateway
sembrado, inicia un segundo contenedor que lanza openclaw mcp serve y luego
verifica el descubrimiento de conversaciones enrutadas, las lecturas de
transcripciones, los metadatos de adjuntos, el comportamiento de la cola de
eventos en vivo, el enrutamiento de envíos salientes y las notificaciones de
canal + permisos al estilo Claude sobre el puente MCP stdio real. La comprobación
de notificaciones inspecciona directamente los marcos MCP stdio sin procesar para
que la prueba smoke valide lo que el puente emite realmente, no solo lo que un SDK
de cliente específico expone por casualidad.
test:docker:agent-bundle-mcp-tools es determinista y no necesita una clave de
modelo en vivo. Compila la imagen Docker del repositorio, inicia un servidor de
sondeo MCP stdio real dentro del contenedor, materializa ese servidor mediante el
runtime MCP del bundle integrado de OpenClaw, ejecuta la herramienta y luego
verifica que coding y messaging conserven las herramientas bundle-mcp,
mientras que minimal y tools.deny: ["bundle-mcp"] las filtran.
test:docker:cron-mcp-cleanup es determinista y no necesita una clave de modelo
en vivo. Inicia un Gateway sembrado con un servidor de sondeo MCP stdio real,
ejecuta un turno cron aislado y un turno hijo único sessions_spawn, y luego
verifica que el proceso hijo MCP salga después de cada ejecución.
Prueba smoke manual de hilo ACP en lenguaje natural (no CI):
bun scripts/dev/discord-acp-plain-language-smoke.ts --channel <discord-channel-id> ...- Conserva este script para flujos de regresión/depuración. Puede volver a ser necesario para validar el enrutamiento de hilos ACP, así que no lo elimines.
OPENCLAW_CONFIG_DIR=...(predeterminado:~/.openclaw) montado en/home/node/.openclawOPENCLAW_WORKSPACE_DIR=...(predeterminado:~/.openclaw/workspace) montado en/home/node/.openclaw/workspaceOPENCLAW_PROFILE_FILE=...montado y cargado antes de ejecutar las pruebasOPENCLAW_DOCKER_PROFILE_ENV_ONLY=1para verificar solo variables de entorno cargadas desdeOPENCLAW_PROFILE_FILE, usando directorios temporales de configuración/espacio de trabajo y sin montajes externos de autenticación de CLIOPENCLAW_DOCKER_CLI_TOOLS_DIR=...(predeterminado:~/.cache/openclaw/docker-cli-tools, salvo que la ejecución ya use un directorio enlazado de CI/gestionado) montado en/home/node/.npm-globalpara instalaciones de CLI en caché dentro de Docker- Los directorios/archivos de autenticación de CLI externos bajo
$HOMEse montan en modo solo lectura bajo/host-auth...y luego se copian en/home/node/...antes de que comiencen las pruebas- Directorios predeterminados (usados cuando la ejecución no está restringida a proveedores específicos):
.factory,.gemini,.minimax - Archivos predeterminados:
~/.codex/auth.json,~/.codex/config.toml,.claude.json,~/.claude/.credentials.json,~/.claude/settings.json,~/.claude/settings.local.json - Las ejecuciones restringidas a proveedores montan solo los directorios/archivos necesarios inferidos de
OPENCLAW_LIVE_PROVIDERS/OPENCLAW_LIVE_GATEWAY_PROVIDERS - Sobrescribe manualmente con
OPENCLAW_DOCKER_AUTH_DIRS=all,OPENCLAW_DOCKER_AUTH_DIRS=noneo una lista separada por comas comoOPENCLAW_DOCKER_AUTH_DIRS=.claude,.codex
- Directorios predeterminados (usados cuando la ejecución no está restringida a proveedores específicos):
OPENCLAW_LIVE_GATEWAY_MODELS=.../OPENCLAW_LIVE_MODELS=...para restringir la ejecuciónOPENCLAW_LIVE_GATEWAY_PROVIDERS=.../OPENCLAW_LIVE_PROVIDERS=...para filtrar proveedores dentro del contenedorOPENCLAW_SKIP_DOCKER_BUILD=1para reutilizar una imagenopenclaw:local-liveexistente en repeticiones que no necesitan recompilaciónOPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1para asegurar que las credenciales vengan del almacén de perfiles (no del entorno)OPENCLAW_OPENWEBUI_MODEL=...para elegir el modelo expuesto por el gateway para la prueba smoke de Open WebUIOPENCLAW_OPENWEBUI_PROMPT=...para sobrescribir el prompt de comprobación de nonce usado por la prueba smoke de Open WebUIOPENWEBUI_IMAGE=...para sobrescribir la etiqueta fijada de la imagen de Open WebUI
Comprobación de documentación
Ejecuta comprobaciones de documentación después de editar docs:pnpm check:docs.
Ejecuta la validación completa de anclas de Mintlify cuando también necesites comprobaciones de encabezados dentro de la página: pnpm docs:check-links:anchors.
Regresión sin conexión (segura para CI)
Estas son regresiones de “pipeline real” sin proveedores reales:- Llamadas a herramientas de Gateway (OpenAI simulado, gateway real + bucle de agente):
src/gateway/gateway.test.ts(caso: “runs a mock OpenAI tool call end-to-end via gateway agent loop”) - Asistente de Gateway (WS
wizard.start/wizard.next, escribe configuración + autenticación aplicada):src/gateway/gateway.test.ts(caso: “runs wizard over ws and writes auth token config”)
Evaluaciones de fiabilidad del agente (Skills)
Ya tenemos algunas pruebas seguras para CI que se comportan como “evaluaciones de fiabilidad del agente”:- Llamadas a herramientas simuladas mediante el gateway real + bucle de agente (
src/gateway/gateway.test.ts). - Flujos de asistente de extremo a extremo que validan el cableado de sesión y los efectos de configuración (
src/gateway/gateway.test.ts).
- Toma de decisiones: cuando las Skills aparecen en el prompt, ¿el agente elige la Skill correcta (o evita las irrelevantes)?
- Cumplimiento: ¿el agente lee
SKILL.mdantes de usarla y sigue los pasos/argumentos requeridos? - Contratos de flujo de trabajo: escenarios de varios turnos que verifican el orden de herramientas, la conservación del historial de sesión y los límites del sandbox.
- Un ejecutor de escenarios con proveedores simulados para verificar llamadas a herramientas + orden, lecturas de archivos de Skills y cableado de sesión.
- Una pequeña suite de escenarios centrados en Skills (usar frente a evitar, compuertas, inyección de prompt).
- Evaluaciones en vivo opcionales (opt-in, controladas por entorno) solo después de que la suite segura para CI esté lista.
Pruebas de contrato (forma de Plugin y canal)
Las pruebas de contrato verifican que cada Plugin y canal registrado cumpla con su contrato de interfaz. Iteran sobre todos los Plugins descubiertos y ejecutan una suite de aserciones de forma y comportamiento. El carril unitario predeterminado depnpm test omite intencionalmente estos archivos smoke y de
seams compartidos; ejecuta los comandos de contrato explícitamente cuando toques
superficies compartidas de canal o proveedor.
Comandos
- Todos los contratos:
pnpm test:contracts - Solo contratos de canal:
pnpm test:contracts:channels - Solo contratos de proveedor:
pnpm test:contracts:plugins
Contratos de canal
Ubicados ensrc/channels/plugins/contracts/*.contract.test.ts. Categorías
actuales de nivel superior:
- channel-catalog - metadatos de entradas del catálogo de canales empaquetados/registry
- plugin (respaldado por registry, fragmentado) - forma básica de registro de Plugin
- surfaces-only (respaldado por registry, fragmentado) - comprobaciones de forma por superficie para
actions,setup,status,outbound,messaging,threading,directoryygateway - session-binding (respaldado por registry) - comportamiento de enlace de sesión
- outbound-payload - estructura y normalización del payload de mensajes
- group-policy (fallback) - aplicación de la política de grupo predeterminada por canal
- threading (respaldado por registry, fragmentado) - manejo de ids de hilo
- directory (respaldado por registry, fragmentado) - API de directorio/lista
- registry y plugins-core.* - registro de Plugins de canal, cargador e internos de autorización de escritura de configuración
src/plugin-sdk/channel-contract-testing.ts
(excluido de npm, no es un subpath público del SDK); no existe un archivo
inbound.contract.test.ts independiente en este directorio.
Contratos de proveedor
Ubicados ensrc/plugins/contracts/*.contract.test.ts. Las categorías actuales
incluyen:
- shape - forma del manifiesto del Plugin, API y exports de runtime
- plugin-registration (+ paralelo) - casos de registro de manifiesto
- package-manifest - requisitos del manifiesto de paquete
- loader - comportamiento de setup/teardown del cargador de Plugins
- registry - contenido y búsqueda del registro de contratos de Plugins
- providers - comportamiento compartido de proveedores entre proveedores empaquetados, además de proveedores de búsqueda web
- auth-choice - metadatos de elección de autenticación y comportamiento de setup
- provider-catalog-deprecation - metadatos de catálogo de proveedores obsoletos
- wizard.choice-resolution, wizard.model-picker, wizard.setup-options - contratos del asistente de setup de proveedores
- embedding-provider, memory-embedding-provider, web-fetch-provider, tts - contratos de proveedor específicos de capacidad
- session-actions, session-attachments, session-entry-projection - contratos de estado de sesión propiedad del Plugin
- scheduled-turns - metadatos de turnos programados del Plugin y límites de timestamp
- host-hooks, run-context-lifecycle, runtime-import-side-effects, runtime-seams - ciclo de vida de host/runtime del Plugin y contratos de límite de importación
- extension-runtime-dependencies - ubicación de dependencias de runtime para extensiones
Cuándo ejecutar
- Después de cambiar exports o subpaths de plugin-sdk
- Después de agregar o modificar un Plugin de canal o proveedor
- Después de refactorizar el registro o descubrimiento de Plugins
Agregar regresiones (guía)
Cuando arregles un problema de proveedor/modelo descubierto en vivo:- Agrega una regresión segura para CI si es posible (proveedor simulado/stub, o captura la transformación exacta de la forma de la solicitud)
- Si es inherentemente solo en vivo (límites de tasa, políticas de autenticación), mantén la prueba en vivo estrecha y opt-in mediante variables de entorno
- Prefiere apuntar a la capa más pequeña que detecte el bug:
- bug de conversión/reproducción de solicitud de proveedor -> prueba directa de modelos
- bug de pipeline de sesión/historial/herramientas de gateway -> prueba smoke en vivo de gateway o prueba mock de gateway segura para CI
- Barandilla de recorrido de SecretRef:
src/secrets/exec-secret-ref-id-parity.test.tsderiva un destino muestreado por clase SecretRef a partir de metadatos del registro (listSecretTargetRegistryEntries()), y luego afirma que se rechazan los ids de exec con segmentos de recorrido.- Si agregas una nueva familia de destinos SecretRef
includeInPlanensrc/secrets/target-registry-data.ts, actualizaclassifyTargetClassen esa prueba. La prueba falla intencionalmente con ids de destino no clasificados para que las nuevas clases no puedan omitirse en silencio.