realtime、本地或流式
stt-tts,以及用于仅观察语音捕获的 transcription。这些模式
与电话、会议、浏览器实时以及原生按键通话客户端共享提供商目录、
事件封包和取消语义。
能力
图像生成
通过
image_generate 从文本提示词或参考图像创建和编辑图像。
在聊天会话中异步执行——在后台运行,并在准备就绪后
发布结果。视频生成
通过
video_generate 实现文本转视频、图像转视频和视频转视频。
异步执行——在后台运行,并在准备就绪后发布结果。音乐生成
通过
music_generate 生成音乐或音轨。在聊天
会话中基于共享的媒体生成任务生命周期异步执行。文本转语音
通过
tts 工具加 messages.tts 配置,将出站回复转换为
语音音频。同步执行。媒体理解
使用具备视觉能力的模型提供商和专用媒体理解插件,
总结传入图像、音频和视频。
语音转文本
通过批量 STT 或 Voice Call 流式 STT 提供商转写传入语音消息。
提供商能力矩阵
此表涵盖专用媒体生成、TTS 和 STT 插件。许多
聊天模型提供商(Anthropic、Google、OpenAI 等)也可以通过
它们的回复模型理解传入媒体;请参阅
媒体理解中的完整提供商列表。
| 提供商 | 图像 | 视频 | 音乐 | TTS | STT | 实时语音 | 媒体理解 |
|---|---|---|---|---|---|---|---|
| Alibaba | ✓ | ||||||
| Azure Speech | ✓ | ||||||
| BytePlus | ✓ | ||||||
| ComfyUI | ✓ | ✓ | ✓ | ||||
| Deepgram | ✓ | ||||||
| DeepInfra | ✓ | ✓ | ✓ | ✓ | ✓ | ||
| ElevenLabs | ✓ | ✓ | |||||
| fal | ✓ | ✓ | ✓ | ||||
| ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | |
| Gradium | ✓ | ||||||
| Inworld | ✓ | ||||||
| LiteLLM | ✓ | ||||||
| Local CLI | ✓ | ||||||
| Microsoft | ✓ | ||||||
| Microsoft Foundry | ✓ | ||||||
| MiniMax | ✓ | ✓ | ✓ | ✓ | |||
| Mistral | ✓ | ||||||
| OpenAI | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | |
| OpenRouter | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | |
| PixVerse | ✓ | ||||||
| Qwen | ✓ | ✓ | |||||
| Runway | ✓ | ||||||
| SenseAudio | ✓ | ||||||
| Together | ✓ | ||||||
| Volcengine | ✓ | ||||||
| Vydra | ✓ | ✓ | ✓ | ||||
| xAI | ✓ | ✓ | ✓ | ✓ | ✓ | ||
| Xiaomi MiMo | ✓ |
这里的实时语音是指提供商原生的双向实时能力(Talk
realtime 模式,例如 Gemini Live 或 OpenAI Realtime API)——目前只有 Google
和 OpenAI 注册了该能力。Deepgram、ElevenLabs、Mistral、OpenAI 和 xAI
还单独注册了 Voice Call 流式 STT(单向音频转文本);请参阅下方的
语音转文本和 Voice Call。
xAI Realtime voice 是上游能力,但在共享实时语音契约能够表示它之前,
不会在 OpenClaw 中注册。异步与同步
| 能力 | 模式 | 原因 |
|---|---|---|
| 图像 | 异步 | 提供商处理可能超过一个聊天轮次;生成的附件使用共享完成路径。 |
| 文本转语音 | 同步 | 提供商响应会在数秒内返回;附加到回复音频。 |
| 视频 | 异步 | 提供商处理需要 30 秒到几分钟;较慢的队列可能运行到配置的超时时间。 |
| 音乐 | 异步 | 与视频具有相同的提供商处理特征。 |
message(action="send")。如果请求方会话处于非活动状态,
或其活动唤醒失败,并且完成回复中仍缺少某些生成媒体,
OpenClaw 会发送一个幂等的直接兜底回复,只包含缺失的媒体。
已由完成回复投递过的媒体不会再次发布。
语音转文本和 Voice Call
Deepgram、DeepInfra、ElevenLabs、Google、Groq、Mistral、OpenAI、OpenRouter、 SenseAudio 和 xAI 在配置后都可以通过批量tools.media.audio 路径转写传入音频。对语音备注进行预检以用于
提及门控或命令解析的渠道插件,会在传入上下文中标记已转写的
附件,因此共享媒体理解流程会复用该转写文本,而不是对同一
音频发起第二次 STT 调用。
Deepgram、ElevenLabs、Mistral、OpenAI 和 xAI 还注册了 Voice Call
流式 STT 提供商,因此可以将实时电话音频转发给所选
供应商,而无需等待录音完成。
对于实时用户对话,优先使用 Talk 模式。批量音频
附件仍走媒体路径;浏览器实时、原生按键通话、
电话和会议音频应使用 Talk 事件以及 Gateway 网关返回的
会话范围目录。
提供商映射(供应商如何分布在各个表面)
Google
图像、视频、音乐、批量 TTS、批量 STT、后端实时语音和
媒体理解表面。
OpenAI
OpenAI
图像、视频、批量 TTS、批量 STT、Voice Call 流式 STT、后端
实时语音和记忆嵌入表面。
DeepInfra
DeepInfra
聊天/模型路由、图像生成/编辑、文本转视频、批量 TTS、
批量 STT、图像媒体理解和记忆嵌入表面。
DeepInfra 还公开重排序、分类、目标检测和
其他原生模型类型;OpenClaw 还没有针对这些
类别的提供商契约,因此此插件不会注册它们。
xAI
xAI
图像、视频、搜索、代码执行、批量 TTS、批量 STT 和 Voice
Call 流式 STT。xAI Realtime voice 是上游能力,但在
共享实时语音契约能够表示它之前,不会在 OpenClaw 中
注册。