- ネイティブ macOS/iOS/Android Talk:ネイティブ音声認識、Gateway チャット、
talk.speakTTS を使用します。macOS/iOS の Apple Speech 認識ではネットワークサービスが使用される場合があります。Android の動作は、インストールされている音声サービスによって異なります。Node はtalkケイパビリティを公開し、サポートするtalk.*コマンドを宣言します。 - iOS Talk(リアルタイム):
webrtcトランスポートを選択するか、トランスポートを省略した OpenAI リアルタイム設定では、クライアント所有の WebRTC を使用します。明示的なgateway-relay、provider-websocket、および OpenAI 以外のリアルタイム設定では、引き続き Gateway 所有のリレーを使用します。非リアルタイム設定では、ネイティブ音声ループを使用します。 - ブラウザー Talk:クライアント所有の
webrtc/provider-websocketセッションにはtalk.client.createを、Gateway 所有のgateway-relayセッションにはtalk.session.createを使用します。managed-roomは Gateway ハンドオフおよびトランシーバールーム用に予約されています。 - Android Talk(リアルタイム):
talk.realtime.mode: "realtime"とtalk.realtime.transport: "gateway-relay"でオプトインします。それ以外の場合、Android はネイティブ音声認識、Gateway チャット、talk.speakを引き続き使用します。 - 文字起こし専用クライアント:アシスタントの音声応答を伴わない字幕表示やディクテーションには、
talk.session.create({ mode: "transcription", transport: "gateway-relay", brain: "none" })、続いてtalk.session.appendAudio、talk.session.cancelTurn、talk.session.closeを使用します。単発でアップロードされたボイスメモでは、引き続き メディア理解 の音声パスを使用します。
talk.speak)を介して読み上げます。
クライアント所有のリアルタイム Talk は、chat.send を直接呼び出す代わりに、プロバイダーのツール呼び出しを talk.client.toolCall 経由で転送します。リアルタイム相談がアクティブな間、クライアントは talk.client.steer または talk.session.steer を呼び出して、音声入力を status、steer、cancel、または followup に分類できます。受理されたステアリングはアクティブな埋め込み実行のキューに追加され、拒否されたステアリングでは no_active_run、not_streaming、compacting などの理由が返されます。
確定したリアルタイムのユーザー発話とアシスタント発話は、常にアクティブなエージェントセッションへリアルタイムで追加されるため、以降のチャットと音声ターンは 1 つの履歴を共有します。クライアント所有のトランスポートは、安定したエントリ ID とともに確定済みの文字起こしを報告します。Gateway リレーセッションは同じイベントをサーバー側で追加します。プロバイダーセッションには、Discord 音声で使用される、サイズ制限付きのリアルタイムプロファイルコンテキストも渡されます。
音声から開始された相談実行では、メッセージの送信、Node の制御、ブラウザーやコンピューターの操作、サービスの変更、破壊的なシェルコマンド、公開など、影響の大きいアクションの前に、新たに正確な音声確認が必要です。この確認はブロックされたツールの正確な引数にのみ適用され、一度だけ使用されます。無関係な同時実行には影響しません。通話が終了すると、OpenClaw は変更を行うツールについて簡潔な 音声通話の変更内容 ダイジェストを、セッションで最後に使用された WebChat 以外の配信先へ送信できます。
文字起こし専用 Talk は、リアルタイムセッションおよび STT/TTS セッションと同じ Talk イベントエンベロープを生成しますが、mode: "transcription" と brain: "none" を使用します。すべての Talk セッションは talk.event チャンネルでイベントをブロードキャストします。クライアントは、部分的または確定済みの文字起こし更新(transcript.delta/transcript.done)やその他のセッションテレメトリを受信するために、このチャンネルを購読します。
ブラウザー Video Talk は、OpenAI Realtime WebRTC および Google Live
プロバイダー WebSocket セッションで利用できます。OpenAI は、
describe_view が視覚コンテキストを要求したときに、サイズ制限付きの JPEG を 1 枚受信します。
継続的なカメラトラックは受信しません。Google Live は、ブラウザーから
最大毎秒 1 フレームでサイズ制限付きの JPEG フレームを直接受信し、describe_view は
カメラストリームの状態を報告します。どちらの場合も、カメラフレームは Gateway を経由せず、
Talk を停止するとカメラとマイクのトラックが解放されます。
動作(macOS)
- Talk モードが有効な間は、オーバーレイが常時表示されます。
- リスニング → 思考中 → 発話中 のフェーズで遷移します。
- 短い休止(無音時間)があると、現在の文字起こしが送信されます。
- 応答は WebChat に書き込まれます(入力した場合と同様です)。
- 発話による割り込み(デフォルトで有効):アシスタントの発話中にユーザーが話すと、再生が停止し、次のプロンプト用に割り込みのタイムスタンプが記録されます。
応答内の音声ディレクティブ
アシスタントは、音声を制御するために応答の先頭へ JSON 行を 1 行追加できます。- 空でない最初の行でのみ使用できます。JSON 行は TTS 再生前に削除されます。
- 不明なキーは無視されます。
once: trueは現在の応答にのみ適用されます。これがない場合、その音声が新しい Talk モードのデフォルトになります。
voice / voice_id / voiceId、model / model_id / modelId、speed、rate(WPM)、stability、similarity、style、speakerBoost、seed、normalize、lang、output_format、latency_tier、once。
設定(~/.openclaw/openclaw.json)
talk.catalog は、正規のプロバイダー ID とレジストリエイリアス、各プロバイダーで有効なモード、トランスポート、ブレイン戦略、リアルタイム音声形式、ケイパビリティフラグ、およびランタイムが選択した準備状態の結果を公開します。ファーストパーティの Talk クライアントは、プロバイダーエイリアスをローカルで管理せず、このカタログを読み取る必要があります。グループの準備状態を省略する古い Gateway は、明確に未設定と判断せず、未検証として扱ってください。ストリーミング文字起こしプロバイダーは talk.catalog.transcription を通じて検出されます。専用の Talk 文字起こし設定サーフェスが提供されるまでは、現在の Gateway リレーは Voice Call ストリーミングプロバイダー設定を使用します。
macOS UI
- メニューバーの切り替え: Talk
- 設定タブ: Talk Mode グループ(音声 ID と割り込みの切り替え)
- オーバーレイ: オーブには共通の Talk 波形が表示されます(iOS、watchOS、Android と共有)。リスニング中はライブのマイクレベルに追従し、発話中は実際の TTS 再生エンベロープに追従し、思考中は静かに明滅します。オーブをクリックすると一時停止または再開し、ダブルクリックすると発話を停止し、X をクリックすると Talk モードを終了します。
Android UI
- Android のメインナビゲーションは Home、Chat、Settings です。音声入力は 独立した Voice タブではなく、Chat のコンポーザーにあります。
- デバイス上での音声入力にはコンポーザーのマイクをタップします。長押しすると ボイスメモの添付ファイルを録音します。継続的な Talk は Talk 波形から開始します。
- 音声入力、ボイスメモ録音、Talk は相互排他的なマイク パスです。いずれかを開始すると、ほかは停止またはブロックされます。
- リアルタイム Talk では、接続済みの Bluetooth Classic または BLE ヘッドセットの マイクが優先されます。切断された場合、アプリは別のヘッドセット入力を要求するか、 デフォルトのマイクにフォールバックし、キャプチャが停止すると デフォルトの設定を復元します。
- アプリがフォアグラウンドから離れるか、ユーザーが Chat から離れると、 音声入力とボイスメモ録音は停止します。
- Talk Mode は、オフに切り替えられるか Node が切断されるまで実行を継続し、アクティブな間は Android のマイク用フォアグラウンドサービスタイプを使用します。
- Android は、低遅延の
AudioTrackストリーミング向けにpcm_16000、pcm_22050、pcm_24000、pcm_44100の出力形式をサポートします。
注記
- 音声認識とマイクの権限が必要です。
- ネイティブ Talk はアクティブな Gateway セッションを使用し、応答イベントが利用できない場合にのみ履歴ポーリングへフォールバックします。
- Gateway は、アクティブな Talk プロバイダーを使用し、
talk.speakを通じて Talk の再生を解決します。Android は、その RPC が利用できない場合にのみローカルシステム TTS へフォールバックします。 - macOS のローカル MLX 再生では、同梱の
openclaw-mlx-ttsヘルパーが存在する場合はそれを使用し、存在しない場合はPATH上の実行可能ファイルを使用します。開発中にカスタムヘルパーバイナリを指定するにはOPENCLAW_MLX_TTS_BINを設定します。 - 音声ディレクティブの値範囲(ElevenLabs):
stability、similarity、styleは0..1を受け入れ、speedは0.5..2を受け入れ、latency_tierは0..4を受け入れます。