Skip to main content
De tool music_generate maakt muziek of audio via de gedeelde mogelijkheid voor muziekgeneratie, ondersteund door ComfyUI, fal, Google, MiniMax en OpenRouter.
music_generate verschijnt alleen wanneer ten minste één provider voor muziekgeneratie beschikbaar is: een expliciete agents.defaults.mediaModels.music-configuratie of een provider met geconfigureerde authenticatie (bijvoorbeeld een ingestelde API-sleutel).
Voor agentuitvoeringen met een sessie start music_generate als achtergrondtaak, houdt de voortgang bij in het taakregister en wekt vervolgens de agent wanneer de track gereed is, zodat die de gebruiker kan informeren en de voltooide audio kan bijvoegen. De voltooiingsagent volgt het contract voor zichtbare antwoorden van de sessie: automatisch definitief antwoorden wanneer dit is geconfigureerd, of message(action="send") wanneer de sessie de berichtentool vereist. Als de sessie van de aanvrager inactief is of niet kan worden gewekt en de gegenereerde audio nog steeds in het antwoord ontbreekt, verzendt OpenClaw een idempotente directe fallback met alleen de ontbrekende audio.

Snel aan de slag

1

Authenticatie configureren

Stel een API-sleutel in voor ten minste één provider, bijvoorbeeld GEMINI_API_KEY of MINIMAX_API_KEY.
2

Een standaardmodel kiezen (optioneel)

3

De agent een opdracht geven

“Genereer een vrolijke synthpoptrack over een nachtelijke autorit door een neonstad.”De agent roept music_generate automatisch aan. Er is geen toelatingslijst voor tools nodig.
Zonder een agentuitvoering met een sessie (directe/lokale contexten) wordt de tool inline uitgevoerd en retourneert deze het definitieve mediapad in hetzelfde toolresultaat.
Voorbeeldprompts:
Gebruik action: "list" om beschikbare providers/modellen te bekijken en action: "status" om de actieve muziektaak met een sessie te bekijken:
Voorbeeld van directe generatie:

Ondersteunde providers

MiniMax registreert twee provider-id’s die dezelfde modellen delen: minimax voor authenticatie met een API-sleutel en minimax-portal voor OAuth. Modelverwijzingen volgen het authenticatiepad (minimax/music-2.6 versus minimax-portal/music-2.6); zie MiniMax. fal biedt naast het standaardmodel op basis van MiniMax ook fal-ai/ace-step/prompt-to-audio (wav, geen songteksten, geen schakelaar voor instrumentaal) en fal-ai/stable-audio-25/text-to-audio (wav, alleen prompt). Het standaardmodel lyria-3-clip-preview van Google levert alleen mp3; lyria-3-pro-preview ondersteunt ook wav. MiniMax biedt ook music-2.6-free, music-cover en music-cover-free. OpenRouter biedt ook google/lyria-3-clip-preview.

Mogelijkhedenmatrix

Het expliciete moduscontract dat wordt gebruikt door music_generate, contracttests en de gedeelde live-controle:

Toolparameters

string
vereist
Prompt voor muziekgeneratie. Vereist voor action: "generate".
"generate" | "status" | "list"
standaard:"generate"
"status" retourneert de huidige sessietaak; "list" bekijkt providers.
string
Overschrijving van provider/model (bijvoorbeeld google/lyria-3-pro-preview, comfy/workflow).
string
Optionele songtekst wanneer de provider expliciete invoer van songteksten ondersteunt.
boolean
Vraag uitsluitend instrumentale uitvoer aan wanneer de provider dit ondersteunt.
string
Pad of URL van één referentieafbeelding.
string[]
Meerdere referentieafbeeldingen (maximaal 10 bij providers die dit ondersteunen).
number
Gewenste duur in seconden wanneer de provider duuraanwijzingen ondersteunt.
"mp3" | "wav"
Aanwijzing voor de uitvoerindeling wanneer de provider dit ondersteunt.
string
Aanwijzing voor de uitvoerbestandsnaam.
Niet alle providers ondersteunen alle parameters. OpenClaw valideert harde limieten, zoals aantallen invoeritems, nog steeds vóór verzending. Wanneer een provider duur ondersteunt maar een korter maximum hanteert dan de aangevraagde waarde, beperkt OpenClaw deze tot de dichtstbijzijnde ondersteunde duur. Echt niet-ondersteunde optionele aanwijzingen worden met een waarschuwing genegeerd wanneer de geselecteerde provider of het geselecteerde model deze niet kan toepassen. Toolresultaten vermelden de toegepaste instellingen; details.normalization legt elke omzetting van aangevraagd naar toegepast vast.
Time-outs voor providerverzoeken zijn uitsluitend configuratie voor beheerders. OpenClaw gebruikt agents.defaults.mediaModels.music.timeoutMs wanneer dit is geconfigureerd, verhoogt waarden onder 120000ms tot 120000ms en gebruikt anders standaard 300000ms voor providerverzoeken.

Asynchroon gedrag

Muziekgeneratie met een sessie wordt als achtergrondtaak uitgevoerd:
  • Achtergrondtaak: music_generate maakt een achtergrondtaak, retourneert onmiddellijk een gestart-/taakantwoord en plaatst de voltooide track later in een vervolgbericht van de agent.
  • Dubbel werk voorkomen: zolang een taak queued of running is, retourneren latere aanroepen van music_generate in dezelfde sessie de taakstatus in plaats van een nieuwe generatie te starten. Gebruik action: "status" om dit expliciet te controleren. Een recent voltooid, overeenkomend verzoek wordt ook gedurende 2 minuten gededupliceerd.
  • Status opzoeken: openclaw tasks list of openclaw tasks show <taskId> bekijkt de status in de wachtrij, tijdens uitvoering en na beëindiging.
  • Wekken bij voltooiing: OpenClaw injecteert een interne voltooiingsgebeurtenis terug in dezelfde sessie, zodat het model zelf het gebruikersgerichte vervolgbericht kan schrijven.
  • Promptaanwijzing: latere gebruikers-/handmatige beurten in dezelfde sessie krijgen een kleine runtime-aanwijzing wanneer een muziektaak al wordt uitgevoerd, zodat het model music_generate niet blind opnieuw aanroept.
  • Fallback zonder sessie: directe/lokale contexten zonder een echte agentsessie worden inline uitgevoerd en retourneren het definitieve audioresultaat in dezelfde beurt.

Levenscyclus van taken

De muziektaak toont dezelfde statussen als het algemene taakregister (zie Achtergrondtaken voor de volledige toestandsmachine, inclusief timed_out, cancelled en lost). De meeste muziekuitvoeringen doorlopen: Controleer de status via de CLI:

Configuratie

Modelselectie

Selectievolgorde van providers

OpenClaw probeert providers in deze volgorde:
  1. model-parameter uit de toolaanroep (als de agent er een opgeeft).
  2. musicGenerationModel.primary uit de configuratie.
  3. musicGenerationModel.fallbacks in volgorde.
  4. Automatische detectie, uitsluitend met standaardproviders op basis van authenticatie:
    • eerst de huidige standaardprovider voor tekstmodellen, als deze ook muziekgeneratie aanbiedt;
    • de overige geregistreerde providers voor muziekgeneratie, alfabetisch op provider-id.
Als een provider mislukt, wordt de volgende kandidaat automatisch geprobeerd. Als alle kandidaten mislukken, bevat de fout details van elke poging. Automatische fallback tussen geauthenticeerde providers is altijd ingeschakeld. Een model per aanroep blijft bepalend.

Opmerkingen over providers

Workflowgestuurd en afhankelijk van de geconfigureerde graaf plus de Node-toewijzing voor prompt-/uitvoervelden. De meegeleverde comfy-Plugin wordt via het register van providers voor muziekgeneratie gekoppeld aan de gedeelde music_generate-tool.
Gebruikt fal-modeleindpunten via het gedeelde authenticatiepad voor providers. De meegeleverde provider gebruikt standaard fal-ai/minimax-music/v2.6 en biedt ook fal-ai/ace-step/prompt-to-audio en fal-ai/stable-audio-25/text-to-audio voor prompt-naar-audioverzoeken. Songteksten en de instrumentale modus zijn alleen beschikbaar voor MiniMax-modellen; de andere twee modellen ondersteunen alleen prompts.
Gebruikt batchgeneratie van Lyria 3. De huidige meegeleverde flow ondersteunt een prompt, optionele songtekst en optionele referentieafbeeldingen. Het standaardmodel lyria-3-clip-preview voert alleen mp3 uit; het model lyria-3-pro-preview ondersteunt ook wav.
Gebruikt het batch-eindpunt music_generation. Ondersteunt een prompt, optionele songtekst, instrumentale modus en mp3-uitvoer via authenticatie met een minimax-API-sleutel of minimax-portal OAuth. Biedt ook de modellen music-2.6-free, music-cover en music-cover-free.
Gebruikt audio-uitvoer van OpenRouter-chatvoltooiingen met streaming ingeschakeld. De meegeleverde provider gebruikt standaard google/lyria-3-pro-preview en biedt ook openrouter/google/lyria-3-clip-preview.

Het juiste pad kiezen

  • Gedeeld, ondersteund door providers wanneer je modelselectie, provider- failover en de ingebouwde asynchrone taak-/statusflow wilt.
  • Pluginpad (ComfyUI) wanneer je een aangepaste workflowgraaf nodig hebt of een provider die geen deel uitmaakt van de gedeelde meegeleverde muziekfunctionaliteit.
Als je ComfyUI-specifiek gedrag debugt, raadpleeg dan ComfyUI. Als je gedeeld providergedrag debugt, begin dan met fal, Google (Gemini), MiniMax of OpenRouter.

Providerfunctionaliteitsmodi

Het gedeelde contract voor muziekgeneratie ondersteunt expliciete modusdeclaraties:
  • generate voor generatie op basis van alleen een prompt.
  • edit wanneer het verzoek een of meer referentieafbeeldingen bevat.
Nieuwe providerimplementaties moeten bij voorkeur expliciete modusblokken gebruiken:
Oudere platte velden zoals maxInputImages, supportsLyrics en supportsFormat zijn niet voldoende om bewerkingsondersteuning aan te geven. Providers moeten generate en edit expliciet declareren, zodat livetests, contracttests en de gedeelde music_generate-tool de modusondersteuning deterministisch kunnen valideren.

Livetests

Optionele live testdekking voor de gedeelde meegeleverde providers (fal, Google, MiniMax, OpenRouter):
Gelijkwaardige repowrapper die hetzelfde testbestand uitvoert:
Dit livebestand gebruikt standaard reeds geëxporteerde provideromgevingsvariabelen vóór opgeslagen authenticatieprofielen en voert zowel generate als de gedeclareerde edit-dekking uit wanneer de provider de bewerkingsmodus inschakelt. Huidige dekking:
  • google: generate plus edit
  • fal: alleen generate
  • minimax: alleen generate
  • openrouter: generate plus edit
  • comfy: afzonderlijke Comfy-livetestdekking, geen onderdeel van de gedeelde providerreeks
Optionele live testdekking voor het meegeleverde ComfyUI-muziekpad:
Het Comfy-livebestand dekt ook Comfy-workflows voor afbeeldingen en video’s wanneer die secties zijn geconfigureerd.

Gerelateerd