Paralel uzman hatları, bir Gateway’in farklı sohbetleri veya odaları farklı ajanlara yönlendirmesini sağlar ve kullanıcı deneyimini hızlı tutar. İşin püf noktası, paralelliği yalnızca “daha fazla ajan” olarak değil, kıt kaynak tasarımı problemi olarak ele almaktır.Documentation Index
Fetch the complete documentation index at: https://docs2.openclaw.ai/llms.txt
Use this file to discover all available pages before exploring further.
İlk ilkeler
Bir uzman hattı, yalnızca gerçek darboğazlar üzerindeki çekişmeyi azalttığında iş hacmini iyileştirir:- Oturum kilitleri: belirli bir oturumu aynı anda yalnızca bir çalıştırma değiştirmelidir.
- Küresel model kapasitesi: tüm görünür sohbet çalıştırmaları yine de sağlayıcı sınırlarını paylaşır.
- Araç kapasitesi: kabuk, tarayıcı, ağ ve depo işleri model turunun kendisinden daha yavaş olabilir.
- Bağlam bütçesi: uzun konuşma dökümleri gelecekteki her turu daha yavaş ve daha az odaklı hale getirir.
- Sahiplik belirsizliği: aynı işi yapan yinelenen ajanlar kapasiteyi boşa harcar.
Önerilen dağıtım
Aşama 1: hat sözleşmeleri + arka planda ağır iş
Her hatta, çalışma alanında ve sistem isteminde yazılı bir sözleşme verin:- Amaç: bu hattın sahibi olduğu iş.
- Hedef dışı olanlar: denemek yerine devretmesi gereken işler.
- Sohbet bütçesi: hızlı yanıtlar sohbette kalır; uzun görevler kısaca onaylanmalı, ardından arka planda bir alt ajan veya görev olarak çalıştırılmalıdır.
- Devir kuralı: başka bir hat işin sahibiyse, nereye gitmesi gerektiğini söyleyin ve kısa bir devir özeti sağlayın.
- Araç riski kuralı: işi yapabilecek en küçük araç yüzeyini tercih edin.
Aşama 2: öncelik ve eşzamanlılık kontrolleri
Kuyruk ve model kapasitesini her hattın iş değerine göre ayarlayın:Aşama 3: koordinatör / trafik denetleyicisi
Birden fazla hat etkin olduğunda küçük bir koordinatör deseni ekleyin:- Etkin hat görevlerini ve sahiplerini izleyin.
- Gruplar arasında yinelenen istekleri tespit edin.
- Hatlar arasında devir özetlerini yönlendirin.
- Yalnızca engelleyicileri, tamamlanan sonuçları ve insanın vermesi gereken kararları yüzeye çıkarın.