İlk ilkeler
Bir uzman hattı, yalnızca gerçek darboğazlar üzerindeki çekişmeyi azalttığında iş hacmini iyileştirir:- Oturum kilitleri: belirli bir oturumu aynı anda yalnızca bir çalıştırma değiştirmelidir.
- Küresel model kapasitesi: tüm görünür sohbet çalıştırmaları yine de sağlayıcı sınırlarını paylaşır.
- Araç kapasitesi: kabuk, tarayıcı, ağ ve depo işleri model turunun kendisinden daha yavaş olabilir.
- Bağlam bütçesi: uzun konuşma dökümleri gelecekteki her turu daha yavaş ve daha az odaklı hale getirir.
- Sahiplik belirsizliği: aynı işi yapan yinelenen ajanlar kapasiteyi boşa harcar.
Önerilen dağıtım
Aşama 1: hat sözleşmeleri + arka planda ağır iş
Her hatta, çalışma alanında ve sistem isteminde yazılı bir sözleşme verin:- Amaç: bu hattın sahibi olduğu iş.
- Hedef dışı olanlar: denemek yerine devretmesi gereken işler.
- Sohbet bütçesi: hızlı yanıtlar sohbette kalır; uzun görevler kısaca onaylanmalı, ardından arka planda bir alt ajan veya görev olarak çalıştırılmalıdır.
- Devir kuralı: başka bir hat işin sahibiyse, nereye gitmesi gerektiğini söyleyin ve kısa bir devir özeti sağlayın.
- Araç riski kuralı: işi yapabilecek en küçük araç yüzeyini tercih edin.
Aşama 2: öncelik ve eşzamanlılık kontrolleri
Kuyruk ve model kapasitesini her hattın iş değerine göre ayarlayın:Aşama 3: koordinatör / trafik denetleyicisi
Birden fazla hat etkin olduğunda küçük bir koordinatör deseni ekleyin:- Etkin hat görevlerini ve sahiplerini izleyin.
- Gruplar arasında yinelenen istekleri tespit edin.
- Hatlar arasında devir özetlerini yönlendirin.
- Yalnızca engelleyicileri, tamamlanan sonuçları ve insanın vermesi gereken kararları yüzeye çıkarın.