Prinsip dasar
Jalur spesialis hanya meningkatkan throughput ketika mengurangi perebutan pada hambatan nyata:- Kunci sesi: hanya satu run yang boleh mengubah sesi tertentu pada satu waktu.
- Kapasitas model global: semua run chat yang terlihat tetap berbagi batas penyedia.
- Kapasitas tool: shell, browser, jaringan, dan pekerjaan repositori bisa lebih lambat daripada giliran model itu sendiri.
- Anggaran konteks: transkrip panjang membuat setiap giliran berikutnya lebih lambat dan kurang terfokus.
- Ambiguitas kepemilikan: agen duplikat yang melakukan pekerjaan yang sama membuang kapasitas.
Rollout yang direkomendasikan
Fase 1: kontrak jalur + pekerjaan berat latar belakang
Berikan setiap jalur kontrak tertulis di workspace dan prompt sistemnya:- Tujuan: pekerjaan yang dimiliki jalur ini.
- Bukan tujuan: pekerjaan yang sebaiknya dialihkan alih-alih dicoba.
- Anggaran chat: jawaban cepat tetap di chat; tugas panjang sebaiknya mengakui secara singkat, lalu berjalan di sub-agen atau tugas latar belakang.
- Aturan handoff: ketika jalur lain memiliki pekerjaan tersebut, katakan ke mana pekerjaan itu harus pergi dan berikan ringkasan handoff yang ringkas.
- Aturan risiko tool: pilih permukaan tool terkecil yang dapat menyelesaikan pekerjaan.
Fase 2: kontrol prioritas dan konkurensi
Sesuaikan kapasitas antrean dan model berdasarkan nilai bisnis setiap jalur:Fase 3: koordinator / pengendali lalu lintas
Tambahkan pola koordinator kecil setelah beberapa jalur aktif:- Lacak tugas dan pemilik jalur aktif.
- Deteksi permintaan duplikat lintas grup.
- Rutekan ringkasan handoff antarjalur.
- Tampilkan hanya blocker, hasil selesai, dan keputusan yang harus dibuat manusia.