1.Model routing & varian model
Backend sering menyalurkan permintaan ke varian model berbeda berdasarkan jenis tugas.Â
Tugas analitis model besar/berkapasitas penuh (low-latency untuk inference teroptimasi).Â
Tugas sensitif/emotif bisa dialihkan ke varian yang lebih ter-kalibrasi atau ber-safety-tightening (lebih banyak langkah verifikasi), sehingga terasa lebih lambat.
2.Safety / content moderation pipeline
Interaksi romantis atau intim sering melewati modul moderasi dan deteksi konten sensitif.Â
Modul ini dapat melakukan pemeriksaan tambahan (policy checks, redaction, transformation) -> menambah latensi dan kadang memotong keluaran.
3.Persona layer di sisi aplikasi
Banyak aplikasi menambahkan lapisan persona (script, prompt engineering) yang menahan model dasar dengan aturan gaya.Â
Untuk "Fallan" persona mungkin aktifkan mode afektif: itu menjalankan prompt internal panjang (safety + style + memory recall) sebelum mengeluarkan jawaban proses itu tambahkan waktu.
4.Context window & memori pribadi
