Lewati ke isi

Tugas 4: Aktifkan Observabilitas dan Debugging

Target: setiap call bisa ditelusuri lewat timeline dan trace ID.

Peta Sistem

flowchart LR Transport[Transport] STT[STT] Router[Router] LLM[LLM] TTS[TTS] Observers[Observers] Artifacts[Artifacts JSONL] Transport --> STT --> Router --> LLM --> TTS --> Transport Observers -.-> STT Observers -.-> LLM Observers -.-> TTS Observers --> Artifacts

Step 1: Aktifkan Artifak

observability:
  artifacts_dir: "examples/hvac/artifacts"
  record_audio: false
  retention_days: 0

artifacts_dir wajib. Biarkan record_audio=false kecuali ada kebijakan privasi yang jelas.

Step 2: Gunakan Log Terstruktur

log_format: "json"
log_level: "info"

Ini memudahkan pencarian trace_id.

Step 3: Debug Satu Call

  1. Temukan trace_id di log.
  2. Buka JSONL di artifacts_dir.
  3. Cari frame_out terakhir, lalu telusuri stage yang berhenti.

Step 4: Pantau Biaya dan Latensi

Saat artifak aktif, Ranya menulis timeline dan cost events. Gunakan untuk:

  • membandingkan latency vendor,
  • mendeteksi tool call yang lambat,
  • memvalidasi keputusan routing.

Perbaikan Umum

  • Artifak tidak muncul: artifacts_dir kosong atau tidak bisa ditulis.
  • Timeline berhenti: processor gagal atau frame drop karena backpressure.
  • Biaya melonjak: cek tool call atau respons terlalu panjang.

Related:

Selesai Jika

  • Bisa menemukan trace call < 60 detik.
  • Bisa menunjuk stage yang stalled.
  • Bisa jelaskan latency dan biaya per call.