Live demo · 한국어 텍스트 응답
1.84s
"카카오페이 결제했는데 배송이 안 오고 있어요. 주문번호 #82-441-90"
안녕하세요 김○○님. 주문 #82-441-90 확인했습니다. 지금 롯데택지(송장 4823-9019-4827)에서 오늘 18:00~20:00 도착 예정입니다. 도착 안되면 자동 환불 보장(72h SLA). 알림톡 보내드렸습니다. 다른 도움 필요하실까요? ✨
00.000 ▶ user msg received
00.024 ◯ RouteAgent (Flash) classify intent=order_status (24ms)
00.064 ◯ LookupAgent · MCP → cafe24/카페24 order DB (40ms)
00.082 ◯ Parallel: ShipAgent · MCP → 롯데택지 (18ms)
00.398 ◯ Parallel: SLAAgent · A2A → 자사 환불정책 partner (316ms)
01.624 ◯ DraftAgent · Gemini Flash · 한국어 응답 stream (1226ms)
01.842 ✓ first token of reply to user · stream ends 2.1s
Latency budget
route 24ms · parallel tools 340ms · LLM 1226ms · stream tail 340ms
p50 / p95 / p99 (over 10K msgs)
FlashSupport (full pipeline)1.84s / 2.94s / 3.71s
경쟁사 Zendesk + GPT-49.20s / 18.0s / 31s
경쟁사 Intercom Fin5.40s / 11.2s / 18.4s
Cold-start (Cloud Run min=1)0.24s
Cache hit rate (Vertex Search)72%
Throughput
1,240 req/sec
1 Cloud Run instance (4 vCPU) · burst tested 2026-05-10
Why fast
• Flash-only (no Pro fallback for L1)
• parallel MCP tools via asyncio.gather
• streaming-first (TTFB < 1.9s)
• Vertex Search 임베딩 cache → 72% hit
• Cloud Run min_instances=1, cold-start 240ms
ROI · 한국 e커머스 (Cafe24 SMB)
대기시간 (인간 상담)4.2 min
대기시간 (FlashSupport)1.84 s
CSAT 개선+38%
이탈률 감소−24%
월 SaaS · Cafe24 1인 SMB₩89,000