Tại sao chatbot tiếng Việt khó
GPT-4/Claude support tiếng Việt OK, nhưng quirks:
- Dấu thanh complex hơn tiếng Anh.
- Cách xưng hô (em/anh/chị/cô/bác) tùy context - chatbot phải pick đúng.
- Slang + abbreviation Zalo ("k" = không, "bt" = bình thường) - model không biết.
- Domain-specific (y tế, pháp lý, kế toán) cần training riêng.
Bước 1: Collect knowledge base
- FAQ doanh nghiệp: 200-500 Q&A.
- Product spec + pricing.
- Policy: shipping, return, warranty.
- Process: onboarding, troubleshooting.
- Tone guide: formal vs friendly, em/anh/chị xưng hô.
- Edge case + escalation: khi nào chuyển sang nhân viên thật.
Bước 2: Chunk + embed
Chunk knowledge thành đoạn 300-500 token (1 chunk = 1 ý complete). Embed bằng OpenAI text-embedding-3-small ($0.02/1M token). Lưu vào vector DB: Pinecone ($70/tháng cho 1M vectors) hoặc pgvector (PostgreSQL extension, free).
Model embedding quyết định chatbot có tìm đúng đoạn tiếng Việt hay không; bài so sánh các model embedding cho RAG tiếng Việt trên blog của founder ALODEV giúp chọn trước khi nạp dữ liệu.
Bước 3: Prompt engineering
System message cho GPT-4/Claude:
- Persona: "Bạn là trợ lý ảo của công ty X. Trả lời thân thiện, gọi khách 'anh/chị'."
- Knowledge boundary: "Chỉ trả lời dựa context dưới đây. Không tự đoán."
- Escalation rule: "Nếu không chắc, đề xuất khách liên hệ hotline + nhân viên."
- Tone: "Câu trả lời ngắn 2-4 câu, không lặp lại câu hỏi."
- Language: "Trả lời tiếng Việt, dù khách hỏi tiếng Anh."
Test 50-100 question sample, tweak prompt.
Bước 4: Iterate qua testing
- Soft launch 10% traffic: real users test.
- Log toàn bộ conversation.
- Weekly review: question nào AI sai? → expand knowledge base.
- Track accuracy + escalation rate.
- Sau 4-8 tuần iterate, accuracy lên 85-90%.
Common pitfalls
- Hallucination: AI tự bịa answer khi không biết → mitigate qua "không chắc, hỏi hotline".
- Tone inconsistent: AI lúc formal lúc casual → tighten persona prompt.
- Long response: AI viết essay 500 từ → constraint "max 100 words".
- Repeat question: AI lặp "Bạn hỏi về X, đây là answer X" → instruct không lặp.
Cost
- Setup + training: 30-80tr (vendor) hoặc 20 giờ in-house.
- Vector DB: 0-2tr/tháng.
- OpenAI API: $0.005-0.02/conversation. 1000 conv/ngày = $5-20/ngày = 3-15tr/tháng.
- Monitoring + iteration: 5-10tr/tháng.
Khi nào nên hire vendor vs in-house
- In-house nếu: có dev biết LLM API + 3-6 tháng time.
- Vendor nếu: cần launch trong 4-8 tuần, không có dev experience LLM.
Doanh nghiệp đang plan chatbot tiếng Việt? Alodev đã build cho 2 dự án. /lien-he
