1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15

User: "Giá dịch vụ Enterprise là bao nhiêu?"
         │
         ▼
[1. Retriever]: Tìm kiếm kho tài liệu của bạn
         │   → tìm thấy bang_gia_2026.pdf, enterprise_FAQ.md
         ▼
[2. Augment]: Nhúng tài liệu vào prompt của LLM:
    "Đây là thông tin liên quan: [nội dung bang_gia_2026.pdf]...
     Bây giờ hãy trả lời: Giá Enterprise là bao nhiêu?"
         │
         ▼
[3. Generate]: LLM trả lời DỰA TRÊN tài liệu thực
         │
         ▼
Kết quả: "Gói Enterprise bắt đầu từ $999/tháng (Nguồn: bang_gia_2026.pdf)"

 1
 2
 3
 4
 5
 6
 7
 8
 9
10

from langchain.text_splitter import RecursiveCharacterTextSplitter

splitter = RecursiveCharacterTextSplitter(
    chunk_size=512,        # ~512 token mỗi chunk
    chunk_overlap=50,      # 50 token chồng lấn để tránh cắt ngang câu
    separators=["\n\n", "\n", ". ", " "]  # Cắt tại ranh giới tự nhiên
)

chunks = splitter.split_text(document_text)
# Kết quả: ["Chính sách hoàn tiền quy định...", "Với gói Enterprise...", ...]

 1
 2
 3
 4
 5
 6
 7
 8
 9
10

from openai import OpenAI

client = OpenAI()

def embed(text: str) -> list[float]:
    response = client.embeddings.create(
        model="text-embedding-3-small",
        input=text
    )
    return response.data[0].embedding  # [0.23, -0.87, 0.12, ...] (1536 chiều)

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17

import chromadb

client = chromadb.Client()
collection = client.create_collection("tai_lieu_cong_ty")

# Index tài liệu
collection.add(
    documents=chunks,
    embeddings=[embed(c) for c in chunks],
    ids=[f"chunk_{i}" for i in range(len(chunks))]
)

# Query: tìm chunk liên quan nhất cho câu hỏi
results = collection.query(
    query_embeddings=[embed("Chính sách hoàn tiền là gì?")],
    n_results=3  # Top 3 chunk tương đồng nhất
)

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33

from openai import OpenAI
import chromadb

client = OpenAI()
db = chromadb.Client()
collection = db.get_collection("tai_lieu_cong_ty")

SYSTEM_PROMPT = """Bạn là trợ lý của Công ty Acme.
Chỉ trả lời câu hỏi dựa trên context được cung cấp.
Nếu câu trả lời không có trong context, hãy nói "Tôi không có thông tin này."
Luôn trích dẫn nguồn."""

def rag_query(question: str) -> str:
    # 1. Tìm chunk liên quan
    results = collection.query(
        query_embeddings=[embed(question)],
        n_results=3
    )
    context = "\n\n---\n\n".join(results["documents"][0])
    
    # 2. Bổ sung context vào prompt
    messages = [
        {"role": "system", "content": SYSTEM_PROMPT},
        {"role": "user", "content": f"Context:\n{context}\n\nCâu hỏi: {question}"}
    ]
    
    # 3. Tạo câu trả lời có cơ sở
    response = client.chat.completions.create(
        model="gpt-4o",
        messages=messages,
        temperature=0  # Nhiệt độ thấp = thực tế hơn, ít sáng tạo hơn
    )
    return response.choices[0].message.content

1
2
3
4
5
6
7
8
9

from sentence_transformers import CrossEncoder

reranker = CrossEncoder("cross-encoder/ms-marco-MiniLM-L-6-v2")

def rerank(question: str, chunks: list[str], top_k: int = 2) -> list[str]:
    pairs = [(question, chunk) for chunk in chunks]
    scores = reranker.predict(pairs)
    ranked = sorted(zip(scores, chunks), reverse=True)
    return [chunk for _, chunk in ranked[:top_k]]

 1
 2
 3
 4
 5
 6
 7
 8
 9
10

LLM đơn thuần -> Thực tập sinh Quá tự tin. Thông minh nhưng bịa chuyện.
RAG            -> Thực tập sinh + Thủ thư. Có cơ sở, có nguồn trích dẫn, chính xác.

Chunking    -> Chia thư viện thành các flashcard.
Embedding   -> Chuyển nội dung flashcard thành tọa độ bản đồ.
Vector DB   -> Cái bản đồ. "Tìm tất cả tọa độ gần câu hỏi này."
Reranking   -> Chuyên gia thứ hai đọc 10 ứng viên và chọn ra 2 tốt nhất.

temperature=0 -> "Hãy là luật sư. Chỉ nói sự thật."
temperature=1 -> "Hãy là nhà thơ. Hãy sáng tạo."