1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17

┌──────────────────────────────────────────────────────────────┐
│                     Khoj Clients                             │
│  Web App │ Plugin Obsidian │ Package Emacs │ Phone │ WhatsApp │
└─────────────────────────┬────────────────────────────────────┘
                          │ REST / WebSocket API
┌─────────────────────────▼────────────────────────────────────┐
│                   Khoj Server (FastAPI)                      │
│  ┌─────────────┐  ┌──────────────┐  ┌──────────────────────┐ │
│  │  Pipeline   │  │  Router Chat │  │   Engine Agent       │ │
│  │  Indexing   │  │              │  │  (Tool + Planner)    │ │
│  └──────┬──────┘  └──────┬───────┘  └──────────────────────┘ │
└─────────┼────────────────┼────────────────────────────────────┘
          │                │
┌─────────▼──────┐  ┌──────▼──────────────────────────────────┐
│  Vector Store  │  │         LLM Adapters                     │
│  (embeddings)  │  │  OpenAI │ Anthropic │ Google │ Ollama    │
└────────────────┘  └─────────────────────────────────────────┘

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16

# src/khoj/processor/conversation/anthropic/anthropic_chat.py
async def converse_anthropic(
    messages: List[ChatMessage],
    model: Optional[str] = "claude-3-7-sonnet-latest",
    api_key: Optional[str] = None,
    deepthought: Optional[bool] = False,
    tracer: dict = {},
) -> AsyncGenerator[ResponseWithThought, None]:
    """Trò chuyện với người dùng dùng Claude của Anthropic"""
    async for chunk in anthropic_chat_completion_with_backoff(
        messages=messages,
        model_name=model,
        temperature=0.2,
        ...
    ):
        yield chunk

1
2
3
4

# Đồng bộ thư mục tài liệu local
khoj --content-file /path/to/research/

# Hoặc qua web UI: Settings → Files → Upload

1
2
3
4
5
6

Settings → Agents → Create Agent
- Name: "Python Code Reviewer"
- Model: Llama 3.1 70B (local via Ollama)
- Knowledge Base: tài liệu codebase nội bộ của công ty
- Tools: Web Search, Code Execution
- Persona: "Bạn là senior engineer nghiêm khắc. Review code về bảo mật và độ chính xác."

1
2
3
4
5

# Chạy Llama 3 local qua Ollama
ollama run llama3.1

# Trỏ Khoj vào đó
# Trong Khoj UI → Chat Models → Add Model → host: http://localhost:11434

1
2
3
4
5
6
7

mkdir ~/.khoj && cd ~/.khoj

# Tải file compose chính thức
wget https://raw.githubusercontent.com/khoj-ai/khoj/master/docker-compose.yml

# Khởi động
docker-compose up -d

1
2
3
4
5

# Cài đặt với hỗ trợ LLM local (llama-cpp-python)
python -m pip install 'khoj[local]'

# Khởi động server
khoj

1
2
3
4
5

# NVIDIA CUDA
CMAKE_ARGS="-DGGML_CUDA=on" FORCE_CMAKE=1 python -m pip install 'khoj[local]'

# Apple M1/M2/M3
CMAKE_ARGS="-DGGML_METAL=on" python -m pip install 'khoj[local]'

1

khoj --content-file ~/notes/ --content-file ~/research/*.pdf

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25

┌────────────────────────────────────────────────────────────┐
│                          Khoj                              │
│                                                            │
│  "Bộ não AI thứ hai mã nguồn mở của bạn"                  │
│                                                            │
│  Khoj LÀ:                                                  │
│  → Ứng dụng AI cá nhân tự cài được (FastAPI + Python)      │
│  → Router LLM-agnostic (GPT, Claude, Gemini, Ollama)       │
│  → Pipeline RAG trên TÀI LIỆU CỦA BẠN                     │
│  → Trình xây dựng agent với kiến thức + công cụ tùy chỉnh │
│                                                            │
│  Khoj GIẢI QUYẾT:                                          │
│  → Kiến thức rải rác qua file, app và công cụ              │
│  → Phụ thuộc vào dịch vụ AI đóng, chỉ trên cloud          │
│  → Quyền riêng tư: dữ liệu ở trên máy bạn nếu bạn muốn   │
│                                                            │
│  Khoj KÍCH HOẠT:                                           │
│  → Chat với hàng ngàn tài liệu của riêng bạn              │
│  → LLM local (Llama, Qwen, DeepSeek) qua Ollama            │
│  → Agent tự động nghiên cứu và gửi newsletter              │
│  → Đa nền tảng: Web, Obsidian, Emacs, Phone, WhatsApp      │
│                                                            │
│  Self-host: pip install khoj | docker-compose up           │
│  Cloud: app.khoj.dev (có gói miễn phí)                    │
└────────────────────────────────────────────────────────────┘