⚡ TLDR
- Giải quyết: Sự phụ thuộc hoàn toàn vào internet để truy cập kiến thức và AI.
- Tại sao quan trọng: Khi đứt cáp hoặc mất điện, đống thiết bị thông minh giá ngàn đô bỗng thành cục gạch.
- Dành cho: Dân tự build server, người thích dự phòng, hoặc đơn giản là ghét bị theo dõi.
- Khác biệt: Gom tất cả công cụ xịn (Ollama, Kiwix, Kolibri) vào một “Trung tâm chỉ huy” duy nhất.
- Ví dụ: Chat với AI cục bộ để tra cứu Wikipedia (100GB data offline) ngay cả khi thế giới bên ngoài đang mất kết nối.
Cái lô cốt tri thức
Có lần tôi ngồi quán cà phê ở Local Beans, đang cần tra gấp cách fix cái lỗi CSS quái đản thì mạng rớt. Cả quán nhìn nhau trân trối, mấy đứa gen Z ngồi cạnh bỗng nhiên không biết phải làm gì với cái MacBook Pro mới coóng.
Chúng ta xài mạng như hít oxy, nghĩ nó là hiển nhiên. Cho tới khi cái cáp quang dưới biển bị mập cắn, hoặc đơn giản là cục modem ở nhà bốc khói, mình bỗng thấy mình… thiếu năng lực hành vi dân sự.
Project N.O.M.A.D. giống như một cái ngân hàng hạt giống kỹ thuật số. Người ta xây hầm chứa hạt giống để lỡ mùa màng thất bát thì còn có cái mà gieo lại. N.O.M.A.D. làm chuyện đó với kiến thức. Nó là một cái server nằm gọn trong một cái thùng máy dưới chân bàn, chẳng liên quan gì tới mấy cái server farm bên Mỹ.
Nó là một cái “lô cốt”. Bạn xây nó không phải vì tin rằng ngày mai thế giới sẽ tận thế. Bạn xây nó vì bạn muốn biết chắc rằng, nếu cái dây cáp bị cắt, cái não của mình không cần phải “offline” theo.
Điều tra: Bên trong lô cốt có gì?
N.O.M.A.D. không phải là một phần mềm đơn lẻ. Nó là một tay điều phối. Nó dùng Docker để lôi kéo một đám “đệ tử” chuyên trách, mỗi đứa giữ một mảng của văn minh nhân loại.
| |
Cái hay của nó là giao diện “Command Center”. Bạn không cần phải là một sysadmin kỳ cựu mới cài được Wikipedia. Chỉ cần nhấn nút, nó tự lo hết.
Thứ làm tôi bất ngờ không phải là đống file ZIM (Wikipedia, tài liệu y tế, sinh tồn…), mà là cách nó nhồi Ollama vào. N.O.M.A.D. dựng một cái AI (LLM) chạy ngay trên máy bạn, kết hợp với Qdrant để tìm kiếm ngữ nghĩa. Bạn quăng mống PDF của mình vào lô cốt, cái AI cục bộ sẽ “đọc” và trả lời cho bạn.
Không bị theo dõi. Không cần đăng ký. Không có mấy cái “Safety Guidelines” tếu táo của mấy ông nội ở Silicon Valley. Chỉ có bạn và đống card đồ họa của bạn thôi.
Chẩn bệnh: Cái giá của sự tự do
Dự án này quảng cáo là nhẹ, và cái giao diện quản lý thì đúng là nhẹ thiệt. Nhưng cái lô cốt mà không có lương thực thì cũng chỉ là cái phòng trống.
Nếu bạn muốn cái AI chat mượt mà như người yêu cũ nhắn tin đòi nợ, bạn cần phần cứng khủng. Trong bảng “Optimal Specs”, người ta đòi Ryzen 7, RTX 3060 và 32GB RAM.
Không có GPU, cái AI đó chỉ để làm cảnh. Có GPU, nó mới thực sự là một thủ thư mẫn cán.
N.O.M.A.D. có một lựa chọn khá tỉnh táo: thà bỏ rơi mấy cái máy Raspberry Pi yếu ớt để đổi lấy một hệ thống thực sự xài được. Đa số mấy dự án offline khác cố tối ưu cho máy yếu, kết quả là mở trang Wikipedia mất 10 giây. N.O.M.A.D. mặc định là bạn có một cái máy ra hồn, và bù lại, nó cho bạn trải nghiệm như đang xài internet thiệt.
Giải pháp: Tuyên ngôn độc lập
Cái này không dành cho tất cả mọi người. Nếu bạn sống ở nơi cáp quang 1Gbps chạy phà phà và không bao giờ rời khỏi cái bàn làm việc, N.O.M.A.D. chỉ là một cách tốn ổ cứng một cách nghệ thuật.
Nhưng với những ai hay đi xa, những người nghiên cứu, hoặc đơn giản là những người ghét cảm giác kiến thức của mình đang được “cho thuê” bởi mấy ông trùm công nghệ, thì đây là một sự khai sáng.
Để bắt đầu, chỉ cần một máy chạy Ubuntu và một dòng lệnh duy nhất:
| |
Cảnh báo nhỏ: setup thì dễ, nhưng lúc tải đống “gói nội dung” (Wikipedia cả trăm GB đó) thì mạng phải ngon nha. Hãy làm lúc mạng còn đang chạy bình thường.
Xong xuôi rồi thì cứ việc rút dây mạng. Mùa màng bên ngoài có thất bát thế nào, thì trong lô cốt của bạn, những hạt giống tri thức đã bắt đầu nảy mầm rồi.
