Open WebUI

 Đúng rồi, đây chính là giao diện Ollama App chạy offline. Nếu bạn mở được như hình thì đã cài thành công.

Để sử dụng offline hoàn toàn, bạn làm như sau:

Bước 1. Tải model một lần (cần Internet)

Ví dụ:

ollama pull gemma2:2b

hoặc

ollama pull qwen3:8b

hoặc

ollama pull gemma3:4b

Sau khi tải xong, model sẽ được lưu trên máy.

---

Bước 2. Ngắt Internet

Bạn có thể:

• Rút dây mạng.
• Tắt Wi-Fi.
• Hoặc Disable card mạng.

Sau đó mở lại Ollama App.

Nếu model đã tải sẵn thì vẫn chat bình thường.

---

Bước 3. Chọn model

Ở góc dưới bên phải (như ảnh của bạn) chọn:

gemma2:2b

hoặc model khác đã tải.

Nếu chưa có model:

Settings → Models

hoặc dùng lệnh

ollama list

để xem các model đã có.

---

Nếu muốn AI mạnh hơn

Với máy RAM 16GB:

• ✅ gemma3:4b (khuyên dùng)
• ✅ qwen3:8b (thông minh hơn nhưng nặng hơn)
• ✅ llama3.1:8b

Nếu RAM 32GB trở lên:

• qwen3:14b
• gemma3:12b

---

Nếu bạn muốn giống ChatGPT

Có hai cách:

1. Ollama App (giao diện như ảnh của bạn).
2. Open WebUI (đẹp hơn, giống ChatGPT, chạy offline 100%).

Open WebUI kết nối trực tiếp với Ollama và có các tính năng như:

• Lưu lịch sử.
• Tạo nhiều cuộc trò chuyện.
• Upload PDF, Word, Excel.
• Hỗ trợ AI Agent.
• Giao diện gần giống ChatGPT.

Với mục tiêu trước đây của bạn là xây dựng AI Agent offline để đọc Word, Excel, PDF và hỗ trợ công việc tự động hóa, mình khuyên nên dùng Ollama + Open WebUI thay vì chỉ dùng Ollama App. Giao diện sẽ đẹp và đầy đủ tính năng hơn, nhưng vẫn chạy hoàn toàn trên máy của bạn, không cần Internet sau khi đã tải model.

Ollama + Open WebUI cài như nào

Hoàn toàn được. Vì trước đó bạn muốn xây dựng AI Agent offline trên Windows, mình khuyên cài theo cách không dùng Docker. Cách này đơn giản hơn nhiều và chạy tốt trên Windows 10/11.

Kiến trúc

            Open WebUI (Giao diện giống ChatGPT)
                      │
            http://localhost:3000
                      │
                      ▼
               Ollama (AI Engine)
            http://localhost:11434
                      │
                      ▼
          Gemma / Qwen / Llama...

---

Bước 1. Cài Ollama

Bạn đã cài xong rồi.

Kiểm tra:

ollama -v

Kiểm tra server:

ollama serve

Nếu báo

Error: listen tcp 127.0.0.1:11434: address already in use

thì nghĩa là Ollama đang chạy.

---

Bước 2. Tải model

Ví dụ:

ollama pull gemma3:4b

hoặc

ollama pull qwen3:8b

Xem danh sách:

ollama list

---

Bước 3. Cài Python

Bạn đang dùng Python 3.11 nên không cần cài lại.

---

Bước 4. Cài Open WebUI

Mở CMD:

"%AppData%\..\Local\Programs\Python\Python311\python.exe" -m pip install open-webui

---

Bước 5. Khởi động Open WebUI

open-webui serve

Hoặc

python -m open_webui serve

Sau đó mở trình duyệt:

http://localhost:8080

Lần đầu sẽ yêu cầu tạo tài khoản Admin.

---

Nếu lệnh trên không chạy

Thử:

python -m open_webui

---

Bước 6. Kết nối Ollama

Trong Open WebUI

Settings
    ↓
Connections
    ↓
Ollama URL

Nhập

http://localhost:11434

Lưu lại.

Sau đó sẽ thấy

gemma3:4b
qwen3:8b
...

---

Bước 7. Chat Offline

Từ giờ chỉ cần chạy

Ollama

và

Open WebUI

Không cần Internet.

---

Nếu muốn AI Agent

Open WebUI hỗ trợ:

• ✅ Upload PDF
• ✅ Upload Word
• ✅ Upload Excel
• ✅ Kéo thả ảnh
• ✅ RAG
• ✅ AI Agent
• ✅ Tìm kiếm tài liệu
• ✅ Nhiều người dùng
• ✅ Giao diện giống ChatGPT

---

Mình có một lựa chọn còn tốt hơn

Thay vì cài bằng pip, mình khuyên cài Open WebUI bằng file cài đặt (.exe) trên Windows. Cách này:

• Không cần Docker.
• Không cần chạy lệnh mỗi lần mở máy.
• Có biểu tượng trên Desktop và Start Menu.
• Khởi động nhanh, ít lỗi hơn.

Đây là cách mình thường khuyên cho người dùng Windows muốn dùng lâu dài. Nếu muốn, mình sẽ hướng dẫn từng bước cài Open WebUI Desktop + Ollama để có giao diện gần như ChatGPT và chạy offline hoàn toàn.

Open WebUI xin xò hơn app ollama ak

Có. Nếu chỉ xét về giao diện và tính năng, thì Open WebUI "xịn" hơn Ollama App khá nhiều.

Đây là so sánh nhanh:

Tính năng	Ollama App	Open WebUI
Giao diện	⭐⭐⭐	⭐⭐⭐⭐⭐
Giống ChatGPT	⭐⭐⭐	⭐⭐⭐⭐⭐
Quản lý nhiều cuộc chat	✅	✅ (tốt hơn)
Upload PDF	❌ (rất hạn chế)	✅
Upload Word	❌	✅
Upload Excel	❌	✅
Kéo thả ảnh	❌	✅
RAG (hỏi đáp tài liệu)	❌	✅
AI Agent	❌	✅
Tìm kiếm tài liệu	❌	✅
Nhiều người dùng	❌	✅
Chạy Offline	✅	✅

Giao diện

Ollama App

• Đơn giản.
• Chỉ để chat với model.
• Rất ít tùy chỉnh.

Open WebUI

• Gần như ChatGPT.
• Sidebar đẹp.
• Có thư viện tài liệu.
• Có khu vực quản lý model.
• Có cài đặt chi tiết.
• Hỗ trợ nhiều cuộc hội thoại và nhiều tính năng nâng cao.

---

Với nhu cầu của bạn

Bạn từng nói muốn xây dựng AI để:

• Đọc Word.
• Đọc Excel.
• Đọc PDF.
• Hỗ trợ lập trình Python.
• Hỗ trợ PLC/SCADA/ThingsBoard.
• Làm AI Agent offline.

Thì Ollama App sẽ nhanh chóng bị giới hạn.

Open WebUI lại phù hợp hơn vì có thể:

• Upload tài liệu để AI phân tích.
• Kết hợp RAG để AI trả lời dựa trên tài liệu của bạn.
• Dễ mở rộng thành trợ lý nội bộ.

Có nên bỏ hẳn Ollama App không?

Không cần.

Thông thường sẽ dùng như sau:

Ollama (AI Engine)
        ↓
Open WebUI (Giao diện)

• Ollama chỉ làm nhiệm vụ chạy model AI.
• Open WebUI là giao diện để bạn sử dụng model đó.

Đây cũng là cách triển khai phổ biến khi chạy AI cục bộ.

Mình khuyên

Với định hướng của bạn là làm AI Agent offline cho công việc kỹ thuật, mình sẽ chọn:

• Ollama → chạy model.
• Open WebUI → giao diện chính.
• Model: qwen3:8b hoặc gemma3:4b.

Bộ này chạy hoàn toàn offline sau khi tải model, dễ mở rộng và phù hợp để phát triển thêm các tính năng đọc tài liệu, tra cứu và tự động hóa.

Nội dung chính