Ollama = phần mềm chạy mô hình AI. Qwen2.5-3B = mô hình AI (bộ não).
Đây là điểm nhiều người mới bắt đầu bị nhầm. Thực ra Ollama và Qwen là hai thứ khác nhau.
Hình dung đơn giản
Giống như:
- VLC Media Player = phần mềm mở video.
- File phim (.mp4) = nội dung video.
Bạn phải có cả hai.
Tương tự với AI:
- Ollama = phần mềm chạy mô hình AI.
- Qwen2.5-3B = mô hình AI (bộ não).
Ví dụ
Bạn cài:
Ollama
Nó giống như cài:
Python
Nhưng cài Python xong chưa có chương trình của bạn.
Bạn còn phải viết:
print("Hello")
AI cũng vậy.
Ollama là gì?
Ollama chỉ là phần mềm quản lý và chạy mô hình AI.
Nó có nhiệm vụ:
- Download model
- Quản lý model
- Chạy model
- Cho Python gọi model
Ví dụ:
ollama pull qwen2.5:3b
Nghĩa là:
Ollama hãy tải mô hình Qwen2.5-3B về.
Qwen2.5-3B là gì?
Đây mới là AI.
Giống như:
ChatGPT Gemini Claude DeepSeek
đều là các mô hình AI.
Qwen cũng vậy.
Mối quan hệ
Ollama │ ├── Qwen2.5-3B ├── Qwen2.5-7B ├── Llama3.2 ├── DeepSeek ├── Gemma └── Mistral
Một Ollama có thể chứa nhiều mô hình.
Ví dụ:
ollama list
có thể hiện:
qwen2.5:3b llama3.2:3b deepseek-r1:7b gemma3
Flask gọi ai?
Không gọi trực tiếp Qwen.
Flask gọi Ollama.
Ollama mới gọi Qwen.
Flask ↓ Ollama ↓ Qwen ↓ Trả lời ↓ Flask
Sau này đổi AI rất dễ
Ví dụ hôm nay:
Qwen2.5-3B
Mai muốn dùng
DeepSeek
Chỉ cần đổi model:
model="deepseek-r1:7b"
Toàn bộ Flask của bạn không phải viết lại.
Với dự án HRM của bạn
Mình sẽ thiết kế như sau:
Flask HRM │ ▼ AI Assistant (Python) │ ▼ Ollama │ ┌──────┼────────┐ ▼ ▼ ▼ Qwen Llama DeepSeek │ ▼ PostgreSQL
Nhờ kiến trúc này, nếu sau này có mô hình mới tốt hơn, bạn chỉ cần thay model mà không phải thay toàn bộ AI Assistant hay phần mềm HRM. Đây cũng là lý do Ollama được nhiều người dùng khi xây dựng AI chạy cục bộ.
