Notebook
Khởi tạo, cấu hình tài nguyên MLFLow.
Giới thiệu
MLflow Deployment cho phép bạn triển khai model Machine Learning thành REST API endpoint để phục vụ inference trong môi trường production.
Người dùng có thể:
- Tạo endpoint phục vụ model
- Theo dõi trạng thái deployment
- Lấy thông tin cấu hình và endpoint
- Xóa deployment khi không sử dụng
Điều kiện tiên quyết
Trước khi sử dụng MLflow:
- Đã đăng nhập hệ thống
- Có quyền truy cập vào Project và policy MLFlow
- Có model hoặc pipeline MLflow cần deploy
Các bước thực hiện khởi tạo MLflow
- Đăng nhập vào hệ thống DataForge bằng tài khoản có quyền với MLFlow.
- Tại menu bên trái, chọn Deployments
- Chọn tab MLFlow. Hệ thống hiển thị danh sách các MLflow Deployment hiện có
Thông tin hiển thị
| Trường | Mô tả |
|---|---|
| Name | Tên deployment |
| Status | Trạng thái hoạt động |
| Resource Size | Cấu hình tài nguyên |
| Access | Deep link vào MLflow UI |
| Created At | Thời gian tạo |
| Actions | Thao tác |
- Nhấn Create MLFlow
- Nhập thông tin cấu hình
Basic Information
| Trường | Bắt buộc | Mô tả |
|---|---|---|
| Project | ✔ | Project sử dụng |
| Deployment Name | ✔ | Tên deployment |
Quy tắc đặt tên:
- Chỉ gồm: chữ cái, số
- Cho phép:
_và- - Không chứa khoảng trắng
- Không viết hoa
Resource Configuration
| Trường | Bắt buộc | Mô tả |
|---|---|---|
| Resource Size | ✔ | Cấu hình tài nguyên |
Ví dụ:
- Small (2 CPU, 4Gi Memory, 15Gi Storage)
- Medium (4 CPU, 8Gi Memory, 40Gi Storage)
- Large (8 CPU, 16Gi Memory, 100Gi Storage)
- Nhấn Create
- Kết quả
- Deployment được tạo với trạng thái ban đầu:
- Pending
- Sau khi khởi tạo thành công:
- Running
Các use case khác
Xem chi tiết Deployment
Các bước
- Click vào deployment trong danh sách
Thông tin hiển thị
- Basic Information
| Trường | Mô tả |
|---|---|
| Name | Tên deployment |
| Status | Trạng thái |
| Created At | Thời gian tạo |
- Resource Configuration
| Trường | Mô tả |
|---|---|
| Resource Size | Loại cấu hình |
| CPU | Số CPU |
| Memory | Dung lượng RAM |
| Storage | Dung lượng lưu trữ |
- Code in use
| Trường | Mô tả |
|---|---|
| Tracking URI | Endpoint MLflow |
| Python Example | Đoạn code sử dụng để kết nối Notebook với MLflow |