Khám phá Model Catalog
Model Catalog là gì?
Model Catalog là nơi liệt kê các mô hình MaaS bạn có thể dùng. Mỗi mô hình hiển thị nhãn Hosted by CMC, nghĩa là CMC đang triển khai và vận hành mô hình đó.
- Catalog chỉ hiển thị mô hình đang được cung cấp cho Tenant của bạn. Mô hình không còn được cung cấp sẽ biến mất khỏi Catalog và không gọi được nữa.
- Mọi Project trong cùng Tenant thấy cùng một danh sách mô hình.
Tìm mô hình
- Vào Model Catalog > Model Catalog.
- Thu hẹp danh sách bằng các công cụ phía trên:
Công cụ Cách dùng Search by name Gõ một phần tên mô hình, không phân biệt hoa thường Host Chọn nơi cung cấp mô hình. Hiện tại: CMC Model type Chọn một loại: LLM, VLM, TTS, Embedding, Reranker Order by Sắp xếp theo Most popular (mặc định, mô hình được xem nhiều nhất lên đầu), Name A-Z, Name Z-A, Recently created, Recently updated
Tìm kiếm và bộ lọc được áp dụng cùng lúc. Số mô hình phù hợp hiển thị phía trên danh sách, ví dụ16 models. - Bấm vào thẻ mô hình (hoặc View Details →) để xem chi tiết.
Nếu thấy No results found, bấm Clear filters để xóa tìm kiếm và bộ lọc. Nếu thấy No available models, Tenant của bạn hiện chưa được cung cấp mô hình nào.
Chọn Model type nào?
| Model type | Nhãn trên thẻ | Dùng khi bạn cần |
|---|---|---|
| LLM | Text generation | Hỏi đáp, chatbot, tóm tắt, viết nội dung, sinh code |
| VLM | Vision | Hiểu nội dung ảnh kèm văn bản |
| TTS | Text-to-speech | Chuyển văn bản thành giọng nói |
| Embedding | Embedding | Chuyển văn bản thành vector cho tìm kiếm ngữ nghĩa, RAG |
| Reranker | Reranking | Sắp xếp lại kết quả tìm kiếm theo mức độ liên quan |
Xem chi tiết mô hình
Đầu trang hiển thị tên mô hình, các nhãn và hai nút:
- Generate API Key: tạo key để gọi mô hình này. Xem Tạo API key và gọi mô hình.
- Test In Playground: thử mô hình ngay. Xem Thử mô hình trong Playground.
Hai nút này chỉ hiển thị khi bạn là thành viên của Project đang chọn và có quyền tương ứng.
Bấm Back để quay lại Model Catalog, kết quả tìm kiếm, bộ lọc và trang bạn đang xem vẫn được giữ.
Tab Overview
Cho bạn biết mô hình làm được gì:
| Thông tin | Ý nghĩa |
|---|---|
| Mô tả và Best for | Mô hình làm gì và phù hợp nhất với tình huống nào |
| Model code | Mã dùng khi gọi API |
| Model name | Tên mô hình |
| Provider | Nhà cung cấp, ví dụ CMC |
| Context length | Số token tối đa cho một lần gọi, ví dụ 32K |
| Max tokens | Số token tối đa mô hình trả về |
| Language | Ngôn ngữ mô hình hỗ trợ |
| Data residency | Nơi dữ liệu được xử lý, ví dụ Vietnam |
Thông tin nào chưa có sẽ hiển thị -.
Tab Inference API
Có sẵn code mẫu để gọi mô hình:
- Chọn ngôn ngữ: cURL (mặc định), Python hoặc Nodejs.
- Xem Sample input (request mẫu) và Sample output (kết quả mẫu).
- Bấm biểu tượng copy để sao chép.
Code mẫu đã có sẵn địa chỉ API và model code của mô hình, đúng với loại mô hình (ví dụ: LLM dùng chat completion). Bạn chỉ cần thay your-api-key bằng key của mình.
Tab Rate limit
Hiển thị giới hạn cho mỗi API key khi dùng mô hình này, theo gói hiện tại của Tenant:
- Requests per minute (RPM)
- Tokens per minute (TPM)
- Max concurrent requests
Giới hạn do gói dịch vụ quyết định, bạn không tự chỉnh được. Giá trị - nghĩa là gói không đặt giới hạn đó.
Pricing
Khung Pricing luôn hiển thị bên cạnh cả ba tab, giá tính bằng $ trên 1 triệu token:
| Loại | Tính cho |
|---|---|
| Input | Token bạn gửi lên |
| Output | Token mô hình trả về |
| Cached | Token đầu vào được lấy lại từ bộ nhớ đệm |
Cách tính: chi phí mỗi loại = số token ÷ 1.000.000 × giá của loại đó. Chi phí request là tổng của ba loại.
Ví dụ: Giá Input 1.5. Một request gửi 2.000 token và nhận về 500 token tốn khoảng 2.000 ÷ 1.000.000 × 0.5 + 500 ÷ 1.000.000 × 1.5 = $0.00175.
Related models
Cuối trang gợi ý tối đa 6 mô hình khác, ưu tiên mô hình cùng loại, để bạn so sánh.