Model Catalog
Tạo API key và gọi mô hình
MaaS key là gì?
Để gọi mô hình MaaS từ ứng dụng, bạn cần một access key loại Model as a Service Key (gọi tắt là MaaS key).
- Một MaaS key gắn với một hoặc nhiều mô hình do bạn chọn khi tạo key, và chỉ gọi được các mô hình đó. Danh sách mô hình không đổi được sau khi tạo key.
- Key thuộc về Project đang chọn.
- MaaS key khác Virtual Key của AI Gateway. Nếu muốn thêm Guardrail, MCP Server hoặc đặt ngân sách theo từng key, hãy đưa mô hình vào AI Gateway.
Ai có key đều có thể gọi mô hình và tiêu hạn mức của Tenant. Không đưa key vào mã nguồn hay chia sẻ công khai.
Tạo MaaS key
Điều kiện: bạn là thành viên của Project đang chọn và có quyền tạo access key.
- Vào Model Catalog > Model Catalog, mở mô hình muốn dùng.
- Bấm Generate API Key. Form tạo key mở ra, đã điền sẵn loại key và mô hình.
- Kiểm tra và điền thông tin:
Trường Bắt buộc Mô tả Project — Project đang chọn, không đổi được Key Name Có 1–64 ký tự: chữ thường a–z, số 0–9, _,-; không bắt đầu bằng số; không trùng tên key khác trong Project. Ví dụ:chatbot_prodKey Type Có Đã chọn sẵn Model as a Service Key. Giữ nguyên Select Model Có, ít nhất 1 Đã chọn sẵn mô hình bạn vừa xem. Mở danh sách để chọn thêm mô hình khác, hoặc bấm xtrên mô hình để bỏ chọnExpiration Date Không 7 days, 30 days, 90 days (tính từ lúc tạo) hoặc chọn một ngày sau hôm nay (key hết hạn vào cuối ngày đó). Để trống: key không hết hạn - Bấm Generate. Nút chỉ bật khi tất cả thông tin hợp lệ.
- Sao chép key ngay và lưu ở nơi an toàn.
⚠️ Quan trọng: Key đầy đủ chỉ hiển thị một lần duy nhất, ngay sau khi tạo. Sau khi đóng, key bị che và không xem lại được. Nếu làm mất, hãy tạo key mới và cập nhật vào ứng dụng.
Bấm Cancel để quay lại trang mô hình mà không tạo key. Bạn có thể xem các key đã tạo tại Configuration > Access keys.
Gợi ý:
- Dùng mỗi ứng dụng một key để dễ theo dõi và thu hồi riêng.
- Đặt thời hạn cho key dùng thử hoặc key tạm thời.
Gọi mô hình
- Mở mô hình trong Model Catalog, chọn tab Inference API.
- Chọn ngôn ngữ cURL, Python hoặc Nodejs, bấm copy ở Sample input.
- Thay
your-api-keybằng MaaS key có chứa mô hình đó. - Chạy thử. Kết quả trả về có dạng giống Sample output.
Nên lưu key trong biến môi trường thay vì ghi thẳng vào code, ví dụ:
export MAAS_API_KEY="<key-của-bạn>"
Giới hạn khi gọi
- Giới hạn tốc độ: RPM, TPM và số request đồng thời áp dụng riêng cho từng key. Xem ở tab Rate limit của mô hình.
- Hạn mức chi phí: mọi request (qua API, Playground hay AI Gateway) đều tính vào cùng một hạn mức chi phí MaaS của Tenant. Khi hạn mức dùng hết, request bị từ chối cho đến kỳ reset.