Model Catalog

Tạo API key và gọi mô hình

MaaS key là gì?

Để gọi mô hình MaaS từ ứng dụng, bạn cần một access key loại Model as a Service Key (gọi tắt là MaaS key).

  • Một MaaS key gắn với một hoặc nhiều mô hình do bạn chọn khi tạo key, và chỉ gọi được các mô hình đó. Danh sách mô hình không đổi được sau khi tạo key.
  • Key thuộc về Project đang chọn.
  • MaaS key khác Virtual Key của AI Gateway. Nếu muốn thêm Guardrail, MCP Server hoặc đặt ngân sách theo từng key, hãy đưa mô hình vào AI Gateway.

Ai có key đều có thể gọi mô hình và tiêu hạn mức của Tenant. Không đưa key vào mã nguồn hay chia sẻ công khai.

Tạo MaaS key

Điều kiện: bạn là thành viên của Project đang chọn và có quyền tạo access key.

  1. Vào Model Catalog > Model Catalog, mở mô hình muốn dùng.
  2. Bấm Generate API Key. Form tạo key mở ra, đã điền sẵn loại key và mô hình.
  3. Kiểm tra và điền thông tin:
    TrườngBắt buộcMô tả
    Project—Project đang chọn, không đổi được
    Key NameCó1–64 ký tự: chữ thường a–z, số 0–9, _, -; không bắt đầu bằng số; không trùng tên key khác trong Project. Ví dụ: chatbot_prod
    Key TypeCóĐã chọn sẵn Model as a Service Key. Giữ nguyên
    Select ModelCó, ít nhất 1Đã chọn sẵn mô hình bạn vừa xem. Mở danh sách để chọn thêm mô hình khác, hoặc bấm x trên mô hình để bỏ chọn
    Expiration DateKhông7 days, 30 days, 90 days (tính từ lúc tạo) hoặc chọn một ngày sau hôm nay (key hết hạn vào cuối ngày đó). Để trống: key không hết hạn
  4. Bấm Generate. Nút chỉ bật khi tất cả thông tin hợp lệ.
  5. Sao chép key ngay và lưu ở nơi an toàn.

⚠️ Quan trọng: Key đầy đủ chỉ hiển thị một lần duy nhất, ngay sau khi tạo. Sau khi đóng, key bị che và không xem lại được. Nếu làm mất, hãy tạo key mới và cập nhật vào ứng dụng.

Bấm Cancel để quay lại trang mô hình mà không tạo key. Bạn có thể xem các key đã tạo tại Configuration > Access keys.

Gợi ý:

  • Dùng mỗi ứng dụng một key để dễ theo dõi và thu hồi riêng.
  • Đặt thời hạn cho key dùng thử hoặc key tạm thời.

Gọi mô hình

  1. Mở mô hình trong Model Catalog, chọn tab Inference API.
  2. Chọn ngôn ngữ cURL, Python hoặc Nodejs, bấm copy ở Sample input.
  3. Thay your-api-key bằng MaaS key có chứa mô hình đó.
  4. Chạy thử. Kết quả trả về có dạng giống Sample output.

Nên lưu key trong biến môi trường thay vì ghi thẳng vào code, ví dụ:

export MAAS_API_KEY="<key-của-bạn>"

Giới hạn khi gọi

  • Giới hạn tốc độ: RPM, TPM và số request đồng thời áp dụng riêng cho từng key. Xem ở tab Rate limit của mô hình.
  • Hạn mức chi phí: mọi request (qua API, Playground hay AI Gateway) đều tính vào cùng một hạn mức chi phí MaaS của Tenant. Khi hạn mức dùng hết, request bị từ chối cho đến kỳ reset.

logo
CMC Telecom
Aspire to Inspire the Digital World