Access Keys
Overview
Tổng quan
Access Key là khóa bí mật giúp nền tảng nhận ra bạn khi bạn dùng dịch vụ từ bên ngoài giao diện web: gọi API từ ứng dụng, hoặc làm việc từ terminal trên máy của bạn.
Mỗi key thuộc về một Project và chỉ dùng được trong Project đó.
Ba loại Access Key
Mỗi loại key chỉ dùng cho một việc. Hãy chọn đúng loại khi tạo, vì loại key không đổi được sau khi tạo.
| Loại key | Dùng để | Ví dụ |
|---|---|---|
| Serving Key | Gọi API của các endpoint trong Model Serving | Ứng dụng chatbot gọi mô hình bạn đã triển khai |
| CLI Key | Đăng nhập công cụ dòng lệnh (CLI) của nền tảng trên máy bạn. Hiện dùng để xem danh sách và SSH vào GPU VM | Mở terminal, đăng nhập CLI bằng key, rồi SSH vào máy GPU |
| Model as a Service Key | Gọi các mô hình đã chọn trong Model Catalog | Ứng dụng gọi mô hình cmc-llm-34b-instruct của MaaS |
Lưu ý khi chọn loại:
- Serving Key không SSH được vào GPU VM. Chỉ CLI Key làm được việc này.
- CLI Key chỉ xem được GPU VM và mở SSH. Nó không tạo, sửa hay xóa được tài nguyên nào.
- Model as a Service Key gắn với một hoặc nhiều mô hình chọn lúc tạo key, và chỉ gọi được các mô hình đó.
Trạng thái
| Trạng thái | Ý nghĩa | Bạn có thể |
|---|---|---|
Active | Key đang dùng được | Rotate, Revoke, Delete |
Expired | Đã quá ngày hết hạn, không dùng được nữa | Delete |
Revoked | Bạn đã thu hồi key, không dùng được nữa | Delete |
Key không đặt ngày hết hạn sẽ không bao giờ chuyển sang Expired.
Những điều cần nhớ
- Key chỉ hiển thị một lần khi tạo hoặc khi rotate. Sao chép và lưu ngay. Mất key thì phải rotate để lấy key mới.
- Không sửa được key. Tên, loại, mô hình và ngày hết hạn cố định sau khi tạo. Bạn chỉ có thể Rotate, Revoke hoặc Delete.
- Thu hồi hoặc xóa có hiệu lực sau khoảng 30 giây.
- Không đưa key vào mã nguồn hay chia sẻ công khai. Ai có key đều dùng được quyền của key đó.
Access Key khác Virtual Key thế nào?
Virtual Key thuộc AI Gateway, dùng để gọi các mô hình đã đăng ký trong AI Gateway. Access Key dùng cho Model Serving, CLI và MaaS. Hai loại key không dùng thay cho nhau được. Xem Virtual Key.