Giới thiệu

Playground là một giao diện tương tác trực quan cho phép người dùng thử nghiệm nhanh khả năng của các mô hình AI đã được cấu hình trong AI Gateway mà không cần viết mã nguồn. Đây là công cụ hữu ích để kiểm tra phản hồi của mô hình, tinh chỉnh prompt và xác định cấu hình phù hợp trước khi tích hợp vào ứng dụng thực tế.

Điều kiện tiên quyết

• Bạn đã đăng nhập vào hệ thống
• Bạn có quyền truy cập vào Project và policy Ai Gateway

Các bước thực hiện

1. Đăng nhập vào hệ thống DataForge bằng tài khoản có quyền với AI Gateway.
2. Chọn Project phù hợp (ví dụ: Default)
3. Menu trái → AI Gateway → Models

Trang Playground hiển thị giao diện thiết lập nền tảng kết nối và giao diện trò chuyện, tương tác

Cấu hình Phiên làm việc (Configuration)

Để bắt đầu thử nghiệm, bạn cần thiết lập nền tảng kết nối tại bảng Configuration:

• Virtual Key: Nhập mã khóa ảo (Virtual Key) bạn đã tạo. Khóa này xác định danh sách các mô hình và hạn mức mà bạn có quyền truy cập.

  💡 Bảo mật: Mã khóa sẽ được che tự động để bảo vệ thông tin.

• Endpoint Type: Lựa chọn phương thức gửi yêu cầu phù hợp với mục đích thử nghiệm:
  • /v1/chat/completions: Dành cho các mô hình hội thoại (Chatbot, trợ lý ảo).
  • /v1/embeddings: Dành cho việc thử nghiệm các mô hình tạo vector nhúng (Embedding).
• Select Model: Sau khi nhập Virtual Key và chọn Endpoint Type, danh sách các mô hình tương ứng sẽ hiển thị. Hãy chọn mô hình cụ thể bạn muốn kiểm tra.

Giao diện Trò chuyện và Tương tác (Chat)

Sau khi hoàn tất cấu hình, khung cửa sổ Chat sẽ được kích hoạt để bạn bắt đầu gửi câu hỏi:

• Khung nhập liệu: Nhập nội dung yêu cầu (Prompt) vào ô "Type your message...".
• Gửi yêu cầu: Nhấn biểu tượng "Gửi" (máy bay giấy) để gửi yêu cầu đến Gateway.
• Phản hồi của AI: Nội dung trả lời từ mô hình sẽ hiển thị trực tiếp trong cửa sổ chat theo thời gian thực.

Lưu ý quan trọng

• Yêu cầu bắt buộc: Bạn phải nhập đúng Virtual Key, chọn Endpoint Type và Model thì khung chat mới cho phép gửi tin nhắn.
• Quyền truy cập: Các mô hình hiển thị trong danh sách phụ thuộc hoàn toàn vào những mô hình đã được gán cho Virtual Key mà bạn sử dụng.
• Chi phí: Các yêu cầu gửi qua Playground vẫn được tính vào hạn mức và chi phí (Usage) của Virtual Key tương ứng giống như khi gọi API thông thường.

💡 Mẹo: Sử dụng Playground để so sánh phản hồi của các mô hình khác nhau (vD: GPT-4 vs Gemini) với cùng một prompt bằng cách thay đổi lựa chọn trong mục Select Model.