AI Gateway

Tính năng công cụ kết nối - MCP Server

Tài liệu này hướng dẫn người dùng kết nối công cụ bên ngoài vào DataVero thông qua MCP Server, gồm 3 bước: Thêm MCP Server → Kiểm tra kết nối → Test với AI Gateway trong Playground.

Tổng quan

MCP Server là nguồn cung cấp công cụ (tool) bên ngoài, cho phép model AI gọi và sử dụng các tool này khi xử lý yêu cầu. Người dùng kiểm soát tool nào được phép sử dụng.

Thông tin cần chuẩn bị (do nhà cung cấp MCP Server cung cấp):

  • URL của MCP Server
  • Transport Type: Streamable HTTP hoặc SSE
  • Bearer Token, nếu server yêu cầu xác thực

Thêm MCP Server

  1. Tại menu bên trái, trong mục AI/ML chọn AI Gateway → MCP Servers, sau đó chọn +Create.
  2. Nhập thông tin kết nối theo bảng sau:
TrườngBắt buộcMô tảQuy tắc
NameCóTên định danh của MCP ServerChỉ gồm chữ cái, chữ số và dấu gạch dưới (_).
Ví dụ: ✅ crm_tools_01 · ❌ crm-tools 01 (có dấu gạch ngang và khoảng trắng)
Transport TypeCóGiao thức kết nối tới MCP Server: Streamable HTTP hoặc SSE, theo thông tin nhà cung cấpChọn 1 trong 2 giá trị.
Ví dụ: nhà cung cấp ghi "SSE endpoint" → chọn SSE
DescriptionKhôngMô tả về MCP Server, giúp người dùng khác hiểu mục đích sử dụngVí dụ: Tra cứu thông tin khách hàng từ hệ thống CRM
Max Concurrent RequestsKhôngSố yêu cầu tối đa được gửi cùng lúc tới MCP Server, dùng để tránh quá tải serverVí dụ: nhập 10 → tối đa 10 yêu cầu được xử lý cùng lúc
Extra HeaderKhôngHeader bổ sung gửi kèm request tới MCP Server.Định dạng key:value.
Ví dụ: X-Tenant-ID:tenant_01
Static HeaderKhôngHeader cố định, luôn được gửi kèm mọi request tới MCP Server. Thường dùng cho thông tin không đổi như API key hoặc phiên bản API.Phải nhập đủ cả key và value.
Ví dụ: ✅ X-API-Version:v1 ·
URLCóĐịa chỉ endpoint của MCP ServerVí dụ: https://mcp.example.com/mcp
AuthenticationCóPhương thức xác thực khi kết nối tới MCP Server: None (không xác thực) hoặc Bearer TokenChọn 1 trong 2 giá trị. Bắt buộc nhập Authentication Value khi chọn Bearer Token.
  1. Sau khi nhập xong, hệ thống hiển thị danh sách các tool được phép truy cập từ MCP Server đó. Thiết lập quyền sử dụng tool: chọn On để cho phép, Off để chặn.
  2. Chọn Create để hoàn tất tạo MCP Server.

Khuyến nghị: Chỉ bật các tool cần thiết để hạn chế rủi ro và dễ kiểm soát.

Kiểm tra kết nối MCP Server

Thực hiện bước này để xác nhận MCP Server kết nối thành công trước khi sử dụng với model AI cụ thể.

  1. Tại danh sách MCP Servers, mở MCP Server vừa tạo.
  2. Chọn tab MCP Tools.
  3. Chọn tool muốn test, nhập các thông tin bắt buộc và chọn Call Tool.
  4. Kiểm tra kết quả tại phần Tool result.

Test MCP Server với AI Gateway trong Playground

Thực hiện bước này để xác nhận model AI gọi được tool từ MCP Server đã cài đặt.

  1. Gắn MCP Server vào Virtual Key. Tại AI Gateway, tạo mới hoặc chỉnh sửa Virtual Key, chọn MCP Server tại trường MCP Servers.
  2. Mở Playground: Tại AI/ML chọn Playground, chọn chế độ AI Gateway.
  3. Nhập Virtual Key, chọn Endpoint Type và model cần test, rồi chọn MCP Server tại Select MCP server.
  4. Nhập prompt test có sử dụng tool. Ví dụ, với MCP Server cung cấp dữ liệu thời tiết: "Thời tiết Hà Nội hôm nay thế nào?"
  5. Kiểm tra kết quả. Model AI gọi tool và phản hồi dựa trên dữ liệu tool trả về.

Để tìm hiểu cách thức sử dụng tính năng Playground, bạn đọc có thể tham khảo thêm tại: AI Playground (Thử nghiệm mô hình trực quan).

Áp dụng MCP Server qua Virtual Key

Ngoài ra, MCP Server còn được gắn với Virtual Key cho các request sử dụng Key đó:

  1. Tại AI Gateway, tạo mới hoặc chỉnh sửa Virtual Key.
  2. Tại trường MCP Server, chọn MCP Server cần áp dụng.
  3. Lưu Virtual Key và sử dụng.

Để tìm hiểu cách thức sử dụng Virtual Key, bạn đọc tham khảo tại: Quản lý Virtual Key trong AI Gateway.

logo
CMC Telecom
Aspire to Inspire the Digital World