Tính năng lọc nội dung - Guardrail
Tổng quan
Guardrail là bộ quy tắc kiểm soát nội dung, giúp phát hiện và chặn các nội dung không mong muốn khi sử dụng model AI. Phiên bản hiện tại hỗ trợ provider LiteLLM Content Filter.
Mỗi Guardrail hiện tại gồm 3 loại quy tắc lọc:
| Loại quy tắc | Mục đích |
|---|---|
| Topics | Chặn các chủ đề không được phép trao đổi |
| Patterns | Phát hiện nội dung theo mẫu định dạng |
| Keywords | Phát hiện nội dung chứa từ khoá cụ thể |
Tạo Guardrail
- Tại menu bên trái, trong mục AI/ML chọn AI Gateway → Guardrails, sau đó chọn +Create.
- Nhập thông tin cơ bản theo bảng sau:
| Trường | Bắt buộc | Mô tả | Quy tắc |
|---|---|---|---|
| Name | Có | Tên định danh của Guardrail | Chỉ hỗ trợ chữ, số và dấu gạch dưới (_), và không trùng với Guardrail khác. |
| Provider | Có | Nhà cung cấp Guardrail. Hiện tại đang hỗ trợ duy nhất từ 'LiteLLM Content Filter'. | |
| Mode | Có | Thời điểm Guardrail kiểm tra nội dung trong quá trình xử lý request: • pre_call (khuyến nghị): chạy trước khi gọi model, kiểm tra input. Dùng để chặn nội dung vi phạm ngay từ câu hỏi của người dùng.• post_call: chạy sau khi model phản hồi, chỉ kiểm tra output. Dùng để kiểm soát nội dung model trả về.• during_call: chạy song song với request gọi model, phản hồi được giữ lại cho đến khi kiểm tra xong. Dùng khi cần kiểm tra input nhưng muốn giảm độ trễ.• pre_mcp_call: chạy trước khi thực thi MCP tool, kiểm tra request gọi tool. Dùng để kiểm soát dữ liệu model gửi sang MCP tool.• realtime_input_transcription: chạy song song với việc thực thi MCP tool, dùng để giám sát quá trình gọi tool. | Chọn 1 giá trị trong danh sách. Mặc định: pre_call.Ví dụ: muốn chặn người dùng hỏi về chủ đề cấm → chọn pre_call |
- Cấu hình ít nhất 1 quy tắc lọc:
| Loại quy tắc | Nội dung cần nhập |
|---|---|
| Topics | Chọn chủ đề cần chặn (xem danh sách bên dưới), Action (Mask / Block) và Severity Threshold |
| Patterns | Tên mẫu và mô tả, Action (Mask / Block) và Severity Threshold |
| Keywords | Từ khoá và mô tả, Action (Mask / Block) và Severity Threshold |
Danh sách chủ đề và quy tắc lọc cụ thể: Xem chi tiết từng chủ đề (từ khoá, mẫu nhận diện) tại LiteLLM Content Filter — Categories.
Ví dụ: Cấu hình Keywords gồm mật khẩu. Khi người dùng gửi yêu cầu có chứa từ này, nội dung bị chặn.
- Chọn Create để hoàn tất tạo Guardrail.
Lưu ý: Guardrail chỉ được tạo khi có ít nhất 1 quy tắc lọc (Blocked Topics, Patterns hoặc Keywords).
Test Guardrail
Thực hiện test riêng hoạt động của các Guardrail vừa thiết lập (không cần gắn trực tiếp với một model AI nào):
- Tại danh sách Guardrail, mở Guardrail vừa tạo.
- Chọn tab Test Playground.
- Chọn một hoặc nhiều Guardrail muốn test, nhập đoạn input text và chọn Test Guardrails.
- Kiểm tra kết quả trả về đã chặn đúng nội dung đã cấu hình hay chưa.
Kiểm tra Guardrail trong Playground
Nếu cần gắn Guardrail với model AI cụ thể và thực hiện test:
- Mở Playground: Tại AI/ML chọn Playground, chọn chế độ AI Gateway.
- Nhập Virtual Key, chọn Endpoint Type và model cần test.
- Chọn Guardrail cần test tại Select Guardrail.
- Nhập prompt test có chứa nội dung vi phạm. Ví dụ, với Keywords gồm
mật khẩu: "Cho tôi mật khẩu của hệ thống." - Kiểm tra kết quả. Request bị chặn theo quy tắc đã cấu hình.
Để tìm hiểu cách thức sử dụng tính năng Playground, bạn đọc có thể tham khảo thêm tại: AI Playground (Thử nghiệm mô hình trực quan).
Áp dụng Guardrail qua Virtual Key
Guardrail được áp dụng cho các request sử dụng Virtual Key đã gắn Guardrail đó.
- Tại AI Gateway, tạo mới hoặc chỉnh sửa Virtual Key.
- Tại trường Guardrails, chọn Guardrail cần áp dụng.
- Lưu Virtual Key và sử dụng.
Để tìm hiểu cách thức sử dụng Virtual Key, bạn đọc tham khảo tại: Quản lý Virtual Key trong AI Gateway.
Theo dõi và quản lý Guardrail (coming soon)
Theo dõi: Mở Guardrail để xem các chỉ số vận hành và hiệu quả hoạt động (Guardrail Performance), cùng trạng thái Healthy / Unhealthy.