Bài số № 72PRO
Red teaming và eval an toàn: mô hình mối đe doạ, prompt injection gián tiếp, tỉ lệ tấn công thành công và từ chối nhầm
Khi đầu vào là đối kháng, eval đổi bản chất. Mô hình mối đe doạ theo OWASP Top 10 cho LLM 2025, đo prompt injection gián tiếp bằng canary vô hại, cân bằng tỉ lệ tấn công thành công với từ chối nhầm, red team thủ công, tự động và bằng garak, PyRIT, promptfoo.
19 phút đọc