Tag

Guardrails

Tashqi matndagi yashirin ko‘rsatmalar orqali AI agentni chalg‘itishga urinishni ko‘rsatuvchi prompt injection hero image

Prompt injection. AI agentni qanday chalg‘itishadi

Agent tashqi matn, web-sahifa yoki hujjatdagi yashirin ko‘rsatmani haqiqiy instruksiya deb qabul qilsa, xavfli holat yuzaga keladi. Prompt injection shunday hujum bo‘lib, u alohida filter va ruxsat qatlamlarini talab qiladi.

PII, parol va maxfiy hujjatlarni AI tizimga yubormaslik kerakligini ko‘rsatuvchi hero image

PII va maxfiy ma’lumotlar: AI tizimga nimani yubormaslik kerak

AI tizimga foydali context yuborish kerak, lekin ortiqcha va maxfiy ma’lumot yuborish katta risk tug‘diradi. PII, parol, token va yopiq hujjatlar alohida nazorat va filtrlash talab qiladi.

AI agent uchun guardrails, policy gate va approval chegaralarini ko‘rsatuvchi hero image

Guardrails: agentga qayerda to‘siq qo‘yiladi

Guardrails agentni foydali chegarada ushlab turadi: prompt, tool, permission, output va inson approvali darajasida xavfli harakatlar to‘xtatiladi.