AIHow

Tag

Prompt injection

Tashqi matndagi yashirin ko‘rsatmalar orqali AI agentni chalg‘itishga urinishni ko‘rsatuvchi prompt injection hero image

Prompt injection. AI agentni qanday chalg‘itishadi

Agent tashqi matn, web-sahifa yoki hujjatdagi yashirin ko‘rsatmani haqiqiy instruksiya deb qabul qilsa, xavfli holat yuzaga keladi. Prompt injection shunday hujum bo‘lib, u alohida filter va ruxsat qatlamlarini talab qiladi.