Tag
Sandbox
Agent uchun tool tanlash strategiyasi
Agentga ko‘p tool berish uni avtomatik ravishda yaxshilamaydi. To‘g‘ri strategiya vazifaga mos asbobni tanlaydi, ortiqcha imkoniyatni yashiradi va riskli action larni permission bilan boshqaradi.
AGENTS.md fayli haqida
AI coding agent repo ichida mustaqilroq harakat qilgani sari oddiy prompt yetmay qoladi. AGENTS.md agentga qayerga qarash, qanday edit qilish, qaysi commandni afzal ko‘rish va qaysi chegaradan o‘tmaslik kerakligini doimiy tarzda eslatib turadi.
Prompt injection. AI agentni qanday chalg‘itishadi
Agent tashqi matn, web-sahifa yoki hujjatdagi yashirin ko‘rsatmani haqiqiy instruksiya deb qabul qilsa, xavfli holat yuzaga keladi. Prompt injection shunday hujum bo‘lib, u alohida filter va ruxsat qatlamlarini talab qiladi.
Guardrails: agentga qayerda to‘siq qo‘yiladi
Guardrails agentni foydali chegarada ushlab turadi: prompt, tool, permission, output va inson approvali darajasida xavfli harakatlar to‘xtatiladi.
Tool registry va agent tanlovi
Agentda tool ko‘p bo‘lsa, ularni promptga sanab qo‘yish yetmaydi. Tool registry har bir imkoniyatni tartiblaydi, tavsiflaydi va tanlovni xavfsizroq qiladi.
Permission va sandbox. AI agentga qancha erkinlik berish kerak
AI agentga qancha ko‘p erkinlik berilsa, xato narxi ham shuncha oshadi. Permission va sandbox agentning qaysi vosita, fayl, API yoki amalga tegishi mumkinligini chegaralaydi.
Kompyuterdan foydalanadigan AI agentlar: brauzer, fayl va terminal bilan ishlash
AI agent matn yozish bilan cheklanmay, brauzerni boshqarishi, fayllarni o‘qishi, terminalda buyruq ishlatishi va real muhitda vazifani bajarishi mumkin. Bunday imkoniyat kuchli, lekin xavfsizlik va nazorat talab qiladi.
MCP nima? Nega AI agentlar uchun muhim?
AI agent biror ishni bajarishi uchun faqat modelning o‘zi yetmaydi: unga fayl, database, brauzer, API va boshqa servislar bilan tartibli bog‘lanish kerak bo‘ladi. MCP ana shu bog‘lanishni standartlashtirishga urinishdir.