AI agentFaqat javob yozib bermaydigan, balki maqsadga erishish uchun bir necha qadam tashlay oladigan AI tizim. brauzer, fayl, terminal va API bilan ishlay boshlagach, asosiy savol sifat emas, nazorat bo‘lib qoladi. AgentFaqat javob yozib bermaydigan, balki maqsadga erishish uchun bir necha qadam tashlay oladigan AI tizim. juda foydali bo‘lishi mumkin, lekin unga ortiqcha erkinlik bersangiz, xato yoki zarar ko‘lami ham kattalashadi.
Shu sababli agentFaqat javob yozib bermaydigan, balki maqsadga erishish uchun bir necha qadam tashlay oladigan AI tizim. tizimlarida permissionAgentga qaysi amallar mumkin, qaysilari mumkin emasligini belgilaydigan ruxsat darajasi. va sandboxAgentga berilgan xavfsiz, cheklangan ish muhiti. U yerda erkinlik bor, lekin zarar ko‘lami nazorat qilinadi. alohida mavzu. Bu xavfsizlik uchun ham, ishonchli mahsulot qurish uchun ham zarur.
PermissionAgentga qaysi amallar mumkin, qaysilari mumkin emasligini belgilaydigan ruxsat darajasi. nima?
PermissionAgentga qaysi amallar mumkin, qaysilari mumkin emasligini belgilaydigan ruxsat darajasi. - agentga qaysi amalni qilish mumkin, qaysisini mumkin emasligini belgilovchi ruxsat qoidalari. Masalan, faylni o‘qishi mumkin, lekin o‘chira olmaydi. Browser ochishi mumkin, lekin checkout tugmasini bosishdan oldin tasdiq so‘raydi.
SandboxAgentga berilgan xavfsiz, cheklangan ish muhiti. U yerda erkinlik bor, lekin zarar ko‘lami nazorat qilinadi. nima?
SandboxAgentga berilgan xavfsiz, cheklangan ish muhiti. U yerda erkinlik bor, lekin zarar ko‘lami nazorat qilinadi. - agentFaqat javob yozib bermaydigan, balki maqsadga erishish uchun bir necha qadam tashlay oladigan AI tizim. ishlashi uchun ajratilgan cheklangan muhit. U agentning qayerga kira olishi, qaysi buyruqlarni ishlata olishi va qaysi resurslarga tegishi mumkinligini chegaralaydi.
Masalan, agentFaqat javob yozib bermaydigan, balki maqsadga erishish uchun bir necha qadam tashlay oladigan AI tizim. faqat ma’lum workspace ichidagi fayllarni ko‘rishi, internetga chiqolmasligi yoki faqat ma’lum API’larni chaqira olishi mumkin. Bu agentni “hamma joyga kiradigan foydalanuvchi”ga aylantirib yubormaslik uchun kerak.
Nega bu muhim?
- xato buyruq zararini kamaytirish uchun,
- PII va maxfiy ma’lumot chiqib ketmasligi uchun,
- agentFaqat javob yozib bermaydigan, balki maqsadga erishish uchun bir necha qadam tashlay oladigan AI tizim. faqat vazifaga kerakli vositalar bilan ishlashi uchun,
- audit va javobgarlikni soddalashtirish uchun.
Kuchli agentFaqat javob yozib bermaydigan, balki maqsadga erishish uchun bir necha qadam tashlay oladigan AI tizim. ko‘p narsani qila oladi. Lekin “qila oladi” bilan “qilishi kerak” bir xil narsa emas.
Minimal yetarli ruxsat tamoyili
Yaxshi amaliyot - agentga faqat vazifani bajarish uchun zarur bo‘lgan minimal ruxsatni berish. Bu xavfsizlik dunyosidagi eski, lekin juda foydali tamoyil. AI agentlar uchun ham aynan shu ishlaydi.
Masalan, maqola yozuvchi agentga production database write access kerak emas. Kodni tahlil qiluvchi agentga esa email yuborish ruxsati kerak emas. Har bir tool “foydali bo‘lishi mumkin” degan sabab bilan berilmasligi kerak.
Qaysi amallar ko‘proq xavfli?
- fayl o‘chirish yoki ustidan yozish,
- internetga nazoratsiz request yuborish,
- production tizimga yozish,
- tashqi servisga maxfiy ma’lumot uzatish,
- to‘lov, checkout yoki tasdiqlashga oid tugmalarni bosish.
Human approval qayerda kerak?
Har qanday qaytarib bo‘lmaydigan yoki yuqori xavfli amalda inson tasdig‘i foydali. Masalan, push qilish, deployment boshlash, pul sarflash, ma’lumot yuborish yoki production yozuvlarini o‘zgartirishdan oldin tasdiq so‘ralishi kerak.
Xulosa
PermissionAgentga qaysi amallar mumkin, qaysilari mumkin emasligini belgilaydigan ruxsat darajasi. va sandboxAgentga berilgan xavfsiz, cheklangan ish muhiti. U yerda erkinlik bor, lekin zarar ko‘lami nazorat qilinadi. - AI agentni foydali, lekin boshqariladigan qilishning asosiy qatlami. Agentga haddan tashqari erkinlik berish kuch emas, ko‘pincha ortiqcha xavfdir. To‘g‘ri yondashuv - kerakli imkoniyat, aniq chegaralar, guardrails va audit qilinadigan nazorat.
