AI XAVFSIZLIGI / 8 SINOV MODULI

AI REDTEAM.

AI yordamchingiz ma’lumot va vakolatga ega. Uning ishonch chegaralarini amalda tekshiring.

CYBER-BRO chatbot, LLM ilova, RAG bilim bazasi va vositalarga ulangan agentning noto‘g‘ri boshqarilishi biznesingizga qanday ta’sir qilishini baholaydi. Biznes egasi xavf ustuvorligini, texnik jamoa esa tekshiriladigan dalil va bajariladigan tuzatish vazifalarini oladi.

AI loyihani muhokama qilish ↗8 modulni ko‘rish ↓

BIZNES QARORI

AI xavfini amaliy vazifaga aylantiramiz.

Sinovda faqat noodatiy javob emas, uning real biznes jarayoniga ta’siri tekshiriladi. Qamrov tizimingizdagi mavjud funksiyalar va ruxsatlar bilan belgilanadi.

Mijoz ma’lumoti

Qo‘llab-quvvatlash chatboti bir foydalanuvchiga boshqa mijozning yozuvi yoki ichki hujjatini ko‘rsatishi mumkinmi? Ma’lumot oqimi va foydalanuvchi ruxsatlari dalil bilan tekshiriladi.

Kompaniya nomidan amal

Agent CRM yozuvini o‘zgartirishi, pochta yuborishi yoki to‘lovni qaytarishi mumkinmi? Muhim amallar uchun kimning vakolati va qaysi tasdiq talab qilinishi aniqlanadi.

Xarajat va uzluksizlik

Bitta so‘rov agent siklini uzaytirishi yoki API xarajatini oshirishi mumkinmi? Sinov natijasidan limit, budjet ogohlantirishi va xavfsiz to‘xtash vazifasi kelib chiqadi.

QAMROV

Modeldan biznes jarayonigacha.

Foundation yoki fine-tuned LLM, mijoz chatboti va ichki copilot; RAG indekslari va hujjat manbalari; agentning API, CRM, pochta va fayl vositalari; autentifikatsiya, ilova, bulut va integratsiyalar. Har bir qatlamning kirish huquqi, ma’lumot oqimi va tashqi kontentga ishonishi ko‘rib chiqiladi.

LLM / APIChatbot / CopilotRAGAgent / ToolsIdentity / Cloud

8 TA ALOHIDA MODUL

Nimani tekshiramiz va qanday yechim beramiz?

Modullar faqat jailbreak ro‘yxatidan iborat emas. Har birida amaliy xavf, himoya nazorati va biznes uchun natija bor. Muhitingizda mavjud bo‘lmagan qatlamni tekshirilgan deb ko‘rsatmaymiz.

Prompt Injection

Tekshirish: Bevosita foydalanuvchi so‘rovi va bilvosita hujjat, veb-kontent yoki tool output orqali tashqi matnning ko‘rsatma sifatida qabul qilinishini tekshiramiz. RAG javobidan agentning keyingi amaligacha bo‘lgan ishonch chegarasini kuzatamiz.
Texnik yechim: Tashqi kontentni ko‘rsatmalardan ajratish, manba va hujjat ruxsatlarini tekshirish, tool argumentlarini serverda validatsiya qilish va ruxsat etilgan amallarni cheklash bo‘yicha reja beramiz.
Biznes uchun natija: Mijoz chatga yoki hujjatga kiritgan matn kompaniya nomidan ruxsatsiz amal bajarishiga olib kelmasligi tekshiriladi.

Jailbreaks & guardrail bypass

Tekshirish: Modelni xavfsizlik nazoratidan chetga chiqishga undovchi ko‘p bosqichli suhbatlar, rol va kontekst o‘zgarishlarini sinaymiz. O‘zbek, rus va ingliz tillaridagi biznes ssenariylari bilan ruxsat etilgan hamda taqiqlangan javoblarni solishtiramiz.
Texnik yechim: Guardrail siyosati, mustaqil tekshiruvlar va regressiya sinovlarini sozlash bo‘yicha tavsiya beramiz. Noto‘g‘ri bloklangan odatiy mijoz so‘rovlari ham alohida qayd etiladi.
Biznes uchun natija: Chatbotning mijozga noto‘g‘ri va’da berishi yoki kompaniya siyosatini chetlab o‘tishi xavfi baholanadi.

Sensitive information disclosure

Tekshirish: System prompt, shaxsiy ma’lumotlar — PII, ichki hujjatlar, suhbat tarixi va training data bilan bog‘liq sizib chiqish alomatlarini tekshiramiz. Tenant va foydalanuvchilar orasidagi ajratishni sinov hisoblari hamda belgilangan canary ma’lumotlar bilan baholaymiz.
Texnik yechim: Retrieval ACL, foydalanuvchi kontekstidagi avtorizatsiya, PII ni minimallashtirish va secretlarni model kontekstidan chiqarish bo‘yicha aniq vazifalar beramiz. System promptni avtorizatsiya o‘rnida ishlatmaymiz.
Biznes uchun natija: Bir mijozga boshqa mijoz yoki kompaniyaning maxfiy ma’lumoti chiqish yo‘li aniqlanadi. Training data sizishi faqat tekshiriladigan dalil bilan xulosalanadi.

Insecure output handling

Tekshirish: Model javobining HTML, Markdown, URL, SQL yoki bajariladigan kod sifatida keyingi tizimlarga uzatilishini tekshiramiz. XSS, SSRF va code execution xavfi model matnining o‘zidan emas, uni qayta ishlash va bajarish zanjiridan baholanadi.
Texnik yechim: Kontekstga mos output encoding, JSON Schema tekshiruvi, URL allowlist, parametrli so‘rovlar va sandbox chegaralari bo‘yicha tuzatishlar beramiz. Model javobi ishonchsiz kirish deb qaraladi.
Biznes uchun natija: AI javobi mijoz brauzeri, ichki server yoki integratsiyani zararlashga aylanishi mumkin bo‘lgan yo‘llar yopiladi.

Excessive agency & tool abuse

Tekshirish: Agentning CRM, pochta, fayl, to‘lov va boshqa APIlarda qanday huquq bilan amal bajarishini tekshiramiz. Foydalanuvchi ruxsati, tool argumenti, tasdiqlash bosqichi va audit izi birga baholanadi; ruxsatsiz amallar test hisoblarida sinovdan o‘tkaziladi.
Texnik yechim: Least privilege, tor OAuth scope, read-only rejim, muhim amallar uchun inson tasdig‘i va har bir tool chaqiruvida server avtorizatsiyasi bo‘yicha reja beramiz.
Biznes uchun natija: Agent mijoz nomidan pul qaytarish, fayl o‘chirish yoki xabar yuborish kabi vakolatlarni o‘zboshimchalik bilan ishlatmasligi tekshiriladi.

Data & model poisoning

Tekshirish: Training, fine-tuning yoki retrieval ma’lumotiga noto‘g‘ri yozuv qo‘shilib, model qarori va RAG javobi o‘zgarishi mumkinligini tekshiramiz. RAG indekslash, hujjatni tasdiqlash, embedding va versiyalash jarayonlari qamrovga olinadi; training pipeline faqat mavjud va ruxsat berilgan bo‘lsa sinovdan o‘tadi.
Texnik yechim: Data provenance, tasdiqlash workflow’i, indeks yozish huquqlari, dataset/model versiyalari va rollback rejasi bo‘yicha vazifalar beramiz.
Biznes uchun natija: AI uchun manba ma’lumotining kim tomonidan o‘zgartirilishi va zararli o‘zgarishni qanday aniqlab qaytarish kerakligi aniq bo‘ladi.

Model denial of service

Tekshirish: Resursni tugatish va xarajatni oshirish — cost attacks xavfini baholaymiz. Uzun kontekst, takroriy agent sikli, ko‘p tool chaqiruvi va parallel so‘rovlarning token, vaqt va hisob-kitobga ta’siri kelishilgan kichik yuklama chegarasida tekshiriladi.
Texnik yechim: Per-user va per-tenant quota, token/step limit, timeout, concurrency cap, xarajat chegarasi va circuit breaker sozlamalari bo‘yicha tavsiya beramiz.
Biznes uchun natija: Bitta foydalanuvchi AI budjetini nazoratsiz sarflashi yoki boshqa mijozlar xizmatini band qilib qo‘yishi xavfi o‘lchanadi.

Supply chain & plugin risks

Tekshirish: Model provayderi, kutubxona, plugin, MCP server va tashqi connectorlar orqali kiradigan xavflarni ko‘rib chiqamiz. Dependency versiyasi, token saqlash, tool tavsifi va qaytarilgan ma’lumotga ishonish chegarasi baholanadi; zaif komponent topilmasi uning real qo‘llanishi bilan tekshiriladi.
Texnik yechim: Dependency pinning, komponentlar ro‘yxati — SBOM, integratsiya ruxsatlari, secret rotation va uchinchi tomon komponentlarini almashtirish rejasini tavsiya qilamiz.
Biznes uchun natija: AI zanjiridagi qaysi yetkazib beruvchi yoki integratsiya biznes ma’lumotiga va amallariga kira olishi aniqlanadi.

ISH TARTIBI

Kelishilgan qamrov. Nazoratli sinov. Tekshirilgan natija.

Arxitektura va mezon

Model/provider, RAG, tool va ma’lumot oqimlarini aniqlaymiz. Biznes uchun taqiqlangan amal, himoyalanadigan ma’lumot va muvaffaqiyat mezoni kelishiladi.

Sinov muhiti

Test hisoblari, sun’iy ma’lumotlar, yozma qamrov, token/xarajat limiti va to‘xtatish sharti belgilanadi. Production ta’siri oldindan kelishiladi.

Dalil va tahlil

Avtomatlashtirilgan sinovlarni tahlilchi tekshiruvi bilan birlashtiramiz. Model javobi, tool chaqiruvi va keyingi tizimdagi real natija alohida qayd etiladi.

Tuzatish va qayta sinov

Topilma uchun mas’ul qatlam, tuzatish vazifasi va tekshirish mezoni beriladi. Qayta sinov hamda keyingi model/prompt/tool o‘zgarishlari uchun regressiya qamrovi loyiha rejasida kelishiladi.

TOPSHIRILADIGAN NATIJA

Rahbariyatga aniq qaror, jamoaga bajariladigan reja.

Biznes xulosasi: ta’sirlangan ma’lumot yoki amal, ehtimoliy zarar va tuzatish ustuvorligi.
Texnik topilma: kelishilgan sinov sharti, qayta tekshirish qadamlari va maxfiy ma’lumoti yashirilgan dalil.
Muhandislik vazifalari: ruxsat, retrieval, output handling yoki integratsiya qatlamidagi aniq tuzatish va qabul mezoni.
Qamrov xaritasi: OWASP LLM Top 10 va MITRE ATLAS kategoriyalari, o‘tgan/o‘tmagan sinovlar hamda tekshirilmagan cheklovlar.

Sinov — muayyan versiya va qamrov uchun baholash. Topilma yo‘qligi mutlaq xavfsizlik kafolati emas; prompt, model, ma’lumot manbasi yoki tool o‘zgarsa tekshiruv qamrovi yangilanadi. Training pipeline, og‘ir yuklama va ma’lumot yozish sinovlari faqat mavjud kirish huquqi va yozma ruxsat bilan bajariladi.

AI tizimingiz uchun sinov rejasini kelishamiz.

Qaysi AI mahsulot ishlatilishi, u qanday ma’lumot ko‘rishi va qanday amallar bajara olishini qisqacha yozing. Model/provider, integratsiyalar va ishga tushirish bosqichiga qarab qamrov, muddat va narx taklifda belgilanadi.

AI loyihani muhokama qilish ↗