SVC—09 · מבדק
מבדק חדירות למערכות בינה מלאכותית
בדיקה מערכתית של הקשר בין רכיבי AI לבין זהויות, כלים, מידע והרשאות לביצוע פעולות עסקיות.
הגדרת היקף הבדיקההיקף הבדיקה
מה כלול בבדיקה
מודלים, הנחיות משתמש ומערכת, כלים, סוכנים ומקורות אחזור
הרשאות, הזרקת הנחיות, חשיפת מידע והטיפול בפלט המודל
תהליכי MLOps, שרשרת האספקה של המודל וניטור
מצבי גישה
רמת הגישה נקבעת בתהליך האפיון
בדיקת יישום בקופסה שחורה
בדיקה בסיוע מסמכי ארכיטקטורה
סקירה מלאה של תהליך המודל
תוצרי הבדיקה
תוצרים ברורים שניתנים לאימות.
תוצר
מפת הרשאות וגבולות מידע
תרחישי ניצול ניתנים לשחזור, עם תיעוד של הבדלים בין הרצות
המלצות לשיפור מנגנוני הגנה, ארכיטקטורה וניטור
גורם שמשפיע על ההיקף
מספר המודלים, הכלים, הסוכנים ומקורות המידע
היקף ההרשאות וההשפעה העסקית האפשרית
יציבות תוצאות ההערכה ורמת הגישה לתהליך המודל
מגבלה מפורשת
התנהגות הסתברותית ועדכוני מודל מגבילים את היכולת לקבל אותה תוצאה בכל הרצה
בדיקת מערכות שבשליטת ספק המודל דורשת הרשאה נפרדת
בדיקה נקודתית
דיוק מתחיל בהגדרה ברורה של הגבולות.
מבדק חדירות מספק ראיות לגבי נכסים, גרסאות, רמת גישה ונקודת זמן מוגדרים. הוא אינו מבטיח שאין חולשות, אינו מחליף ניהול חולשות פנימי ואינו מהווה הסמכת ציות.
המתודולוגיה ומגבלות הבדיקה