הכשרה וסדנאות
כשה-AI הופך למשטח תקיפה
תדריך אבטחה בן שלוש שעות לצוותים שבונים אפליקציות LLM, סביב OWASP LLM Top 10.
לארכיטקטים, מפתחים ומובילי הנדסה שבונים פיצ'רים מבוססי LLM, לצוותי AppSec ופלטפורמה, ולמובילי מוצר שאחראים על השקה בטוחה.
התוצרים
מפת סיכונים לאפליקציות שלכם
איפה עוברים גבולות האמון: פרומפטים, מודלים, שכבות אחזור, כלים, מקורות מידע וסוכנים שפועלים בשם משתמשים, ואילו החלטות ארכיטקטורה יוצרות חשיפה.
בחירת בקרות
מה נכון למניעה, מה לזיהוי ומה לתגובה, ולמה בקרה אחת לא מכסה את שלושתם. צ'קליסט שנשאר אצל הצוות לסקירות הבאות.
שפה משותפת להנדסה ולאבטחה
מודל אחד שמאפשר לשני הצדדים לדבר על אותו סיכון באותם מונחים, וסט שאלות לאתגור כל מקרה שימוש חדש.
איך זה עובד
לוגיקת תקיפה
איך תוקף חושב על מערכת LLM, ואיך מבדילים בין איומים שנראים דומים ודורשים בקרות שונות.
עשרת הסיכונים על המערכת שלכם
הזרקת פרומפט וטיפול בפלט, הרשאות עודפות וסוכנים, שרשרת אספקה ותלויות, הסתמכות יתר וגילוי מידע. כל אחד נבחן מול הארכיטקטורה של הקבוצה.
בחירת בקרות
החלטות על הרשאות, גישה לנתונים, אימות, ניטור ואישור אנושי, בזמן שעוד אפשר לשנות אותן.
פורמט
- משך
- שלוש שעות, חי ב-Teams או פרונטלי.
- משתתפים
- 15 עד 40, בעברית או באנגלית.
- הכנה
- אין. בלי התקנות, גישה לסביבה או הרשאות. המשתתפים צריכים להכיר את המערכות שהם בונים, כי הדוגמאות נדונות מולן.
- מתאים לארגונים ש
- בונים פיצ'רים מבוססי LLM, משתמשים ב-RAG, סוכנים או קריאת כלים, נדרשים ליישור אבטחתי לפני פריסה רחבה, או עומדים בסקירות SOC 2, ISO 27001 או ISO 42001.
שאלות נפוצות
בדיקת חדירה מוצאת חשיפות במערכת שכבר נבנתה. התדריך עוסק בהחלטות שיוצרות את החשיפות: הרשאות, גישה לנתונים, אימות, ואיפה אדם מאשר פעולה. שניהם נדרשים, בשלבים שונים.
כן, ולרוב יותר. חלק גדול מהחשיפה נוצר בהחלטות הנדסיות רגילות, למשל סוכן שמקבל הרשאות של משתמש אנושי, או תוכן חיצוני שנכנס לפרומפט בלי הפרדה בין הוראה לתוכן.
כן. ההמשך הנפוץ הוא מודל איום לפתרון ספציפי, ניסיון תקיפה מכוון לפני מעבר לפרודקשן, והחלטה כמה חופש פעולה לתת לסוכן. כל אלה חלק מהטמעה במודל FDE.
צור קשר
ספרו לנו מה אתם בונים, על איזו תשתית, ומי צריך להיות בחדר.
- info@applai-consulting.com
- תל אביב, ישראל
