L
LIOR TESTA
TESTAMIND
AI Security Researcher
Course Creator
10
Lessons
4
Modules
MODULE 1
AI Agent Security - יסודות
חומרים נוספים
1 / 10
📚מודולModule 1 - יסודות
🎓שיעור1 מתוך 10
משך~7 דקות
📈רמהבינוני
🎯
מה תלמדו בשיעור הזה
TAKEAWAY 1
Trust Boundaries
גבולות אמון בין רכיבים עם רמות הרשאה שונות
TAKEAWAY 2
Process Isolation & Syscalls
בידוד תהליכים ו-System Calls כשערים מבוקרים
TAKEAWAY 3
Capability-Based Security
טוקנים קצרי חיים, מצומצמים, deny-by-default
TAKEAWAY 4
Sandboxing & Cryptography
הרצת קוד בבידוד, חתימות דיגיטליות ו-Hash Chains
בדקו את עצמכם
1
מה זה Trust Boundary?
קיר אש שמגן על השרת
נקודה שבה מידע עובר בין רכיבים עם רמות הרשאה שונות
סוג של הצפנה
פרוטוקול רשת
2
מה הבעיה המרכזית של Trust Boundary Collapse בסוכני AI?
חוסר זיכרון
שרת איטי
בלבול בין Data Plane ל-Control Plane
עומס יתר על ה-GPU
3
מה העיקרון של Capability-Based Security?
לשאול מי אתה (Identity)
לשאול מה אתה יכול לעשות (Capability)
לתת הרשאות לכולם
לחסום את הגישה לאינטרנט
4
למה רוב הפריימוורקים של סוכנים לא עושים Sandbox?
זה איטי מדי
זה לא משנה את הביצועים
הכלים רצים באותו תהליך עם אותנ הרשאות
ה-LLM לא תומך בזה
🚀 UP NEXT
שיעור 2: Agent Internals
בשיעור הבא ניכנס פנימה לסוכנים עצמם. נראה מה קורה מתחת למכסה של Agent, איך הוא מפרסר JSON, מפעיל כלים, ואיפה הפגיעויות מתחבאות.
Tool Invocation Pipeline
JSON Parsing
State Management
CVE-2025-68664