📚מודול3 - מעבדה מתקדמת
🎓שיעור7 - Multi-Agent Attacks
⏲משך~7 דקות
📈רמהמתקדם
🔗
Agent-to-Agent Confusion
סוכנים סומכים אחד על השני ללא ולידציה. פריצת סוכן אחד משפיעה על כל השרשרת.
👁
Tool Shadowing
שרת MCP זדוני רושם כלים עם שמות זהים לשרתים לגיטימיים. DNS Poisoning ל-AI.
💣
Cascading Failures
כשל בסוכן אחד מדורג לכל המערכת. אפקט דומינו מהיר ממה שאנושים יכולים להגיב.
🕷
Confused Deputy
סוכן עם הרשאות לגיטימיות מרומה לפעול לטובת התוקף. שליח מבולבל.
1מה זה Tool Shadowing?
הסתרת כלים מהסוכן כדי להגביל את יכולותיו
רישום כלים זדוניים עם שמות זהים לכלים לגיטימיים
מחיקת כלים משרת MCP של היעד
2מה הסכנה העיקרית ב-Cascading Failures?
סוכן אחד מתקרס ונעצר
כשל מדורג בין סוכנים שגורם לנזק אמיתי מהר ממה שאפשר לעצור
המערכת עוברת למצב שינה אוטומטית
3מה זה Confused Deputy בהקשר של AI?
סוכן שלא מבין את הפקודות שלו
סוכן שלא יודע איזה כלי להשתמש
סוכן עם הרשאות לגיטימיות שמרומה לפעול לטובת התוקף
4למה Cross-Agent Exfiltration קשה לזיהוי?
כי התוקף משתמש בהצפנה
כי הלוגים של כל סוכן נראים תקינים בנפרד
כי זה קורה רק בלילה
שיעור 8 · מודול 4
Zero-Trust Agents
אדריכלות הגנתית מתקדמת
בשיעור הבא נעבור לצד ההגנה. מודול 4: איך בונים ארכיטקטורה שלא סומכת על אף אחד. Immutable Memory, Signed Execution, Agent Firewall.
Zero-Trust
Immutable Memory
Capability Tokens
Agent Firewall
