\uD83D\uDCDA\u05DE\u05D5\u05D3\u05D5\u05DCModule 2 - \u05E9\u05D8\u05D7 \u05D4\u05EA\u05E7\u05D9\u05E4\u05D4
\uD83C\uDF93\u05E9\u05D9\u05E2\u05D5\u05E84 \u05DE\u05EA\u05D5\u05DA 10
\u23F2\u05DE\u05E9\u05DA~7 \u05D3\u05E7\u05D5\u05EA
\uD83D\uDCC8\u05E8\u05DE\u05D4\u05D1\u05D9\u05E0\u05D5\u05E0\u05D9-\u05DE\u05EA\u05E7\u05D3\u05DD
TAKEAWAY 1
42 \u05D8\u05DB\u05E0\u05D9\u05E7\u05D5\u05EA \u05EA\u05E7\u05D9\u05E4\u05D4
Prompt Injection \u05D4\u05D9\u05D0 \u05D4\u05E4\u05D2\u05D9\u05E2\u05D5\u05EA \u05DE\u05E1\u05E4\u05E8 \u05D0\u05D7\u05EA \u05D1-AI. \u05DE\u05D8\u05D0-\u05D0\u05E0\u05DC\u05D9\u05D6\u05D4 \u05D6\u05D9\u05D4\u05EA\u05D4 42 \u05D8\u05DB\u05E0\u05D9\u05E7\u05D5\u05EA \u05E9\u05D5\u05E0\u05D5\u05EA
TAKEAWAY 2
Direct vs Indirect Injection
\u05D4\u05D6\u05E8\u05E7\u05D4 \u05D9\u05E9\u05D9\u05E8\u05D4 \u05D5\u05D4\u05D6\u05E8\u05E7\u05D4 \u05E2\u05E7\u05D9\u05E4\u05D4 \u05D3\u05E8\u05DA \u05EA\u05D5\u05DB\u05DF \u05D7\u05D9\u05E6\u05D5\u05E0\u05D9 - \u05D4\u05E2\u05E7\u05D9\u05E4\u05D4 \u05DE\u05E1\u05D5\u05DB\u05E0\u05EA \u05D9\u05D5\u05EA\u05E8
TAKEAWAY 3
Cross-Plugin \u05D5-Tool Shadowing
\u05E4\u05DC\u05D0\u05D2\u05D9\u05E0\u05D9\u05DD \u05D6\u05D3\u05D5\u05E0\u05D9\u05D9\u05DD \u05D9\u05DB\u05D5\u05DC\u05D9\u05DD \u05DC\u05D4\u05E9\u05EA\u05DC\u05D8 \u05E2\u05DC \u05E4\u05DC\u05D0\u05D2\u05D9\u05E0\u05D9\u05DD \u05D0\u05D7\u05E8\u05D9\u05DD \u05D1\u05D0\u05D5\u05EA\u05D5 \u05E1\u05E9\u05DF
TAKEAWAY 4
Defense-in-Depth \u05D1\u05DC\u05D1\u05D3
\u05E9\u05D5\u05DD \u05D8\u05DB\u05E0\u05D9\u05E7\u05D4 \u05D1\u05D5\u05D3\u05D3\u05EA \u05DC\u05D0 \u05DE\u05E1\u05E4\u05D9\u05E7\u05D4. \u05E8\u05E7 \u05D4\u05D2\u05E0\u05D4 \u05D1\u05E2\u05D5\u05DE\u05E7 \u05E2\u05DD PALADIN \u05D9\u05DB\u05D5\u05DC\u05D4 \u05DC\u05D4\u05E7\u05D8\u05D9\u05DF \u05E1\u05D9\u05DB\u05D5\u05DF
1
\u05DE\u05D4 \u05D4\u05D4\u05D1\u05D3\u05DC \u05D4\u05DE\u05E8\u05DB\u05D6\u05D9 \u05D1\u05D9\u05DF Direct \u05DC-Indirect Prompt Injection?
Direct \u05DE\u05E1\u05D5\u05DB\u05E0\u05EA \u05D9\u05D5\u05EA\u05E8 \u05DB\u05D9 \u05D4\u05D9\u05D0 \u05D9\u05E9\u05D9\u05E8\u05D4
Indirect \u05DE\u05D2\u05D9\u05E2\u05D4 \u05D3\u05E8\u05DA \u05EA\u05D5\u05DB\u05DF \u05D7\u05D9\u05E6\u05D5\u05E0\u05D9 \u05D5\u05E2\u05D5\u05E7\u05E4\u05EA \u05E4\u05D9\u05DC\u05D8\u05E8\u05D9 \u05E7\u05DC\u05D8
Direct \u05E2\u05D5\u05D1\u05D3\u05EA \u05E8\u05E7 \u05E2\u05DC ChatGPT
\u05D0\u05D9\u05DF \u05D4\u05D1\u05D3\u05DC - \u05E9\u05EA\u05D9\u05D4\u05DF \u05D6\u05D4\u05D5\u05EA
2
\u05DE\u05D4\u05D5 Tool Shadowing?
\u05D4\u05E1\u05EA\u05E8\u05EA \u05D4\u05E4\u05DC\u05D8 \u05E9\u05DC \u05DB\u05DC\u05D9
\u05D4\u05E6\u05E4\u05E0\u05EA \u05DB\u05DC\u05D9 \u05DC\u05D2\u05D9\u05D8\u05D9\u05DE\u05D9
\u05E8\u05D9\u05E9\u05D5\u05DD \u05DB\u05DC\u05D9 \u05D6\u05D3\u05D5\u05E0\u05D9 \u05D1\u05E9\u05DD \u05D6\u05D4\u05D4 \u05DC\u05DB\u05DC\u05D9 \u05DC\u05D2\u05D9\u05D8\u05D9\u05DE\u05D9 \u05DB\u05D3\u05D9 \u05DC\u05D9\u05D9\u05E8\u05D8 \u05E7\u05E8\u05D9\u05D0\u05D5\u05EA
\u05D4\u05D5\u05E1\u05E4\u05EA \u05E6\u05DC \u05E2\u05DC \u05DB\u05DC\u05D9
3
\u05DE\u05D4 \u05D4\u05D1\u05E2\u05D9\u05D4 \u05D4\u05D1\u05E1\u05D9\u05E1\u05D9\u05EA \u05E9\u05DE\u05D0\u05E4\u05E9\u05E8\u05EA Prompt Injection?
\u05DE\u05D5\u05D3\u05DC\u05D9\u05DD \u05DC\u05D0 \u05D7\u05DB\u05DE\u05D9\u05DD \u05DE\u05E1\u05E4\u05D9\u05E7
\u05D0\u05D9\u05DF \u05D4\u05E6\u05E4\u05E0\u05D4 \u05E2\u05DC \u05E7\u05DC\u05D8 \u05D4\u05DE\u05E9\u05EA\u05DE\u05E9
LLMs \u05DC\u05D0 \u05DE\u05D1\u05D7\u05D9\u05E0\u05D9\u05DD \u05D1\u05D9\u05DF \u05D4\u05D5\u05E8\u05D0\u05D5\u05EA \u05DC\u05D1\u05D9\u05DF \u05E0\u05EA\u05D5\u05E0\u05D9\u05DD
\u05D0\u05D9\u05DF \u05DE\u05E1\u05E4\u05D9\u05E7 \u05D6\u05D9\u05DB\u05E8\u05D5\u05DF
4
\u05DE\u05D4 \u05D4\u05DE\u05DC\u05D9\u05E6\u05D4 \u05E9\u05DC PALADIN \u05DC\u05D2\u05D1\u05D9 \u05D4\u05D2\u05E0\u05D4?
\u05D7\u05D5\u05DE\u05EA \u05D0\u05E9 \u05D0\u05D7\u05EA \u05D7\u05D6\u05E7\u05D4 \u05D4\u05D9\u05D0 \u05DE\u05E1\u05E4\u05D9\u05E7\u05D4
\u05E8\u05E7 \u05D4\u05E6\u05E4\u05E0\u05EA \u05E7\u05DC\u05D8
\u05D7\u05E1\u05D9\u05DE\u05EA \u05DE\u05D5\u05D3\u05DC\u05D9\u05DD \u05DE\u05E4\u05E0\u05D9 \u05EA\u05E7\u05D9\u05E4\u05D5\u05EA
Defense-in-depth - \u05D4\u05D2\u05E0\u05D4 \u05D1\u05E2\u05D5\u05DE\u05E7 \u05E2\u05DD 5 \u05E9\u05DB\u05D1\u05D5\u05EA
\uD83D\uDD25 UP NEXT
\u05E9\u05D9\u05E2\u05D5\u05E8 5: Memory Poisoning - \u05D4\u05E8\u05E2\u05DC\u05EA \u05D6\u05D9\u05DB\u05E8\u05D5\u05DF
\u05D1\u05E9\u05D9\u05E2\u05D5\u05E8 \u05D4\u05D1\u05D0 \u05E0\u05DC\u05DA \u05E2\u05D5\u05D3 \u05D9\u05D5\u05EA\u05E8 \u05DC\u05E2\u05D5\u05DE\u05E7: \u05D0\u05D9\u05DA \u05EA\u05D5\u05E7\u05E4\u05D9\u05DD \u05DE\u05E8\u05E2\u05D9\u05DC\u05D9\u05DD \u05D0\u05EA \u05D4\u05D6\u05D9\u05DB\u05E8\u05D5\u05DF \u05E9\u05DC \u05E1\u05D5\u05DB\u05E0\u05D9 AI, \u05D5\u05D0\u05D9\u05DA \u05DE\u05EA\u05D2\u05D5\u05E0\u05E0\u05D9\u05DD.
ZombieAgent
RAG Poisoning
Cross-Session Injection
\u05D4\u05D2\u05E0\u05D5\u05EA