📚מודולModule 3 - כלים ופרקטיקה
🎓שיעור8 מתוך 14
⏲משך~7 דקות
📈רמהבינוני
TAKEAWAY 1
Unsloth - 2x מהירות, 70% פחות VRAM
Custom CUDA kernels, תמיכה ב-LLaMA, Mistral, Gemma, Qwen, Phi. Export ל-GGUF/vLLM/ONNX
TAKEAWAY 2
Axolotl - Config-Based Fine-Tuning
קובץ YAML אחד במקום קוד. תמיכה ב-SFT, DPO, LoRA, QLoRA ועוד
TAKEAWAY 3
LLaMA-Factory - Web UI לאימון
100+ מודלים, כל שיטות האימון, בלי שורת קוד אחת
TAKEAWAY 4
Cloud Training & Experiment Tracking
RunPod, Lambda Labs, Colab Pro. מעקב עם W&B, MLflow, TensorBoard
1
כמה מהירות מספק Unsloth בהשוואה לאימון רגיל?
1.5x מהירות
2x מהירות
3x מהירות
10x מהירות
2
איזה כלי משתמש בקובץ YAML במקום קוד?
Unsloth
Axolotl
LLaMA-Factory
TRL
3
איזה כלי מספק Web UI לאימון מודלים בלי קוד?
Unsloth
Axolotl
LLaMA-Factory
Weights & Biases
4
כמה עולה H100 ב-RunPod לשעה?
$0.10/hr
$0.44/hr
$1.99/hr
$5.00/hr
🚀 UP NEXT
שיעור 9: Quantization - הקטנת מודלים בלי לאבד איכות
בשיעור הבא נלמד איך להקטין מודלים בלי לאבד איכות. GGUF, GPTQ, AWQ, bitsandbytes, Flash Attention ועוד.
GGUF
GPTQ
AWQ
bitsandbytes
Flash Attention