Fine-Tuning لنموذج Llama 3.2 باستخدام QLoRA ونشره على AWS

قمت بتنفيذ مشروع متكامل لتخصيص نموذج Meta Llama-3.2-3B-Instruct باستخدام تقنية QLoRA على أكثر من 79,900 سؤال وإجابة من بيانات Stack Overflow، بهدف إنشاء مساعد ذكاء اصطناعي متخصص في الإجابة عن المشكلات التقنية. شمل المشروع جميع المراحل بدءًا من تجهيز البيانات ومعالجتها، ثم تنفيذ عملية الـ Fine-Tuning باستخدام Unsloth و PyTorch، مرورًا بتقييم النموذج وتحسينه، وانتهاءً بنشره على AWS مع إنشاء واجهة REST API باستخدام FastAPI وربطه بواجهة Open WebUI لتقديم تجربة محادثة تفاعلية. التقنيات المستخدمة: * Python * PyTorch * Hugging Face Transformers * LoRA & QLoRA * Unsloth * FastAPI * AWS * Terraform * Docker يعكس هذا المشروع خبرتي في تطوير وتخصيص نماذج اللغة الكبيرة (LLMs)، وتجهيز البيانات، ونشر حلول الذكاء الاصطناعي القابلة للاستخدام في بيئات الإنتاج.