مفيد AI
دروس AIفهم التكميم وتأثيره في جودة النموذجالتكميم يخفض دقة تمثيل بعض الأوزان لتقليل الذاكرة وقد يؤثر في الجودة والسرعة بدرجات متفاوتة.
دروس AIتقدير متطلبات تشغيل نموذج LLM محليًاحجم ملف الأوزان جزء من احتياج الذاكرة؛ السياق والمخازن والعمليات المتزامنة تستهلك موارد إضافية.
مصادر AIvLLM: خادم استدلال للنماذجمنظومة لتقديم استدلال نماذج لغوية مع إدارة طلبات وتشغيل على بنية مناسبة.
مصادر AIOpen WebUI: واجهة تفاعل مع النماذجمشروع يقدم واجهة ويب للتفاعل مع مزودات نماذج متعددة وفق التكوين والصلاحيات.
مصادر AIOllama: تشغيل نماذج محليًامشروع لتسهيل تنزيل وتشغيل نماذج مناسبة محليًا عبر واجهات تطبيقات وأوامر تشغيل.
مصادر AIllama.cpp: استدلال محلي للنماذجمشروع برمجي يركز على الاستدلال لنماذج متوافقة وطرق تشغيلها على عتاد متنوع.
مصادر AIعائلة نماذج Llama من Metaعائلة نماذج لغوية ذات أوزان متاحة ضمن شروط ترخيص تحددها الجهة الناشرة لكل إصدار.
مصادر AIعائلة Qwen للنماذج اللغويةمشروع يعرّف بإصدارات مختلفة من نماذج Qwen وأدواتها ومواصفاتها التقنية.
مصادر AIعائلة Gemma من Googleصفحات تعريف بنماذج Gemma وإرشادات اختيار إصدار وتشغيله ضمن شروطه المحددة.
مصادر AIنماذج Mistral المتاحة للتشغيل الذاتيتوثيق الجهة الناشرة لعائلة نماذج وخيارات تشغيل واستدعاء مختلفة.