llama.cpp: استدلال محلي للنماذج
مشروع برمجي يركز على الاستدلال لنماذج متوافقة وطرق تشغيلها على عتاد متنوع.

الخلاصة: مشروع برمجي يركز على الاستدلال لنماذج متوافقة وطرق تشغيلها على عتاد متنوع.
ما الذي يقدمه هذا المصدر؟
مشروع برمجي يركز على الاستدلال لنماذج متوافقة وطرق تشغيلها على عتاد متنوع.
نوعه ضمن مكتبة مفيد AI: المشاريع المفتوحة. هذه الصفحة وصف عربي أصلي ومختصر لطريقة الاستفادة من المصدر، وليست إعادة نشر لمحتواه أو ضمانًا لملاءمته لكل مشروع.
حالة استخدام واقعية
قياس فرق الأداء بين إعدادين من التكميم على جهاز واحد.
كيف تبدأ بطريقة قابلة للفحص؟
اختر نموذجًا متوافقًا وصيغة ملف مدعومة، وثبت نسخة أداة التشغيل ثم قس الأداء والجودة.
المتطلبات والحدود
نتيجة التكميم تعتمد على النموذج والعتاد والمهمة؛ لا تفترض أن أصغر ملف يعطي تجربة مقبولة.
قبل الاعتماد النهائي راجع وثائق المصدر وترخيص المادة أو النموذج المحدد وإصدار الحزمة إن كان ذلك منطبقًا؛ لم تُفحص الإصدارات أو الرخص الحية آليًا وقت إعداد هذه الحزمة.
اختبار قبول عملي
راقب الذاكرة والسرعة والإجابة على مجموعة أسئلة ثابتة قبل النشر.
المرجع الأصلي
افتح موقع المصدر أو توثيقه الرسمي؛ راجع تحديثاته وشروط الاستخدام في المصدر نفسه.



