← دروس AI

تنقية مخرجات LLM قبل عرضها في الموقع

النص المولد مدخل غير موثوق عند عرضه داخل HTML أو استخدامه في أمر أو استعلام؛ يجب فحصه حسب سياق الاستخدام.

غلاف توضيحي أصلي: تنقية مخرجات LLM قبل عرضها في الموقع

الإجابة المباشرة: النص المولد مدخل غير موثوق عند عرضه داخل HTML أو استخدامه في أمر أو استعلام؛ يجب فحصه حسب سياق الاستخدام.

هدف الدرس ومتى تحتاجه

إظهار جواب مساعد داخل صفحة ويب تسمح بإدراج مقتطفات من مستندات المستخدم.

يناسب هذا الدرس مطورًا أو صاحب مشروع يستطيع تجربة الخطوات على بيانات اختبار غير حساسة. الإجراءات تعليمية قابلة للمراجعة، ولا يزعم هذا النص أنه نفذ تجربة تشغيل على خادمك.

المتطلبات

حساب أو بيئة تطوير مرخّصة للوظيفة المقصودة عند الحاجة، وبيانات اختبار مسموح باستخدامها، ووسيلة لتسجيل نتيجة كل خطوة ومقارنتها بالهدف.

التطبيق خطوة بخطوة

  1. اعرض النص باعتباره نصًا عاديًا عبر textContent بدل حقن HTML الخام.
  2. إن احتجت Markdown فاستعمل محللًا آمنًا مع قائمة عناصر وروابط مسموحة.
  3. اختبر الروابط من نوع javascript ومحاولات إدراج script وأكواد HTML ضارة.

النتيجة المتوقعة وكيف تتحقق منها

لا يُنفذ أي كود أو رابط ضار في المتصفح عند تشغيل مدخلات الاختبار.

في حال اختلاف النتيجة عن المتوقع، افصل خطأ البيانات عن خطأ الأداة أو النموذج وسجّل إصدار البيئة والإعدادات. لا تعتبر مثالًا واحدًا دليلًا على جودة عامة.

خطأ شائع وكيف تتجنبه

الخطأ هو تمرير خرج النموذج مباشرة إلى innerHTML أو أمر shell لأنه صادر عن نموذج.

ماذا بعد؟

حوّل خطوات هذا الدرس إلى حالة اختبار صغيرة قابلة للإعادة، ثم انتقل إلى مواد مفيد المرتبطة بالوسوم والأدوات أدناه. اقرأ مرجع التنفيذ قبل استخدام أي ميزة متغيرة في الإنتاج.

مرجع متابعة

افتح المرجع التقني المرتبط بموضوع الدرس. قد تتغير واجهات البرمجة أو المسميات؛ طابق الخطوات مع الإصدار الذي تستخدمه.

طوّر مهاراتك وابنِ شيئًا حقيقيًا.محتوى ومسارات عملية تجمع بين التعلّم والتطبيق.