الأمر لا يتعلق بالمعايير
عندما بدأت اختبار نماذج لغوية مختلفة، لم أكن أبحث عن أرقام المعايير أو المعايير النظرية. كنت أريد أن أعرف كيف يبدو استخدامها فعلاً. كيف يكون تشغيل نموذج محليًا، ومدى سرعة استجابته، وما إذا كان يقدّم نتائج مفيدة ومتسقة دون أن ينحرف إلى الهلوسات.
يركّز هذا المقال على الاستخدام في العالم الحقيقي. ما الذي نجح معي. ما الذي فشل. أين تكمن الحدود. وكيف تصرّف كل نموذج عند تكليفه بمهام مثل تلخيص النص، أو مقارنة الأمثلة، أو الإجابة عن أسئلة متعددة الطبقات. هذا ليس تصنيفًا. إنها وجهة نظر شخصية عملية مبنية على استخدام متكرر.
النماذج التي بقيت في مجموعة أدواتي
بعد الكثير من الأخذ والرد، انتهيتُ إلى استخدام Ollama وOpenGPT وDeepSeek بانتظام. لقد قدّمت هذه النماذج التجربة الأكثر استقرارًا في اختباراتِي اليومية. فهي تميل إلى الحفاظ على سير خيط المحادثة بشكل أفضل من غيرها، وتُبقي على الصلة في ردودها لمدة أطول.
ليست خالية من العيوب، لكنها تتعامل باستمرار مع المهام الأساسية ومتوسطة المستوى دون الحاجة إلى عمليات إعادة ضبط أو تصحيحات مستمرة. وهذا وحده يجعلها قيّمة.
نظرة أقرب على BOLT
يستحق BOLT قسمًا خاصًا به. أستخدمه غالبًا عبر LM Studio لأنه، بحسب تجربتي، لم يندمج بسلاسة مع OpenWebUI. لكن بمجرد تشغيله، يكون سريعًا. من بين الأسرع في الاستجابة.
أظهر BOLT أداءً جيدًا في المهام التي تتضمن مخرجات منظَّمة. أشياء مثل تنسيق السجلات، وبُنى JSON البسيطة، أو عينات YAML عملت بشكل جيد على نحو مفاجئ. الأداء موثوق عندما تُشغّل مطالبات مركّزة.
ومع ذلك، فإن الإصدارات الأصغر من BOLT تعاني من المشكلات نفسها التي تعاني منها النماذج المدمجة الأخرى. فهي تهلوس وتفقد السياق عندما تصبح المطالبات أكثر تعقيدًا أو عندما تطول المحادثة.
نقطة الانهيار لدى النماذج الصغيرة
في كل مرة اختبرت فيها نماذج أصغر من 7 مليارات مُعامِل، كانت النتيجة نفسها: بدء تشغيل سريع لكن قدرات محدودة جدًا. هذه النماذج الصغيرة تنسى السياق بسرعة، وتستجيب بنص غامض أو عام، ومن السهل جدًا إرباكها وإخراجها عن المسار. إنها مفيدة إذا كنت تريد فقط التجربة أو معرفة ما إذا كان الإعداد يعمل، لكن لا ينبغي الوثوق بها في أي شيء حاسم.
إذا كانت المهمة تتطلب عمقًا أو ذاكرة، فأي نموذج أقل من 7B ليس خيارًا حقيقيًا. وحتى عند 7B، لا تزال هناك تنازلات. لقد حصلت على اتساق أفضل عند استخدام نماذج 13B، خاصة عند طرح أسئلة متعددة الخطوات أو ذات طبقات.
كيف أختبر عمليًا
اختباراتي لا تعتمد على مطالبات مصطنعة. أستخدم النماذج في مهام فعلية: تلخيص المستندات، وتحليل الملاحظات، واختبار رسائل الخطأ، وأحيانًا صياغة ردود أو مقارنات.
أستخدم أيضًا التكرار. أعطي المهمة نفسها لعدة نماذج وأقارن المخرجات. يمنحني هذا الأسلوب رؤية أوضح لمواضع قصور النموذج أو الأوقات التي يفاجئني فيها. ومع مرور الوقت، يصبح واضحًا أيّها يمكنك الاعتماد عليه وأيّها يبدو جيدًا فقط على الورق.
الحجم مهم — ولكن ليس دائمًا بالطريقة التي تظنها
لقد عملتُ مع نماذج 7B و13B، وبينما تكون نماذج 13B أكثر قدرةً واتساقًا، فإنها تتطلب أيضًا المزيد من نظامك. تحتاج إلى ذاكرة خالية كافية لتحميلها وتشغيلها بشكل صحيح، وإلا فستتعطل أو تتباطأ.
إذا كانت عتادك محدودًا، فيمكن جعل نماذج 7B تعمل. لكن عليك أن تبقى ضمن حدودها. للملخصات السريعة أو الردود لمرة واحدة، فهي مناسبة. لكن بمجرد أن تطلب منها التفكير عبر خطوات متعددة، فإنها غالبًا ما تنهار.
خلاصتي بعد كل هذا الاختبار
اختبار النماذج المحلية لا يتعلق بالعثور على أذكى نموذج. بل يتعلق بالعثور على ما يناسب حالة استخدامك ونظامك. يهمني أقل مدى ذكاء نموذج ما في صياغته، ويهمني أكثر ما إذا كان يستطيع إنهاء مهمة دون الحاجة إلى إعادة ضبط.
يمنحك الذكاء الاصطناعي المحلي الأدوات لتختار. يمكنك الاختبار والحذف والتبديل والضبط بطريقة لا تسمح بها الخدمات السحابية. هذه هي القوة. لكنه يعني أيضًا أنك بحاجة إلى أن تكون واقعيًا.
ابدأ ببساطة. تحلَّ بالصبر. ودع حالات استخدامك الخاصة ترشدك. هكذا تعلمت أكثر شيء.
هذا ليس عن استبدال الذكاء الاصطناعي السحابي. بل عن بناء شيء يخصك، يعمل وفق شروطك، ويتناسب مع احتياجاتك اليومية دون تنازل.