عندما تختبر وتشغّل نماذج اللغة محليًا، فإن الأدوات التي تستخدمها تشكّل كل شيء — من مدى سهولة البدء إلى ما إذا كان النموذج يبدو مفيدًا أو محبطًا. هذه المقالة تتناول الأدوات التي جرّبتها حتى الآن، وأيّها أعود إليه مرارًا، وما الذي نجح أو فشل في مختبر الاختبار الخاص بي.
هذا ليس تصنيفًا. إنه أقرب إلى ملاحظة شخصية من شخص جلس فعلاً وجعل هذه الأدوات تعمل على عتاد حقيقي.
الأداة التي أستخدمها أكثر من غيرها: LM Studio
في الوقت الحالي، LM Studio هو الذي أستخدمه أكثر من غيره — خاصة عند العمل مع BOLT. ليس دائمًا الأداة الأكثر جمالًا، لكنه يعمل. كان التثبيت سلسًا، ولم أواجه مشاكل تبعيات غريبة، وبمجرد أن شغّلته، عمل ببساطة.
السبب الرئيسي لتمسّكي بـ LM Studio هو أنه يتعامل بسلاسة مع نماذج معيّنة لا تعمل جيدًا في أماكن أخرى — مثل BOLT. حاولت تشغيل BOLT مع OpenWebUI، لكن دون حظ. لذلك، كلما احتجت إلى واجهة مستقرة لا تنهار أو تتجمّد، أعود إلى LM Studio.
OpenWebUI: نظيف ومألوف
ومع ذلك، أنا أيضًا أحب OpenWebUI كثيرًا. يمنحك ذلك الإحساس بواجهة أمامية تعمل عبر الويب — أشبه بـ ChatGPT في المتصفح. إنه نظيف، حديث، وكثير من المستخدمين سيشعرون بالألفة معه منذ أول نقرة.
واجهة المستخدم مهمة جدًا عندما تريد الاختبار بسرعة، أو نسخ-لصق المطالبات، أو تصفح السجل. وهو ممتاز خصوصًا عندما تتنقل بين النماذج، أو عندما تريد شيئًا لا يبدو كواجهة خلفية لـ Python.
لو كان OpenWebUI قادرًا على تشغيل BOLT بشكل صحيح، لربما استخدمته بوتيرة أكثر.
أدوات أخرى جرّبتها
لقد جرّبت أيضًا:
-
SillyTavern
-
Oobabooga WebUI
-
vLLM
كلها تقدم شيئًا فريدًا، لكن بالنسبة لسير عملي، لم أستمر في استخدامها طويلًا. إما أن واجهة المستخدم بدت مزدحمة أو أن التثبيت استغرق وقتًا طويلًا جدًا. وبعضها بدا أشبه بساحات لعب للمطورين أكثر من كونه أدوات إنتاجية فعلية.
دروس مستفادة
إذا كنت تبدأ للتو:
-
اختر LM Studio إذا كنت تريد استقرارًا سريعًا.
-
جرّب OpenWebUI إذا كنت تهتم بالواجهة وسهولة الاستخدام.
ابتعد عن “فرط الميزات” — الأدوات التي تبدو قوية لكنها تجعلك تقضي ساعات في محاولة معرفة أين توجد الإعدادات أصلًا.
في المقالة التالية، كيف يمكن للذكاء الاصطناعي المحلي أن يفعل أكثر من مجرد تجارب ممتعة.
Markku Arvekari
خبير التحول الرقمي
