كيفية عرض نموذج لغة كبير من محطة العمل المحلية الخاصة بك

لم يعد إنشاء نموذج لغوي ضخم على محطة عمل محلية مجرد نزوة لعشاق الذكاء الاصطناعي، بل أصبح ممكناً تماماً إذا توفر لديك جهاز كمبيوتر جيد، وقليل من الصبر، وفكرة واضحة عما تريد تحقيقه. بدءاً من حاسوب محمول قوي، وصولاً إلى حاسوب مكتبي مزود بمعالج رسومات عالي الأداء، أو كما في حالتك، جهاز بمعالج AMD Ryzen AI MAX+ ووحدة معالجة رسومات مدمجة مع ذاكرة وصول عشوائي مشتركة كبيرة، يمكنك إنشاء "ChatGPT خاص بك" يمكن الوصول إليه من أجهزة أخرى على شبكتك.

لا يقتصر التحدي على تثبيت أدوات مثل Ollama أو LM Studio أو GPT4All ، بل يتعداه إلى فهم كيفية الاستفادة من موارد جهازك (وحدة المعالجة المركزية، ووحدة معالجة الرسومات، ووحدة معالجة الرسومات المدمجة)، وكيفية الوصول إلى خادم ذكاء اصطناعي عن بُعد يمكنك الاتصال به من هاتفك أو حاسوبك المحمول، وكيفية اختيار النموذج والتكميم المناسبين لتجنب تعطل جهازك عند أول سؤال. سنتناول كل هذا بهدوء ومنهجية، مع التركيز على التفاصيل التقنية المهمة.

ماذا يعني تقديم شهادة الماجستير في القانون من محطة العمل المحلية الخاصة بك؟

عندما نتحدث عن "تشغيل نموذج لغوي ضخم من محطة عمل محلية"، فالأمر لا يقتصر على فتح نافذة دردشة فحسب، بل يتعلق بإنشاء خدمة يمكن الوصول إليها عبر بروتوكول HTTP (عادةً باستخدام واجهة برمجة تطبيقات من نوع OpenAI) ويمكن استخدامها من أجهزة أخرى: نصوص بايثون، تطبيقات ويب، تطبيقات جوال، أو حتى أدوات البرمجة منخفضة الكود. يعمل جهازك كخادم استدلال مصغر ضمن شبكة منزلك أو مكتبك.

يترتب على ذلك عدة آثار: أولاً، يجب أن يعمل النموذج بسلاسة على جهازك (سواء كان معالجًا مركزيًا، أو وحدة معالجة رسومية منفصلة، ​​أو وحدة معالجة رسومية مدمجة)، وثانيًا، يجب أن تستمع الخدمة على عنوان IP يمكن الوصول إليه من أجهزة كمبيوتر أخرى (وليس فقط 127.0.0.1). تُسهّل أدوات مثل Ollama وLM Studio هذه العملية بشكل كبير، حيث توفر خادمًا محليًا متوافقًا مع واجهة برمجة تطبيقات OpenAI أو مع نقاط نهاية HTTP بسيطة يمكنك استخدامها من أي لغة برمجة حديثة.

في أنظمة مثل Framework Desktop المزودة بمعالج Ryzen AI MAX+ ونظام التشغيل Pop!_OS (أو أي توزيعة لينكس أخرى)، يكون الهدف عادةً هو الاستفادة من ذاكرة الفيديو المشتركة بسعة 98 جيجابايت المخصصة لوحدة معالجة الرسومات المدمجة (iGPU) لتسريع عمليات إدارة التعلم الآلي (LLM)، بدلاً من الاعتماد كلياً على وحدة المعالجة المركزية (CPU). وهنا تبرز أهمية برامج التشغيل، وبرنامج ROCm (في حالة AMD)، وخيارات تسريع وحدة معالجة الرسومات (GPU) المتاحة في كل أداة.

إلى جانب الجوانب التقنية، هناك جانب استراتيجي: يمنحك نظام إدارة دورة حياة البيانات المحلي (LLM) مزيدًا من التحكم في التكاليف والخصوصية وزمن الاستجابة . فأنت لا تدفع مقابل الرموز، ولا تعتمد على اتصال بالإنترنت، وتبقى البيانات الحساسة داخل شبكتك. مع ذلك، تقع على عاتقك مسؤولية صيانة النظام وتحديثاته وأمنه.

متطلبات الأجهزة والأنظمة لأنظمة إدارة التعلم المحلية

قبل أن تنشغل بعمليات التثبيت، من الأفضل مراجعة متطلبات الأجهزة لتشغيل نظام إدارة التعلم من محطة العمل المحلية بكفاءة معقولة. لست بحاجة إلى مركز بيانات ضخم، ولكن عليك تحديد مواطن الاختناق: ذاكرة الوصول العشوائي (RAM)، وذاكرة الفيديو (VRAM)، ووحدة المعالجة المركزية (CPU)، ومساحة القرص.

عند تشغيل نماذج لغوية كبيرة، تُعدّ ذاكرة الوصول العشوائي ( RAM ) عادةً المورد الأساسي. تُحمّل النماذج في الذاكرة (RAM و/أو VRAM)، لذا في حال نفاد ذاكرة الوصول العشوائي، ستظهر لك أخطاء "نفاد الذاكرة" أو حتى قد يتوقف النظام عن العمل. مع 8 جيجابايت من ذاكرة الوصول العشوائي، يمكنك تجربة نماذج صغيرة جدًا (1 بايت، 3 بايت، 7 بايت مُكمّمة)، مع ملاحظة بعض التباطؤ. مع 16 جيجابايت ، يمكنك التعامل بسهولة مع نماذج 7 بايت و13 بايت مُكمّمة بشكل جيد. مع 32 جيجابايت أو أكثر ، يمكنك البدء بالعمل بجدية مع نماذج كبيرة (30 بايت، 40 بايت، 70 بايت) دون مشاكل تُذكر.

أما بالنسبة لوحدات المعالجة المركزية ، فإن معالجات سطح المكتب الحديثة تتعامل مع الاستدلال المحلي بكفاءة عالية، خاصةً مع النماذج الكمية. من الأفضل أن تحتوي على 4 أنوية فعلية على الأقل ، وإذا أمكن، 8 أنوية أو أكثر لتوليد النصوص بسرعة معقولة، لا سيما إذا كنت تتعامل مع طلبات متزامنة متعددة من أجهزة مختلفة على شبكتك.

تُحدث وحدة معالجة الرسومات (GPU) (أو وحدة معالجة الرسومات المدمجة iGPU) فرقًا شاسعًا في الأداء عندما ترغب في استجابات سلسة وعدد مناسب من الرموز في الثانية. يمكن لوحدة معالجة رسومات منفصلة بذاكرة وصول عشوائي للفيديو (VRAM) لا تقل عن 8 جيجابايت (مثل RTX 3060 أو ما شابه) التعامل بسهولة مع النماذج متوسطة الأداء. في حالتك، مع معالج Ryzen AI MAX+ ووحدة معالجة رسومات مدمجة iGPU بذاكرة وصول عشوائي للفيديو مشتركة تبلغ 98 جيجابايت ، يكمن التحدي في جعل حزمة الذكاء الاصطناعي (Ollama، llama.cpp، ROCm، إلخ) تكتشف وحدة معالجة الرسومات المدمجة iGPU وتستخدمها. في بعض الأحيان، ستحتاج إلى تعديل متغيرات البيئة مثل HIP_VISIBLE_DEVICES أو ROCR_VISIBLE_DEVICES ، والتحقق من برامج التشغيل، ومراجعة سجلات النظام للتأكد من استخدام وحدة معالجة الرسومات.

تُعدّ مساحة التخزين عاملاً مهماً أيضاً: تتراوح أحجام ملفات النماذج من بضعة غيغابايتات إلى مئات الغيغابايتات. قد يبلغ حجم النموذج الصغير المُكمّم حوالي 2 غيغابايت، والمتوسط ​​حوالي 5 غيغابايتات، أما النماذج الكبيرة فتبلغ 40 غيغابايت أو أكثر. بل إن هناك نماذج كبيرة الحجم تتجاوز تيرابايت واحد. من الحكمة حجز مساحة خالية تتراوح بين 20 و100 غيغابايت إذا كنت تخطط لاختبار عدة نماذج دون حذف الملفات باستمرار.

أخيرًا، نظام التشغيل . يمكن لأنظمة Windows 10/11 وLinux وmacOS تشغيل برامج إدارة التعلم المحلية (LLMs). في بيئات مثل بيئتك، مع نظام Pop!_OS وأجهزة AMD، يُفضّل عادةً استخدام Linux للاستفادة بشكل أفضل من ROCm وتكامل وحدة معالجة الرسومات (GPU) مع Ollama أو llama.cpp. إذا واجهتَ مشاكل كثيرة مع تعريفات التشغيل في توزيعة معينة، فقد يكون من المفيد التبديل إلى توزيعة أخرى أكثر توافقًا مع جهازك (مثل Ubuntu أو Fedora).

المفاهيم الأساسية: نماذج الخطية الخطية، والمحولات، والتكميم

لتجنب الدخول في هذا المجال دون معرفة مسبقة، من المفيد امتلاك فهم أساسي لماهية نماذج اللغة الكبيرة . نموذج اللغة الكبير هو شبكة عصبية تُدرَّب ذاتيًا على كميات هائلة من النصوص للتنبؤ بالكلمة التالية في سلسلة من النصوص، ومن ثم توليد الاستجابات، أو الترجمة، أو التلخيص، أو البرمجة.

تستخدم معظم نماذج اللغة الحديثة بنية Transformer ، التي تعمل عن طريق تحويل الكلمات إلى متجهات رقمية (تضمينات) . تُعالج هذه المتجهات عبر طبقات من الانتباه والتغذية الأمامية، لتعلم الأنماط الإحصائية من اللغة: أي الكلمات التي تميل إلى الظهور معًا وفي أي سياقات. في كل خطوة، يُقدّر النموذج احتمالية الكلمة التالية بناءً على التسلسل السابق ومعايير أخرى قابلة للتكوين.

ينقسم المحوّل عادةً إلى جزأين أساسيين: المُشفّر ، المسؤول عن "فهم" النص المُدخل وإنشاء تمثيل سياقي، والمُفكّك ، الذي يأخذ هذا التمثيل ويُنتج رموز الإخراج واحدًا تلو الآخر. وبينما تستخدم أنظمة الدردشة واسعة النطاق حاليًا بنى تعتمد على المُفكّك فقط، تبقى الفكرة الأساسية كما هي: تتم معالجة التسلسل وإنشاء الرموز حتى تكتمل الاستجابة.

أثناء عملية التوليد، تلعب معايير مثل درجة الحرارة ، وأعلى k، وأعلى p، وغيرها، دورًا في تحديد مدى "مخاطرة" النموذج عند اختيار كلمات أقل احتمالًا. ويمكن لتغيير هذه الإعدادات أن يجعل الذكاء الاصطناعي يستجيب بشكل أكثر إبداعًا أو أكثر تحفظًا، وهو أمر بالغ الأهمية عند إعداد خدمة عن بُعد لمستخدمين أو تطبيقات أخرى.

يُعدّ التكميم مفهومًا أساسيًا لتشغيل نماذج التعلم الآلي على محطة عمل . فبدلًا من تخزين أوزان الشبكة كأعداد عشرية ذات 16 أو 32 بت، يتم تحويلها إلى أعداد صحيحة ذات 8 أو 4 أو حتى 2 بت. يُقلّل هذا بشكل كبير من حجم ملف النموذج والذاكرة المطلوبة لتشغيله، على حساب انخفاض طفيف في دقة الاستجابات.

عمليًا، يمكن لتحويل نموذج 32 بت إلى تنسيق مثل Q4_K_M أو ما شابه أن يقلل حجم نموذج بحجم 40 جيجابايت إلى النصف أو أكثر. تساعد مقاييس مثل التعقيد في قياس هذا التأثير: تشير القيمة المنخفضة إلى جودة أفضل، وستلاحظ زيادة طفيفة عند تطبيق التكميم، ولكن غالبًا ما لا يلاحظ المستخدم الفرق في الاستخدام الفعلي بينما يتحسن الأداء بشكل ملحوظ.

مزايا تقديم برنامج ماجستير القانون من جهازك الخاص

يُوفر إعداد خادم الذكاء الاصطناعي على جهاز الكمبيوتر الشخصي أو محطة العمل الخاصة بك العديد من المزايا الواضحة مقارنةً بالاعتماد المستمر على واجهات برمجة التطبيقات السحابية. أولها الخصوصية والتحكم الكامل في بياناتك . فكل ما ترسله إلى النموذج (المطالبات، والمستندات، وسجلات المحادثات) يبقى على جهازك دون المرور عبر خوادم خارجية، وهو أمر بالغ الأهمية إذا كنت تتعامل مع معلومات طبية أو قانونية أو مالية حساسة.

هناك أيضًا مسألة التكلفة والأداء . فلكل استدعاء لواجهة برمجة تطبيقات مثل GPT-4 أو Claude أو غيرها من النماذج التجارية سعرٌ لكل مليون رمز مميز. إذا كان تطبيقك يُجري عددًا كبيرًا من الطلبات، فقد ترتفع التكلفة بشكلٍ كبير. أما مع النموذج المحلي، فبالإضافة إلى تكلفة الأجهزة والكهرباء، لا تدفع مقابل كل استعلام . وبفضل عدم اعتمادك على الشبكة، عادةً ما تُحسّن زمن الاستجابة: إذ يكون وقت الحصول على الرمز المميز الأول وسرعة توليده أفضل، خاصةً على الشبكات البطيئة أو غير المستقرة.

ومن المزايا القوية الأخرى إمكانية التخصيص . إذ تتيح العديد من أدوات التنفيذ المحلية تعديل معلمات النموذج، وتحميل قوالب مطالبات محددة، أو حتى إعادة استخدام الأوزان من نماذج أخرى لتحسين الأداء. وقد تم إنشاء مجتمع ضخم من النماذج المشتقة لحالات استخدام مختلفة، بدءًا من مساعدي البرمجة وصولًا إلى روبوتات الدردشة الإبداعية أو النماذج المتخصصة في المستندات القانونية.

من منظور استراتيجية التكنولوجيا، يقلل تشغيل أنظمة إدارة دورة حياة التطبيقات (LLMs) على بنيتك التحتية الخاصة من الاعتماد على موردين محددين . فأنت بذلك تتجنب تقلبات الأسعار، وحدود الاستخدام، وقيود المحتوى، وانقطاعات الخدمة. وإذا قررت لاحقًا دمج ذلك مع الخدمات السحابية (على سبيل المثال، في أوقات ذروة الاستخدام)، يمكنك تصميم بنى هجينة توزع الحمل بين أجهزتك المحلية والسحابة.

لكن الأمر ليس بهذه البساطة: فالسيطرة تعني أيضاً تحمل مسؤوليات إدارة النموذج وتحديثاته وأمنه ومراقبته . إذا كنت ستستخدم هذا الخادم لأي غرض أكثر جدية من مجرد تجارب منزلية، فمن الحكمة التخطيط مسبقاً لكيفية تسجيل المعلومات وإدارة إصدارات النموذج ومراجعة سلوكه.

الأدوات الرئيسية لتقديم برامج الماجستير في القانون محلياً

لإعداد خدمة ذكاء اصطناعي يمكن الوصول إليها من أجهزة أخرى، لديك العديد من الأدوات المتاحة. بعضها مصمم خصيصًا للمستخدمين الذين لا يرغبون في التعامل مع المحطات الطرفية، بينما البعض الآخر أكثر تخصصًا ولكنه يوفر تحكمًا أكبر. من أهم هذه الأدوات في حالتك: Ollama وLM Studio وGPT4All وبيئات llama.cpp/ROCm ، بالإضافة إلى منصات مثل Comfy لإنشاء الصور.

أولاما هي طبقة سهلة الاستخدام مبنية على ملف llama.cpp، تتيح لك تنزيل النماذج وتشغيلها وإدارتها مباشرةً من سطر الأوامر، كما توفر واجهة برمجة تطبيقات HTTP على المنفذ 11434 افتراضيًا. تدعم أولاما أنظمة ويندوز وماك ولينكس، وتتميز بقوتها الفائقة على الأجهزة المزودة بمعالجات رسوميات NVIDIA أو AMD ذات تهيئة جيدة. يمكنك تشغيلها على نظام Pop!_OS بسلاسة تامة طالما لديك برامج التشغيل المناسبة.

يتميز برنامج LM Studio بواجهة رسومية سهلة الاستخدام للبحث عن نماذج الذكاء الاصطناعي على منصة Hugging Face، وتنزيلها، والتفاعل معها. كما يوفر وضع خادم محلي متوافق مع واجهة برمجة تطبيقات OpenAI ، مما يجعله مثاليًا لدمجه في تطبيقاتك كما لو كنت تستخدم GPT-4، ولكن مجانًا ودون الحاجة إلى استخدام شبكتك. يدعم البرنامج أنظمة Windows و macOS و Linux، ويعمل بكفاءة عالية مع وحدات معالجة الرسومات الحديثة.

من ناحية أخرى، يجمع برنامج GPT4All بين واجهة رسومية بسيطة وأدوات سطر الأوامر. وهو مصمم للمستخدمين الذين يرغبون في حل وسط: إمكانية استخدام دردشة محلية، بالإضافة إلى ميزات أكثر تقدماً عبر سطر الأوامر أو التكامل مع مشاريع أخرى. يعمل البرنامج بكفاءة دون الحاجة إلى وحدة معالجة رسومية (GPU)، معتمداً فقط على وحدة المعالجة المركزية (CPU)، مما يجعله مناسباً للأنظمة التي تفتقر إلى تسريع رسومي قوي.

في مجال الرسومات، تُعدّ Comfy منصة مفتوحة المصدر شائعة جدًا لإنشاء الصور وتحريرها باستخدام الذكاء الاصطناعي . ورغم أنها ليست مصممة خصيصًا لبرامج إدارة التعلم، إلا أنها تتناسب جيدًا مع إعداد الذكاء الاصطناعي المحلي الأكثر شمولًا: حيث يمكنك استخدام Ollama أو LM Studio للنصوص، وComfy للصور، وكل ذلك يعمل من محطة العمل الخاصة بك.

إذا أردتَ التوسع إلى أقصى حد، فإن المنصات المبنية على معالج AMD Ryzen AI Max+ مع ROCm و llama.cpp قادرة على تشغيل نماذج تصل إلى تريليون مُعامل بطريقة موزعة عبر مجموعات محلية، مُكمّمة، ومُحسّنة للغاية. هذا السيناريو أكثر شيوعًا لدى الشركات التقنية الناشئة الطموحة منه لدى المستخدم المنزلي، ولكنه يُثبت أن الاستدلال المحلي واسع النطاق قابل للتحقيق تمامًا.

أولاما على نظام لينكس: التثبيت والتكوين والاستخدام كخادم

بالعودة إلى مثال عملي، وبما يتوافق مع بيئتك، يُعدّ Ollama على نظام Linux خيارًا ممتازًا لتشغيل برنامج إدارة التعلم من محطة العمل الخاصة بك. عادةً ما يتم التثبيت الرسمي، على توزيعات مثل Pop!_OS أو Ubuntu، باستخدام أمر واحد فقط:

يقوم الأمر `curl -fsSL https://ollama.com/install.sh | sh` بتنزيل وتثبيت الخدمة، التي تعمل في الخلفية باستخدام systemd. بعد التثبيت، يقوم Ollama بتنزيل النماذج إلى مجلد داخلي (في Linux، يكون هذا عادةً `/usr/share/ollama /.ollama/models` ما لم تقم بتغيير المسار) ويبدأ تشغيل واجهة برمجة التطبيقات (API) على العنوان 127.0.0.1:11434.

لتكييفه مع احتياجاتك، يمكنك تكوين العديد من متغيرات البيئة عن طريق تحرير وحدة systemd: باستخدام الأمر sudo systemctl edit ollama.service، يمكنك إضافة كتلة [Service] حيث تحدد خيارات مثل OLLAMA_MODELS (مسار مخصص للنماذج)، و OLLAMA_HOST (على سبيل المثال، 0.0.0.0:11434 حتى تتمكن الأجهزة الأخرى على الشبكة من الاتصال)، و OLLAMA_ORIGINS للتحكم في CORS، أو OLLAMA_KEEP_ALIVE لتحديد المدة التي يبقى فيها النموذج في الذاكرة بعد آخر طلب.

بعد الحفظ، شغّل الأمر ` sudo systemctl daemon-reload` ثم `sudo systemctl restart ollama` لتطبيق التغييرات. من المهم مراجعة سجلات Ollama ، والتي يمكن الوصول إليها في Linux باستخدام الأمر `sudo journalctl -u ollama` (يمكنك إضافة `-f` للمراقبة في الوقت الفعلي أو `-n 100` لعرض آخر 100 سطر فقط)، لأنك ستعرف من خلالها ما إذا كان النظام يتعرف على وحدة معالجة الرسومات (GPU)، أو ما إذا كانت هناك أخطاء في CUDA/ROCm، أو ما إذا كان يستخدم وحدة المعالجة المركزية (CPU) فقط.

ستجد في سجلات النظام سطرًا يحمل رسالة "جارٍ البحث عن وحدات معالجة رسومية متوافقة"، وإذا كان كل شيء يعمل بشكل صحيح، فستجد سطرًا آخر يشير إلى العثور على وحدة معالجة رسومية قابلة للاستخدام. أما إذا رأيت رسالة "لم يتم اكتشاف أي وحدات معالجة رسومية متوافقة"، فهذا يعني أن برنامج Ollama يعتمد كليًا على وحدة المعالجة المركزية ، وفي هذه الحالة، ستحتاج إلى التحقق من برامج تشغيل AMD ومتغيرات البيئة (مثل HIP_VISIBLE_DEVICES وROCR_VISIBLE_DEVICES).

مع تشغيل Ollama، يمكنك إدارة النماذج باستخدام أوامر مثل `ollama pull llama3.2:1b` (لإلغاء التحميل)، و`ollama run llama3.2:1b` (للتنفيذ التفاعلي)، و`ollama list` (لعرض قائمة النماذج)، و`ollama show` (للاطلاع على التفاصيل)، و`ollama rm` (للحذف)، أو `ollama ps` (للاطلاع على النماذج المحملة في الذاكرة وما إذا كانت تستخدم وحدة المعالجة المركزية أو وحدة معالجة الرسومات). يتيح لك الأمر `ollama stop <model>` إلغاء تحميل نموذج من الذاكرة إذا لم تعد بحاجة إليه.

اختيار النماذج وتصنيفها: الحجم، والقياس الكمي، والمتغيرات

بمجرد تشغيل خادمك، ستحتاج إلى تحديد الطراز المناسب لتطبيقاتك وأجهزتك. ستجد على موقع Ollama الإلكتروني أو في كتالوجات LM Studio قائمة ضخمة من الطرازات بأسماء قد تبدو مربكة بعض الشيء في البداية، لكنها في الواقع مفيدة للغاية.

من جهة، هناك الحجم ، الذي يُقاس عادةً بوحدات "B" (مليارات المعاملات): 1B، 3B، 7B، 13B، 32B، 70B، إلخ. زيادة عدد المعاملات تعني عمومًا معرفةً أكبر وأداءً أفضل، ولكنها تعني أيضًا استهلاكًا أعلى لذاكرة الوصول العشوائي (RAM) وذاكرة الفيديو (VRAM) . إذا كانت محطة العمل لديك تعمل بكامل طاقتها أو كنت بحاجة إلى زمن استجابة منخفض مع وجود العديد من المستخدمين في وقت واحد، فقد يكون من الأنسب استخدام نموذج مُحسَّن بسعة 7B أو 13B بدلاً من نموذج بطيء يستهلك موارد كثيرة.

ثم هناك التكميم ، مع تسميات مثل Q2_K وQ3_K_M وQ4_K_S وq8_0 وfp16 وfp32، إلخ. كلما انخفض الرقم (Q2 مقابل Q8)، زاد ضغط النموذج وقلّ استهلاكه للذاكرة، ولكن مع فقدان في الدقة. تُعتبر المتغيرات التي تنتهي بالحرف K (K_S وK_M وK_L) عمومًا توازنًا بين الحجم والجودة ، بينما يعني fp16 أو fp32 عدم التكميم عمليًا، مما يوفر أعلى جودة على حساب استهلاك الموارد.

بالإضافة إلى ذلك، سترى اختلافات بناءً على نوع الاستخدام : نماذج مصنفة على أنها تعليمات (مصممة لاتباع التعليمات)، ومحادثة (محادثة عامة)، وبرمجة (برمجة)، ورؤية (متعددة الوسائط مع الصور)، وما إلى ذلك. لتقديم مساعد عام للأجهزة الأخرى، سترغب عادةً في شيء مثل المحادثة أو التعليمات، بينما بالنسبة لخلفية توليد التعليمات البرمجية، سيكون نموذج التعليمات البرمجية مثل CodeLlama أو DeepSeek Coder أفضل.

أخيرًا، ستجد غالبًا علامة " الأحدث" . هذا لا يعني أنه أحدث طراز، بل هو نوع من "الإصدار الافتراضي الموصى به": عادةً ما يكون خيارًا وسطًا بين الحجم والجودة ومتطلبات الأجهزة. إذا كنت غير متأكد من أين تبدأ، فإن "الأحدث" خيار جيد للتجربة أولًا.

وضع الخادم المتوافق مع LM Studio و OpenAI

إذا كنت تفضل أسلوبًا مرئيًا أكثر، وتهتم بشكل خاص بعرض واجهة برمجة تطبيقات (API) من نوع OpenAI من جهازك، فإن LM Studio أداة ملائمة للغاية. بعد تنزيل إصدار Windows أو macOS أو Linux من موقعه الإلكتروني، يمكنك تثبيته كأي تطبيق آخر، وعند فتحه، ستجد محرك بحث مدمجًا للنماذج المستضافة على منصات مثل Hugging Face.

في برنامج LM Studio، يمكنك تصفية النتائج حسب الحجم ونوع المهمة وتوافق الأجهزة. بالنسبة للأنظمة التي تحتوي على معالج مركزي وذاكرة وصول عشوائي (RAM) بسعة 8 جيجابايت فقط ، ستحتاج إلى استخدام نماذج صغيرة الحجم ذات تكميم عالٍ. إذا كانت لديك ذاكرة وصول عشوائي (RAM) بسعة تزيد عن 16 جيجابايت ، يمكنك الانتقال بسهولة إلى نماذج بحجم 7 أو 13 بايت. مع وحدة معالجة رسومية (GPU) وذاكرة وصول عشوائي (RAM) بسعة 16 جيجابايت (أو جهاز Mac مزود بقرص M1/M2)، يمكنك تجربة نماذج متوسطة الحجم، ومع وحدة معالجة رسومية (GPU) وذاكرة وصول عشوائي (RAM) بسعة 32 جيجابايت، يمكنك الوصول إلى نماذج بحجم 40 بايت دون أي مشكلة، مع تعديل التكميم وفقًا لذلك.

بعد تنزيل النموذج، يتيح لك LM Studio الدردشة مباشرةً من الواجهة، مع توفير إحصائيات حول استخدام الرموز وسرعة الاتصال. يمكنك فتح عدة محادثات، وتغيير معلمات الإنشاء في اللوحة الجانبية، ومعاينة سلوك كل نموذج من خلال مطالبات حقيقية. يُعد هذا مفيدًا قبل تحديد النموذج الذي ستُقدمه كخدمة عن بُعد لتطبيقاتك.

الجزء الأكثر إثارة للاهتمام هو خيار "الخادم المحلي" . بتفعيله باستخدام زر "بدء الخادم"، يقوم LM Studio بتشغيل خادم على جهازك يحاكي واجهة برمجة تطبيقات OpenAI . هذا يعني أنه من خلال كود Python أو JavaScript أو أي كود آخر، يمكنك الاستمرار في استخدام عميل OpenAI، ولكن بالإشارة إلى http://localhost:1234/v1 (أو أي منفذ آخر تقوم بتكوينه) بدلاً من خوادم OpenAI الفعلية.

على سبيل المثال، في بايثون، يمكنك استخدام ما يلي: تعريف OpenAI(base_url="http://localhost:1234/v1", api_key="not-needed") ثم إنشاء عمليات إكمال باستخدام النموذج "local-model" أو أي اسم آخر قمت بتكوينه. من الخارج، يبدو الأمر كما لو أنك تستدعي GPT-4، لكنك في الواقع تتواصل مع نموذج التعلم الآلي المحلي (LLM) الخاص بك، والذي يعمل على محطة العمل ويطبق قواعد الخصوصية والتكلفة الخاصة بك.

تتيح هذه الميزة، المتوافقة مع تنسيق OpenAI، سهولة تطبيق البنى الهجينة : حيث يمكنك جعل برنامجك يستخدم النموذج المحلي أولاً، وفي حال حدوث أخطاء، أو زمن استجابة غير مقبول، أو الحاجة إلى نموذج ضخم جدًا، يمكنك اللجوء مؤقتًا إلى واجهة برمجة تطبيقات خارجية مدفوعة. وبهذه الطريقة، تحافظ على المرونة دون التضحية بتوفير التكاليف والتحكم الذي يوفره الاستدلال المحلي.

الأداء، والمشاكل الشائعة، وكيفية تحسينها

بمجرد تشغيل النموذج وتفعيل الخادم، يحين وقت التعامل مع الأداء الفعلي والأخطاء الشائعة . أول ما ستواجهه عادةً هو رسائل "ذاكرة غير كافية" أو "نفاد الذاكرة" عند محاولة تحميل نماذج أكبر من سعة ذاكرة الوصول العشوائي (RAM) أو ذاكرة الفيديو (VRAM). يتضمن الحل عادةً إغلاق التطبيقات التي تستهلك موارد كثيرة ، أو اختيار مستوى تكميم أعلى (على سبيل المثال، Q4 بدلاً من Q8)، أو ببساطة تقليل حجم النموذج.

إذا اخترت استخدام وحدة معالجة الرسومات (GPU) أو وحدة معالجة الرسومات المدمجة (iGPU) في معالج Ryzen AI MAX+ ولاحظت أن النظام يعود بشكل متكرر إلى وضع وحدة المعالجة المركزية (CPU) فقط، فمن المحتمل وجود مشكلة في تعريفات وحدة معالجة الرسومات أو في اكتشافها . في نظام ويندوز، تأكد من تحديث تعريفات NVIDIA/AMD وأن أداة التشغيل (LM Studio، Ollama، إلخ) مُفعّلة فيها خاصية تسريع وحدة معالجة الرسومات. أما في نظام لينكس، فتحقق من ROCm ومتغيرات البيئة وسجلات النظام للتأكد من اكتشاف وحدة معالجة الرسومات.

من مصادر المشاكل الأخرى تحميل النماذج التالفة أو غير المكتملة . إذا لم يتم تحميل نموذج أو توقف البرنامج فور تشغيله، فقد يكفي أحيانًا حذفه من البرنامج (مثلاً، باستخدام الأمر `ollama rm` لحذف المجلد في LM Studio) ثم إعادة تحميله. تذكر أن نموذجًا بحجم 30 أو 40 جيجابايت تم تحميله جزئيًا لن يعمل تلقائيًا.

في بيئات المعالجة المركزية فقط، الشكوى الأكثر شيوعًا هي بطء عملية التوليد . وهذا أمر طبيعي، فالنماذج منخفضة المستوى تستهلك موارد كثيرة. لتحسين ذلك، ركّز على النماذج الأصغر حجمًا والمُكمّمة جيدًا، وزِد عدد الخيوط التي يمكن للأداة استخدامها، وتأكد من عدم وجود تباطؤ حراري في المعالج. أحيانًا، يُحدث تغيير المعجون الحراري أو تحسين تهوية صندوق الحاسوب فرقًا أكبر مما تتوقع.

إذا كنت ترغب في تشغيل نظام إدارة دورة حياة التطبيقات (LLM) على أجهزة أخرى في منزلك أو مكتبك، فلا تنسَ مراجعة إعدادات الشبكة والأمان . إنّ إتاحة واجهة برمجة التطبيقات (API) على العنوان 0.0.0.0 تعني أن أي جهاز على الشبكة يمكنه الوصول إلى خادمك، وهو أمر مفيد ولكنه ينطوي على مخاطر. يمكنك تقييد الوصول باستخدام جدران الحماية، أو الشبكات المنفصلة، ​​أو المصادقة على مستوى التطبيق، خاصةً إذا كنت تتعامل مع بيانات حساسة أو إذا كانت محطة عملك متصلة بالإنترنت.

إلى جانب هذه المشكلات الأساسية، تتطلب عمليات النشر الأكثر جدية للشركات الناشئة أو المؤسسات مراعاة المراقبة، والتسجيل المنظم، ونسخ النماذج الاحتياطية، واستراتيجيات التحديث . فالتجربة المنزلية لا تُقارن ببناء منتج تجاري حيث تُصبح النماذج عنصرًا أساسيًا في العمل.

باختصار، يتطلب تشغيل نموذج لغوي ضخم من محطة عمل محلية الجمع بين أجهزة جيدة، وأدوات مناسبة، وإعدادات دقيقة . باستخدام معالج مركزي حديث، وذاكرة وصول عشوائي كافية، ووحدة معالجة رسومية (GPU) أو وحدة معالجة رسومية مدمجة (iGPU) مدعومة بشكل جيد، ومنصات مثل Ollama أو LM Studio، يمكنك بناء بنية تحتية خاصة بك للذكاء الاصطناعي، يمكن الوصول إليها من جميع أجهزتك، مع تحكم دقيق في التكاليف والخصوصية وزمن الاستجابة، وهو ما لا تستطيع حلول الحوسبة السحابية بالكامل تحقيقه دائمًا.