قد يبدو دخول عالم الذكاء الاصطناعي المحلي مهمة شاقة في البداية، لكن الحقيقة أننا نعيش عصراً ذهبياً. لم تعد بحاجة إلى مركز بيانات ضخم لإجراء استدلال النماذج ؛ فاليوم، مع فريق مُجهز جيداً، يمكنك امتلاك مساعدك الشخصي الذي لا يعتمد على الحوسبة السحابية أو الاشتراكات الشهرية.
عندما نتحدث عن تشغيل النماذج محليًا، فإننا نشير أساسًا إلى مرحلة الاستدلال ، وهي المرحلة التي يقوم فيها النموذج المُدرَّب بمعالجة البيانات الجديدة لتقديم إجابة. على عكس التدريب، الذي يُعد مهمة ضخمة تتطلب آلاف وحدات معالجة الرسومات، فإن الاستدلال أسهل بكثير، وهنا تبرز أهمية رقائق أبل بفضل كفاءتها في إدارة الطاقة وهندستها المبتكرة.
سر النجاح: الذاكرة الموحدة
إن كان هناك ما يُميّز أجهزة ماك، فهو بنية الذاكرة الموحدة (UMA) . في أجهزة الكمبيوتر الشخصية التقليدية، يجب نقل البيانات من ذاكرة الوصول العشوائي للنظام (RAM) إلى ذاكرة الوصول العشوائي للبطاقة الرسومية (VRAM)، وهنا يُهدر وقت ثمين. أما مع معالجات M4 وM3 Ultra والمعالجات المشابهة، فإن وحدة المعالجة المركزية (CPU) ووحدة معالجة الرسومات (GPU) تستخدمان نفس مجموعة الذاكرة، مما يُقلل زمن الاستجابة بشكل كبير عند معالجة الموترات.
يُعدّ هذا الأمر بالغ الأهمية عند تحميل نماذج اللغة الكبيرة (LLMs) متوسطة أو كبيرة الحجم. فعلى سبيل المثال، يمكن لجهاز Mac Studio مزود بذاكرة وصول عشوائي (RAM) كبيرة استيعاب نماذج تتطلب في أجهزة الكمبيوتر الشخصية عدة بطاقات NVIDIA A6000 ، مما يُحقق وفورات هائلة في التكاليف، والأهم من ذلك، في فاتورة الكهرباء، حيث أن استهلاك الطاقة يُشكّل جزءًا صغيرًا مما يستهلكه جهاز كمبيوتر مكتبي مُخصّص للألعاب.
التكميم والصيغ: كيفية جعل النموذج مناسبًا
لمنع نموذج يحتوي على 70 تريليون مُعامل من التسبب في تعطل جهازك، نستخدم التكميم . يتضمن هذا بشكل أساسي تقليل دقة الأرقام (الانتقال من FP32 إلى INT8 أو حتى 4 بتات)، مما يُصغّر حجم النموذج ويُسرّع الاستجابة دون أن يجعله "غبيًا" أو يتسبب في فقدان تماسكه.
- GGUF: يُعد هذا التنسيق هو المفضل لمن يستخدمون وحدة المعالجة المركزية (CPU) أو مزيجًا من وحدة المعالجة المركزية ووحدة معالجة الرسومات (GPU). وهو ملف واحد يحتوي على كل ما هو مطلوب، وهو المعيار لـ اللاما.
- GPTQ: صُممت خصيصاً للعمل على وحدات معالجة الرسومات، مما يُحسّن سرعة المعالجة.
- أجهزة الأمان: يُعد هذا خيارًا أكثر أمانًا بكثير من ملفات .bin التقليدية، حيث يمنع تنفيذ التعليمات البرمجية الضارة عند تحميل النموذج.
أدوات أساسية لإعداد بيئتك
إذا كنت لا ترغب في مواجهة صعوبات مع سطر الأوامر منذ البداية، فهناك خيارات سهلة الاستخدام للغاية. يُعدّ LM Studio على الأرجح الأداة الأسهل استخدامًا: فهو حل متكامل بواجهة رسومية تتيح لك تشغيل نماذج الذكاء الاصطناعي محليًا وإطلاقها بنقرة واحدة. يمكنك أيضًا إعداد خادم API محلي متوافق مع OpenAI لدمج الذكاء الاصطناعي في تطبيقاتك الخاصة.
من جهة أخرى، لدينا Ollama ، الخيار الأمثل لمن يفضلون البرامج الأخف وزنًا أو التي تعمل عبر سطر الأوامر. هو برنامج مفتوح المصدر ويتكامل بسلاسة مع Open WebUI ، مما يتيح لك واجهة مطابقة لـ ChatGPT ولكنها تعمل بالكامل على جهازك. يتوفر أيضًا دليل سريع لتشغيل برامج إدارة التعلم المحلية (LLMs) باستخدام Ollama . أما لمن يسعون إلى تحقيق أقصى أداء على نظام macOS، فإن إطار عمل MLX من Apple هو الخيار الأمثل للاستفادة القصوى من معالجات الشركة.
معضلة الأجهزة: قابلية النقل أم القوة الخام؟
يجد العديد من الباحثين والمطورين أنفسهم أمام خيارين. الخيار الأول هو الاستثمار الكامل في جهاز MacBook Pro M4 Max بذاكرة كبيرة (حوالي 128 جيجابايت). تكمن ميزته في سرعة التطوير : إذ يمكنك اختبار مسار RAG (الجيل المعزز للاستعادة) من أي مكان، سواء في المقهى أو على متن الطائرة، دون الحاجة إلى اتصال عن بُعد.
البديل هو جهاز Mac Studio مع حاسوب محمول خفيف الوزن. يتميز جهاز Studio بارتفاع درجة حرارته؛ إذ يمكنك تركه يعمل لساعات طويلة دون أن يصدر صوت مروحة مزعج. مع ذلك، يُضيف هذا مشكلة الوصول عن بُعد ، مما يتطلب مزامنة بيئات العمل والبيانات بين جهازين مختلفين، وهو ما قد يُعيق تدفق إبداعك.
حالات الاستخدام والقيود في العالم الحقيقي
باستخدام جهاز Mac Mini M4 أو جهاز MacBook Pro مُجهز تجهيزًا جيدًا، يمكنك إعداد أنظمة RAG مع قواعد بيانات متجهة مثل ChromaDB أو Qdrant، وإنشاء مساعدين برمجيين محليين باستخدام Aider، أو نسخ مقاطع الفيديو تلقائيًا باستخدام الذكاء الاصطناعي المحلي لاستخراج الميزات. إنه مثالي لإنشاء نماذج أولية وتقييم سلوك النماذج الكمية التي تحتوي على ما بين 7 مليارات و70 مليار مُعامل.
مع ذلك، لا تتوقع معجزات. فالتدريب المكثف للنماذج أو الضبط الدقيق المعقد ليسا من نقاط قوة هذه الأجهزة. إذا كان سير عملك يعتمد بشكل كبير على أنظمة NVIDIA CUDA ، فستواجه بعض العقبات، لأن Metal (واجهة برمجة تطبيقات Apple) ليست بديلاً سلساً، على الرغم من أن الفجوة قد تقلصت بشكل ملحوظ في مجال الاستدلال.
كاتب شغوف بعالم البايت والتكنولوجيا بشكل عام. أحب مشاركة معرفتي من خلال الكتابة، وهذا ما سأفعله في هذه المدونة، لأعرض لك كل الأشياء الأكثر إثارة للاهتمام حول الأدوات الذكية والبرامج والأجهزة والاتجاهات التكنولوجية والمزيد. هدفي هو مساعدتك على التنقل في العالم الرقمي بطريقة بسيطة ومسلية.