لقد تحولت القدرة على تشغيل الذكاء الاصطناعي على خوادمنا الخاصة من مجرد حلم يراود المتحمسين إلى ضرورة استراتيجية. اليوم، السيادة الرقمية والخصوصية هذه هي الركائز التي تدفع الشركات إلى الابتعاد عن واجهات برمجة التطبيقات التجارية وبناء أنظمة نماذج اللغة الخاصة بها، مما يمنع البيانات الحساسة من الوصول إلى سحابات الطرف الثالث.
ولتحقيق ذلك، تُستخدم أدوات مثل أصبحت أولاما أساسيةإنها بمثابة جسر بسيط لإدارة نماذج التعلم الآلي بسلاسة. لا يقتصر الأمر على تحميل نموذج والتواصل معه، بل يتعداه إلى فهم كيفية تكييف هذه التقنية مع الاحتياجات المحددة، سواءً من خلال تحسين الأجهزة أو تدريب الذكاء الاصطناعي باستخدام بياناتك الخاصة ليفهم لغة أعمالك.
أساسيات الذكاء الاصطناعي المحلي وأولاما
أولاما هي في الأساس عميل يسهل تنفيذ نماذج اللغة على جهازنا الخاص. وهي تعتمد على المكتبة اللامايُتيح ذلك تبسيط التعقيدات التقنية وتوفير تجربة استخدام أكثر سلاسة. ومن أهم مزاياه أنه يُتيح التشغيل لا يوجد اتصال بالإنترنتالقضاء على أي نوع من الرقابة الخارجية وضمان عدم خروج الرسائل والوثائق من محيط الشركة.
عندما نتحدث عن النماذج المجانية، فإننا نشير إلى تلك التي تسمح بـ الوصول إلى أوزان النموذج وهي تتمتع بتراخيص مفتوحة مثل ترخيص MIT أو Apache 2.0. ومن الأمثلة البارزة على ذلك: ديب سيك آر 1مثالي للتفكير التحليلي، اللاما 3.2 لإنشاء النصوص بشكل عام، فاي -4 من مايكروسوفت للمهام الخفيفة والفعالة، أو الميسترال ريح شماليةمتوازنة بشكل جيد جداً لاتباع التعليمات.
مفتاح الكفاءة: التكميم والأجهزة
لكي يتسع نموذج ضخم على جهاز كمبيوتر تقليدي، يتم استخدام ما يلي: توضيحتتضمن هذه العملية تقليل دقة أوزان النموذج (الانتقال من 16 أو 32 بت إلى 4 أو 8 بت)، وهو ما ضغط حجم الملف ويقلل بشكل كبير من ذاكرة الوصول العشوائي المطلوبة دون أن تنخفض جودة الاستجابة بشكل كبير.
- الرامات " الذاكرة العشوائية في الهواتف والحواسيب: بينما تكفي سعة 8 جيجابايت للنماذج الصغيرة، إلا أنها مثالية لـ تدفق السوائل مع طرازات 7B أو 13B هي ذاكرة بسعة 16 جيجابايت أو 32 جيجابايت.
- وحدة معالجة الرسومات: على الرغم من إمكانية استخدام وحدة المعالجة المركزية، إلا أن امتلاك بطاقة رسومات مع ذاكرة الوصول العشوائي للفيديو (VRAM) كافية إنه العامل الحقيقي الذي يغير قواعد اللعبة، حيث يسرع الاستدلال بشكل هائل.
- وحدة المعالجة المركزية: المعالجات الحديثة التي تدعم تعليمات AVX512 لتحسين عمليات ضرب المصفوفات.
التدريب الشخصي: من ميسترال إلى نموذج مخصص
إذا لم تكن النماذج العامة كافية، فإن الخطوة التالية هي... الكون المثالىتتضمن سير العمل الاحترافي استخدام الهندسة المعمارية ميسترال-7ب مع لورا (التكيف منخفض الرتبة) وأداة الأكسولوتل. تتيح هذه الطريقة تدريب النموذج دون تغيير جميع معاييره، مما يوفر الوقت والجهد الحسابي.
تبدأ العملية بـ مجموعة بيانات منظمة بصيغة JSONL أو YAML، حيث يتم تعريف الأدوار مثل: system, user y assistantلأغراض التدريب، من الشائع جدًا استخدام بيئات بعيدة مثل RunPodوالتي توفر وحدات معالجة الرسومات A100 بأسعار معقولة، مما يسمح لك بتشغيل الأمر axolotl train config.yaml لإنشاء المحولات.
بمجرد تدريب محول LoRA، يجب الدمج مع النموذج الأساسي استخدام برامج بايثون النصية لإنشاء نموذج ثابت. وأخيرًا، لكي يتمكن برنامج أولاما من قراءته، من الضروري حوّل النتيجة إلى تنسيق GGUFتحويلها إلى كمية (على سبيل المثال، إلى q8_0) لجعلها متوافقة مع الأجهزة المحلية.
النشر والإدارة في البيئات الداخلية
ولإدخال النموذج في مرحلة الإنتاج، فإن الخيار الأفضل هو عامل في حوض السفنمن خلال ملف docker-compose.ymlيمكننا رفع حاوية أولاما باستخدام الوصول المباشر إلى وحدة معالجة الرسومات ووحدات تخزين دائمة لتجنب فقدان النماذج عند إعادة التشغيل. يتم التسجيل النهائي عن طريق إنشاء ملف النموذجحيث نحدد درجة الحرارة (الإبداع) والسياق (num_ctx) قبل التنفيذ ollama create.
ولضمان ألا تقتصر التجربة على مجرد شاشة طرفية سوداء، فإنها تدمج افتح واجهة مستخدم الويبتتيح لك هذه الواجهة الرسومية إدارة المستخدمين، وإنشاء قوالب الرسائل، و الاتصال بخادم أولاماما عبر عنوان IP ومنفذ (عادةً 11434). إنها الأداة المثالية للأشخاص غير التقنيين للتفاعل مع الذكاء الاصطناعي الخاص بالشركة.
أوجه التآزر التجاري وحالات الاستخدام
في بيئات الشركات الأكثر تعقيدًا، توجد طبقات تنسيق مثل SoaxNG مبني على OpenStackيُتيح ذلك إنشاء أنظمة بيئية هجينة تستفيد من قابلية التوسع في الحوسبة السحابية مع الحفاظ على الاستدلال في الموقعيُعد هذا الأمر بالغ الأهمية لقطاعات مثل الرعاية الصحية أو التمويل، حيث الامتثال للائحة العامة لحماية البيانات (GDPR) ومعيار ISO 27001 فهي إلزامية.
تتضمن بعض التطبيقات العملية ما يلي:
- الأمن الإلكتروني: إنشاء تلقائي لخطط الاستجابة للحوادث بناءً على إطار عمل MITRE ATT&CK.
- عمليات التطوير: تحليل آمن للتعليمات البرمجية واقتراحات تلقائية للتصحيح.
- القانونية: المراقبة الآنية للتغييرات التنظيمية واستخراج بيانات العقود باستخدام نماذج الرؤية مثل لافا.