La الذكاء الاصطناعي يعمل محليًا على نظام التشغيل ويندوز 11 لم يعد الأمر مقتصراً على المختبرات أو الشركات الكبرى. اليوم، يمكنك تشغيل نماذج متقدمة مباشرةً على جهاز الكمبيوتر الخاص بك، دون الاعتماد على الحوسبة السحابية، مستفيداً من وحدة المعالجة المركزية ووحدة معالجة الرسومات، وحتى وحدة المعالجة العصبية إذا كان جهازك متطوراً. والمفتاح لتحقيق ذلك بسهولة هو... بيئة تشغيل ONNX مدمجة مع Windows ML و .NET.
سنرى في السطور التالية، بهدوء ولكن دون لف ودوران، كيفية استخدام الذكاء الاصطناعي المحلي مع ONNX Runtime على نظام التشغيل Windows 11ما هو ONNX وبيئة تشغيله، وكيف يتكامل مع Windows ML، وما تحتاج إلى تثبيته، وكيفية إعداد أمثلة واقعية في .NET/WinUI 3، وكيفية الاستفادة من DirectML وتسريع الأجهزة، وما هي السيناريوهات العملية التي يمكنك تغطيتها (تصنيف الصور، وتحويل الكلام إلى نص، ونماذج اللغة المحلية، وRAG، إلخ). سترى بعض التعليمات البرمجية، لكن التركيز ينصب على فهمك للتدفق الكامل لـ قم بتحميل نماذج ONNX وإعدادها وتشغيلها على جهازك.
ما هو ONNX وما هو دور ONNX Runtime في نظام التشغيل Windows 11؟
المعيار ONNX (تبادل الشبكات العصبية المفتوحة) هو تنسيق مفتوح مصمم لوصف نماذج الشبكات العصبية بطريقة قابلة للتشغيل البيني. ببساطة: يمكنك قم بتدريب نموذج في PyTorch أو TensorFlowقم بتصديره إلى ONNX ثم استخدمه على نظام التشغيل Windows، أو في السحابة، أو على الويب، أو أينما تريد، دون إعادة كتابة كل شيء من الصفر.
Un نموذج ONNX يشمل ذلك بنية الشبكة (الطبقات، والوصلات، وأنواع العمليات)، والأوزان الناتجة عن التدريب، وتعريف المدخلات والمخرجات. وبفضل ذلك، تستطيع الأدوات وبيئات التشغيل المختلفة فهمها بدقة. ما هي البيانات التي يتوقعونها، وكيفية معالجتها، وما الذي يعيدونه؟على سبيل المثال، يستقبل نموذج تصنيف الصور صورة معالجة مسبقًا ويعيد متجه احتمالية لكل فئة.
وهو يعتمد على ذلك التنسيق القياسي وقت تشغيل ONNXوهو محرك تشغيل مُحسَّن لتشغيل هذه النماذج على منصات متعددة. يوفر هذا المحرك واجهة برمجة تطبيقات موحدة لـ:
- تحميل نماذج ONNX من القرص أو الذاكرة.
- إنشاء جلسات استدلال مع خيارات تنفيذ مختلفة.
- ربط مزودي تنفيذ الطلبات (موفرو التنفيذ) لوحدة المعالجة المركزية ووحدة معالجة الرسومات ووحدة المعالجة العصبية.
- قم بتغذية النموذج بموترات الإدخال واسترجاع أجهزة شد الخرج.
في نظام التشغيل Windows 11، يتم دمج ONNX Runtime بشكل أصلي من خلال ويندوز إم إل ونظام بيئي مجموعة تطوير تطبيقات ويندوز و DirectMLيُمكّن هذا تطبيقات سطح المكتب الخاصة بك، سواء كانت مكتوبة بلغة C# أو WinUI 3 أو WPF أو حتى تطبيقات الويب التي تستخدم WebNN، من الاستفادة من تسريع الأجهزة دون عناء برامج التشغيل ومجموعات تطوير البرامج الخاصة بالشركات المصنعة.
مزايا استخدام الذكاء الاصطناعي محلياً مقابل استخدامه في السحابة
العمل مع نماذج الذكاء الاصطناعي المحلية في نظام التشغيل ويندوز 11 يتمتع هذا النظام بعدة مزايا واضحة للغاية مقارنة بالاعتماد بشكل حصري على الخدمات عن بعد مثل ChatGPT أو Gemini أو غيرها:
أولا ، خصوصية البيانات والسرية يتحسن الأداء بشكل ملحوظ لأن المعالجة تتم على جهازك الخاص. عند تشغيل نموذج ONNX على جهاز الكمبيوتر الخاص بك، لا تغادر مستنداتك أو ملفاتك الصوتية أو صورك أو سجلاتك الطبية شبكتك أبدًا، مما يقلل بشكل كبير من خطر تسريب المعلومات أو إساءة استخدامها.
وهناك عامل آخر أيضًا التكلفة والتحكممن خلال الاستغناء عن الطلبات المتكررة لواجهة برمجة تطبيقات سحابية مدفوعة، تتجنب الفواتير غير المتوقعة، وتستطيع نشر حلول قابلة للتطبيق على نطاق واسع في جميع أنحاء المؤسسة دون مضاعفة تكاليف الاشتراك. تستثمر في الأجهزة مرة واحدة فقط، وتحصل على أقصى استفادة منها مع ONNX Runtime وWindows ML.
La قليل من الكمون هذه ميزة أخرى. عند استخدام تقنيات استدلال الرؤية الحاسوبية، أو المساعدين السياقيين، أو التعرف على الكلام، تُضيف كل عملية إرسال واستقبال إلى السحابة أجزاءً من الثانية. أما تشغيل النموذج محليًا فيُقلل من زمن الاستجابة ويُحسّن سلاسة الأداء، وهو أمر بالغ الأهمية في التطبيقات التفاعلية أو على الأجهزة الطرفية.
وأخيرا وليس آخرا هو الاستقلال عن اتصال الإنترنتإذا كان تطبيقك بحاجة إلى التشغيل على متن طائرة، أو في مصنع بعيد، أو في أي بيئة ذات شبكة محدودة، فإن تضمين نماذج ONNX داخل التطبيق نفسه (على سبيل المثال، داخل MSIX) يضمن استمرار عمل الذكاء الاصطناعي بسلاسة تامة، تمامًا كما هو الحال في PhotoPrism مع الذكاء الاصطناعي المحلي.
ويندوز إم إل، ووقت تشغيل ONNX، ودايركت إم إل: كيف تتكامل جميعها معًا
في بيئة ويندوز 11 الحديثة، يعمل Windows ML كطبقة وسيطة يوحّد هذا النظام إدارة وحدة المعالجة المركزية (CPU) ووحدة معالجة الرسومات (GPU) ووحدة معالجة الشبكات العصبية (NPU) لاستنتاج نماذج الذكاء الاصطناعي. وتتمثل مهمته في تنسيق موارد الأجهزة المتاحة لضمان تنفيذ نموذج ONNX بأعلى كفاءة ممكنة، دون الحاجة إلى التعامل مع تفاصيل كل شريحة على حدة.
ويندوز إم إل هو متكامل بشكل وثيق مع ONNX Runtimeيعيد استخدام واجهات برمجة التطبيقات الخاصة به، ويعتمد على موفري التنفيذ، ويفوض إليه عملية تجميع النموذج وتحسينه. كما تتولى مايكروسوفت أيضًا... توزيع وصيانة كل من ONNX Runtime وEPs من مختلف الشركات المصنعةهذا يبسط بشكل كبير عملية تغليف تطبيقاتك ويقلل من الاعتماد على الموارد الخارجية.
أحد المكونات الرئيسية في هذا اللغز هو دايركتملطبقة التجريد التي تتيح لك تشغيل نماذج التعلم الآلي من خلال الاستفادة من وحدة معالجة الرسومات (ووحدة معالجة الشبكات العصبية في الأنظمة المتوافقة) بطريقة موحدة. يوفر ONNX Runtime نقطة نهاية مخصصة لـ DirectML، مما يتيح لك أنشئ جلسات استدلال تستخدم تلقائيًا وحدة المعالجة المركزية أو وحدة معالجة الرسومات أو وحدة المعالجة العصبية، وذلك حسب الموارد المتاحة على جهاز الكمبيوتر..
كبار الشركات المصنعة مثل AMD، إنتل، إنفيديا، وكوالكوم يتعاونون مع مايكروسوفت لتوفير وحدات معالجة محسّنة: تدمج AMD تقنية الذكاء الاصطناعي في معالجات Ryzen، وتجمع إنتل بين OpenVINO وWindows ML، وتوفر NVIDIA تقنية TensorRT لوحدات معالجة الرسومات RTX، وتُحسّن كوالكوم أداء وحدة المعالجة العصبية Snapdragon X. بفضل ذلك، يمكن لنماذج ONNX نفسها الاستفادة من أجهزة متنوعة للغاية دون الحاجة إلى تغيير التعليمات البرمجية عالية المستوى؛ إذا كنت بحاجة إلى تحسين أداء النظام، فتعرّف على كيفية القيام بذلك. قم بتكوين ملفات تعريف الأداء.
كل هذا يأتي مُغلفاً في مجموعة أدوات تطوير تطبيقات ويندوز (من الإصدار 1.8.1 فصاعدًا) وهو مدعوم رسميًا على الأجهزة التي ويندوز 11 24H2 أو أحدثوهذا يجعل نظام التشغيل منصة قوية للغاية لتجارب الذكاء الاصطناعي المحلية في بيئة الإنتاج.
المتطلبات الأساسية لاستخدام الذكاء الاصطناعي المحلي مع ONNX Runtime على نظام التشغيل Windows 11
للبدء تشغيل نماذج ONNX محليًا على نظام التشغيل Windows 11 من المستحسن مراجعة بعض متطلبات البيئة والأدوات الأساسية لتطبيقات .NET الخاصة بك:
على مستوى النظام، ستحتاج تم تحديث Windows 11 (يفضل استخدام الإصدار 22621 أو أحدث)، وإذا كنت ستنشر تطبيقات حديثة، فاعمل مع مشاريع Windows App SDK و WinUI 3 المعبأة في MSIXيمنحك هذا إمكانية الوصول إلى واجهات برمجة تطبيقات Windows ML و DirectML، بالإضافة إلى أحدث ميزات تكامل الذكاء الاصطناعي.
فيما يتعلق ببيئة التطوير، فإن الخيار الأكثر شيوعًا هو استخدام Visual Studio 2022 أو أعلى مع تمكين بيئة تطوير تطبيقات سطح المكتب .NET. ومن هناك يمكنك إنشاء المشاريع WinUI 3، WPF، .NET MAUI أو حتى تطبيقات وحدة التحكم في C# أو VB.NET يشير ذلك إلى ONNX Runtime و Windows ML.
أما فيما يتعلق بالتبعيات، فهناك العديد من حزم NuGet الرئيسية التي تتكرر في معظم السيناريوهات: Microsoft.ML.OnnxRuntime بالنسبة لوحدة المعالجة المركزية، Microsoft.ML.OnnxRuntime.DirectML إذا كنت ترغب في استخدام وحدة معالجة الرسومات (GPU) مع DirectML، مايكروسوفت.الذكاء الاصطناعي.التعلم الآلي للعمل مع Windows ML في WinUI 3، ومكتبات مثل SixLabors. صورة شارب أو ما شابه ذلك لمعالجة الصور المدخلة مسبقاً.
بالطبع، ستحتاج أيضًا إلى واحد على الأقل طراز ONNX متوافقيمكنك تنزيل النماذج المدربة مسبقًا من حديقة حيوان ONNX النموذجية (على سبيل المثال، ResNet، SqueezeNet، نماذج التصنيف، اكتشاف الكائنات، أو معالجة اللغة الطبيعية)، أو قم بتحويل نماذجك الخاصة من PyTorch أو TensorFlow باستخدام أدوات مثل مجموعة أدوات الذكاء الاصطناعي لـ VS Code، tf2onnx أو onnxruntime-tools.
من ناحية الأجهزة، على الرغم من أن ONNX Runtime مُحسَّن لوحدة المعالجة المركزية ويعمل بشكل جيد تمامًا بدون وحدة معالجة الرسومات، إلا أنك ستلاحظ تحسنًا واضحًا عند الاستفادة منه. المسرعات المحلية مثل وحدة معالجة الرسومات (GPU) أو وحدة المعالجة العصبية (NPU)خاصة مع النماذج الكبيرة (نماذج اللغة، الانتشار المستقر، الهمس، إلخ). انظر إلى قائمة التحقق من الأجهزة الأساسية.
كيفية تثبيت واستخدام ONNX Runtime في مشاريع .NET و WinUI 3
إحدى أكثر الطرق المباشرة للبدء استخدام ONNX Runtime على نظام التشغيل Windows 11 يتعلق الأمر بإنشاء تطبيق سطح مكتب في .NET. يتكرر النمط الأساسي في كل من C# و VB.NET: الإشارة إلى الحزمة، وتحميل النموذج، وإعداد المدخلات، وتشغيل جلسة الاستدلال.
في مشروع .NET تقليدي (على سبيل المثال، تطبيق وحدة تحكم أو تطبيق سطح مكتب كلاسيكي)، تتمثل العملية النموذجية في إضافة الحزمة Microsoft.ML.OnnxRuntime من مدير حزم NuGet في Visual Studio، ثم قم بإنشاء جلسة الاستدلال بدءًا من مسار ملف .onnx الخاص بك. هذه الجلسة هي التي ستعيد استخدامها في كل مرة تريد فيها إجراء تنبؤ.
في حالة تقديم الطلب سطح مكتب WinUI 3 باستخدام حزمة تطوير تطبيقات ويندوز (Windows App SDK)، تكون العملية مشابهة، ولكنك عادةً ما تجمع بين ONNX Runtime ومكتبات داعمة أخرى. على سبيل المثال، قد يتضمن عرض توضيحي نموذجي لتصنيف الصور ما يلي:
- Microsoft.ML.OnnxRuntime و Microsoft.ML.OnnxRuntime.Managed لتنفيذ النموذج.
- SixLabors. صورة شارب لتحميل الصور وتغيير حجمها وتطبيعها.
- SharpDX.DXGI إذا كنت ترغب في تحديد محول رسومات لـ DirectML بشكل صريح.
داخل النافذة الرئيسية (على سبيل المثال، MainWindow.xaml.csعادةً ما تقوم بإنشاء طريقة تهيئة نموذج تقوم بتكوين خيارات الجلسةموفر التنفيذ (وحدة المعالجة المركزية أو DirectML) ومسار نموذج ONNX. بهذه الطريقة، يبدأ تطبيقك، ويُهيئ الجلسة مرة واحدة فقط، ثم يُعيد استخدام تلك الجلسة لكل استدعاء استدلال، مما يزيد الأداء إلى أقصى حد.
إذا كنت تفضل العمل مع ويندوز إم إل مباشرة في مشروع WinUI 3، ستضيف الحزمة مايكروسوفت.الذكاء الاصطناعي.التعلم الآلي وستقوم بنسخ نموذج ONNX الخاص بك (على سبيل المثال، model_mnist.onnx أو نموذج تصنيف الصور) إلى مجلد مثل الأصول/التعلم الآلي وستقوم بضبط خصائصه ليتم تضمينها في مخرجات التجميع كمحتوى.
مثال عملي: تصنيف الصور باستخدام ONNX Runtime و DirectML
مثال كلاسيكي وتوضيحي للغاية لـ الذكاء الاصطناعي المحلي مع ONNX Runtime في نظام التشغيل Windows 11 هو تصنيف الصور باستخدام نموذج مثل ResNet50 أو SqueezeNetيظل التدفق المفاهيمي هو نفسه دائمًا، على الرغم من أن الكود قد يختلف اعتمادًا على الإطار الذي تستخدمه.
في تطبيق WinUI 3، يمكنك تصميم واجهة بسيطة باستخدام زر لاختيار صورةعنصر تحكم صورة لعرض الصورة المختارة وعلى مربع نص لعرض التوقعاتيقوم المستخدم بالنقر على الزر، فيتم فتح FileOpenPicker، ويتم تحديد صورة، وفي الخلفية، يقوم البرنامج بمعالجتها وتمريرها إلى نموذج ONNX.
تتضمن المعالجة المسبقة للصور عادةً قم بتحميله بتنسيق RGB ذي 24 بتقم بتغيير حجم الصورة إلى الحجم الذي يتوقعه النموذج (على سبيل المثال، 224×224 بكسل)، واقتصاصها إذا لزم الأمر، وقم بتطبيع قيم كل قناة وفقًا للمتوسطات والانحرافات المعيارية الموضحة في وثائق النموذج. باستخدام ImageSharp، يُترجم هذا إلى تغيير حجم الصورة، والتكرار عبر البكسلات صفًا تلو الآخر، وملء موتر كثيف بقيم مُعَيَّرة.
بعد تجهيز جهاز الشد، OrtValue من ذاكرة الموتر (بدون نسخ غير ضرورية)، يتم إنشاء قاموس باستخدام مدخلات النموذج (عادةً ما يكون موترًا واحدًا يُسمى شيئًا مثل "البيانات" أو ما شابه) ويتم استدعاء الطريقة. يجري من جلسة الاستدلال. عادةً ما يكون الناتج عبارة عن موتر احتمالي لكل فئة، والذي يمكنك معالجته لاحقًا باستخدام دالة softmax بحيث تكون القيم في المصفوفة ومجموعها يساوي 1.
وأخيرًا، تقوم بترتيب الاحتمالات من الأعلى إلى الأدنى، ويتبقى لديك 10 علامات تجارية تتمتع بثقة أكبر وعرضها على الشاشة. ويتم ذلك عادةً باستخدام فئة مساعدة (على سبيل المثال، التنبؤ مع خصائص التسمية والثقة) وجدول تسميات (LabelMap) يربط كل فهرس إخراج بفئة دلالية (كلب، سيارة، لوحة مفاتيح، إلخ).
يوضح هذا النوع من الأمثلة كيف تتكامل ONNX Runtime وDirectML وWinUI 3 معًا لتقديم استمتع بتجربة الذكاء الاصطناعي المحلي مع واجهة مستخدم عصرية، وتسريع الأجهزة، وعدم الحاجة إلى اتصال دائم بالإنترنت..
العمل مع نماذج Windows ML و ONNX في WinUI 3
بالإضافة إلى استخدام ONNX Runtime "الخالص"، يمكنك الاعتماد على ويندوز إم إل ضمن مشروع WinUI 3 للاستفادة من التكامل الأصلي مع نظام التشغيل. يُعد هذا الأسلوب مفيدًا للغاية عند الرغبة في تغليف التطبيق بصيغة MSIX، واستخدام حزمة تطوير تطبيقات ويندوز (Windows App SDK)، وضمان أداء متسق على أجهزة ويندوز 11 الحديثة.
تتكون العملية النموذجية من أضف حزمة Microsoft.AI.MachineLearning انسخ نموذج ONNX الخاص بك (على سبيل المثال، model_mnist.onnx أو نموذج تصنيف الصور) إلى مجلد مثل المشروع الأصول/التعلم الآلي وقم بتكوين خصائصها لتضمينها في مخرجات التجميع كمحتوى.
من خلال كود C#، يمكنك تحميل النموذج باستخدام واجهات برمجة تطبيقات Windows ML، تقوم بإنشاء جلسة وتقوم بإعداد بيانات الإدخال بالتنسيق المتوقع (على سبيل المثال، موتر مع صورة رمادية بحجم 28×28 لمجموعة بيانات MNIST، أو صورة بحجم 224×224 لنموذج رؤية أكثر تعقيدًا). ثم تتولى الجلسة التعامل مع استخدامها. DirectML وتسريع الأجهزة بشفافية تامة إذا كان الجهاز يدعم ذلك.
بمجرد إجراء الاستدلال، يمكنك التعامل مع المخرجات للحصول على القيمة الأكثر احتمالاً (على سبيل المثال، الرقم الأكثر احتمالاً في حالة MNIST) أو مجموعة من الاحتمالات التي يمكنك عرضها في الواجهة. كل هذا يتكامل بسلاسة مع واجهة مستخدم WinUI 3 XAMLمما يسمح لك بتحديث عناصر التحكم المرئية بنتائج الذكاء الاصطناعي.
كما تتولى خدمة Windows ML إدارة موفري التنفيذ و تنسيق استخدام وحدة المعالجة المركزية ووحدة معالجة الرسومات ووحدة المعالجة العصبية اعتمادًا على الأجهزة المتاحة، دون الحاجة إلى تغيير نماذجك أو إعادة تنظيم التعليمات البرمجية الخاصة بك بشكل جذري.
نماذج اللغة المحلية، وRAGs، وأمثلة متقدمة أخرى
لا يقتصر الذكاء الاصطناعي المحلي في نظام التشغيل Windows 11 على رؤية الكمبيوتر فقط. فباستخدام ONNX Runtime وDirectML، يمكنك أيضًا تشغيل نماذج اللغة (LLM) المحولة إلى ONNX، نماذج تحويل الصوت إلى نص مثل Whisper، أو بنى التجزئة وتوليد الصور مثل Stable Diffusion.
تحتفظ مايكروسوفت بعدد من أمثلة رسمية ومعرض مطوري الذكاء الاصطناعيتطبيق مفتوح المصدر يضم أكثر من 25 عرضًا توضيحيًا تفاعليًا يُبين كيفية دمج النماذج المحلية في تطبيقات حقيقية: بدءًا من محررات الصوت المدعومة بالذكاء الاصطناعي التي تفهرس المقاطع الصوتية بناءً على استعلام نصي، وصولًا إلى تطبيقات تدوين الملاحظات الذكية التي تستخدم نماذج مثل فاي -3 للتلخيص والإكمال التلقائي والاستدلال دون اتصال بالإنترنت.
يُعدّ النمط التالي نمطًا ذا صلة كبيرة توليد الطاقة المعزز بالاسترداد (RAG)في هذا النهج، يتم دمج نموذج لغة محلي مع قاعدة معرفية خارجية. على سبيل المثال، يمكن لتطبيق WPF تحميل ملف PDF، وتقسيمه، وتحويله إلى متجهات باستخدام نموذج تضمين محلي، وتخزين هذه المتجهات، وعند الاستعلام، استرجاع الأجزاء الأكثر صلة بحيث يتمكن نموذج اللغة من توليد استجابات بناءً على بيانات حقيقية، دون الحاجة إلى تعديل أوزان النموذج.
توضح هذه الأمثلة أنه يمكنك بناء مساعدين سياقيين وظيفيين، وأنظمة بحث دلالي، ونسخ صوتي، وروبوتات محادثة لأغراض خاصة. محلي بالكامل على نظام التشغيل ويندوز 11، والاستفادة من ONNX Runtime و DirectML للحفاظ على الأداء تحت السيطرة.
بالإضافة إلى ذلك، توجد مشاريع مرجعية لتشغيل نماذج مثل فاي-3، فليم 3 أو ميسترال تم تحسينها باستخدام DirectML، سواء بتنسيق ONNX أو مباشرة من PyTorch، باستخدام تطبيقات خفيفة الوزن (على سبيل المثال، مع واجهة ويب على غرار Gradio) لاختبار الأداء وضبط الإعدادات قبل دمجها في تطبيق نهائي.
الذكاء الاصطناعي المُسرّع بالأجهزة على الويب باستخدام ONNX Runtime Web و WebNN
طريقة أخرى مثيرة للاهتمام للاستخدام الذكاء الاصطناعي المحلي مع ONNX Runtime في نظام التشغيل Windows 11 إنها بيئة الويب، التي تدعمك في ONNX Runtime Web و WebNN APIفي هذا السياق، يمكن تشغيل النماذج الثقيلة مثل Stable Diffusion أو Segment Anything أو Whisper مباشرة على وحدة معالجة الرسومات أو وحدة معالجة الشبكات العصبية الخاصة بالجهاز عبر DirectML، ولكن من خلال تطبيق ويب حديث.
هناك مظاهرات عامة تُظهر، على سبيل المثال، تقنية الانتشار المستقر التوربيني لتوليد الصور من النصوص في غضون ثوانٍ معدودة باستخدام WebNN و DirectML على أجهزة ذات قدرات ذكاء اصطناعي متقدمة. وينطبق الشيء نفسه على الجزء أي شيءوالذي يسمح لك باقتصاص أي عنصر من صورة قام المستخدم بتحميلها، أو باستخدام قاعدة الهمس، والذي يحول الكلام إلى نص محليًا في المتصفح.
في هذه السيناريوهات، يتولى ONNX Runtime Web معالجة قم بتحميل نموذج ONNX في سياق المتصفحإدارة موترات الإدخال والإخراج والتواصل مع WebNN لتوجيه التنفيذ إلى DirectML على جهاز Windows 11. والنتيجة هي إمكانية تقديم تجارب ذكاء اصطناعي غنية دون إرسال الصوت أو الصور أو النصوص إلى خادم بعيد.
هذا المزيج يجعل نظام التشغيل ويندوز 11 منصة قوية للغاية ليس فقط لـ تطبيقات سطح المكتب الأصلية، ولكن أيضا ل تطبيقات الويب ذات الاستدلال الهجينحيث يوجد جزء من المنطق في السحابة ويتم تنفيذ جزء منه مباشرة على جهاز الكمبيوتر الخاص بالمستخدم.
بالنسبة للمطورين الذين يستخدمون بالفعل تقنيات الويب (جافا سكريبت، أطر عمل تطبيقات الصفحة الواحدة، إلخ)، يُعد هذا النهج طريقة ملائمة لـ دون الحاجة إلى إعادة كتابة التطبيق بالكامل انتقل إلى الذكاء الاصطناعي المحلي دون الحاجة إلى إعادة كتابة التطبيق بالكامل باستخدام .NET أو C#.
الممارسات الجيدة والسلامة والتنمية المسؤولة
بالدمج ميزات الذكاء الاصطناعي في تطبيقات ويندوزتوصي مايكروسوفت باتباع سلسلة من إرشادات التطوير المسؤول، لا سيما في سياق النماذج التوليدية ومعالجة المحتوى الحساس. ولا يقتصر الأمر على الأداء فحسب، بل يتعلق أيضاً بتقليل الضرر أو سوء الاستخدام المحتمل.
تتضمن واجهات برمجة تطبيقات الذكاء الاصطناعي لنظام التشغيل Windows آليات لـ إدارة محتوى النصوص من خلال خدمات مثل Microsoft Foundry، التي تساعد في تصفية النتائج التي قد تكون إشكالية. حتى عند العمل مع النماذج المحلية، يُنصح بتطبيق طبقات إضافية من التحقق من صحة المدخلات ومراجعة المخرجات في المجالات الحيوية (المالية، والصحة، والسلامة، وما إلى ذلك).
من منظور تصميم التطبيقات، يُوصى بما يلي: تحقق من صحة المدخلات قبل بدء عملية الاستدلال (أحجام الصور، وأنواع الملفات، وطول النص)، وإدارة أعطال وحدة معالجة الرسومات أو نقص التسريع باستخدام مسارات بديلة لوحدة المعالجة المركزية، وتجنب تحميل النموذج بشكل متكرر في كل طلب. يُعد الحفاظ على جلسة الاستدلال نشطة وإعادة استخدامها أمرًا أساسيًا لتحقيق أداء جيد.
ومن المهم أيضًا مراعاة تحسين نماذج ONNXيمكن لتقنيات مثل التكميم والتقليم ودمج العمليات أن تقلل من حجم النموذج وتحسن سرعته دون التضحية بالدقة بشكل ملحوظ. وقد صُممت أدوات مثل مجموعة أدوات الذكاء الاصطناعي لـ VS Code أو بنية البناء الخاصة بـ ONNX Runtime (بما في ذلك واجهات برمجة التطبيقات الجديدة للبناء التي تم تقديمها في الإصدارات الأخيرة) لتسهيل هذه العملية.
وأخيرًا، لا تنسَ التحقق من توافر الأجهزة ووضع المطور على الجهاز الذي ستنشر عليه تطبيقاتك، خاصة إذا كنت ستختبرها على أجهزة المستخدم النهائي، أو الأكشاك، أو الأجهزة الصناعية، أو البيئات ذات سياسات الأمان الصارمة.
بفضل توافق جميع هذه المكونات بشكل جيد - ONNX كصيغة قياسية، وONNX Runtime وWindows ML كمحركات تنفيذ، وDirectML وEPs من AMD وIntel وNVIDIA وQualcomm للاستفادة من وحدة المعالجة المركزية ووحدة معالجة الرسومات ووحدة المعالجة العصبية، وأدوات مثل AI Dev Gallery أو AI Toolkit - يصبح Windows 11 منصة قوية للغاية للبناء تطبيقات الذكاء الاصطناعي المحلية والخاصة والسريعة والجاهزة للإنتاج، من مصنفات الصور البسيطة إلى المساعدين المعقدين القائمين على نماذج اللغة و RAG.
