Abstract: ويعتبر مستودع Docker أساساً لتطبيقات العمل من الذكاء الاصطناعي (AI) ومهارات الكمبيوتر (ML) الحديثة، لكن حجم الصور ML التقليدية غالباً ما يؤدي إلى تأخير بدرجة كبيرة في البدء، وهو ما يؤدي إلى تأخير الصورة خلال بدء الشتاء.في هذه المقالة نجد استراتيجيات عمليّة لتقليل تأخير البدرجة الأولى، والتي تظهر من تعديلات بسيطة إلى خيارات متقدمة أكثر.نبدأ مع تحسينات على مستوى الصورة، مثل إزالة التوازنات غير الضرورية واستخدام برامج متعددة المراحل لتقليل حجم الصورة.نستعرض بعد ذلك تحسينات أساسية في البنية التحتية، مع التركيز بشكل خاص على Seekable OCI (SOCI). إدراج أصبحت مستودعات Docker أساسية في تطوير البرمجيات الحديثة بسبب قابلية نقلها وإمكانية الحفاظ على التوازن في بيئات متنوعة.في الذكاء الاصطناعي (AI) ومهارات الكمبيوتر (ML) ، تلعب مستودعات دورًا أوسع وأكثر أهمية: فإنه يمتلك إطارًا، ومراقبين GPU، والتأثيرات المخصصة، والبيئات التي تحتاج إلى التدريب والتحليل. وتعتمد منصات الذكاء الاصطناعي على الهواتف الذكية مثل Amazon SageMaker Studio بشكل كبير على البنية التحتية Dockerized لخلق بيئات ثابتة للتجربة والتطوير. وهذه الصور عادة كبيرة (عادة ما تتراوح بين مئة غيغابايت) لأنها تجمع بين ملفات الأدوات العلمية البيانات، CUDA، المكتبات التدريبية الموزعة، ومواقع الكمبيوتر المحمول. يعود جزءًا كبيراً من هذا التوقف (عادةً 30-60٪ ، اعتمادًا على عمق الشبكة ووزن الصورة) إلى إخراج الصورة المكونة من محفظة إلى حالة حسابية. وتستعرض هذه المقالة العديد من التقنيات، من تحسين الصورة إلى حلول على مستوى البنية التحتية، لتقليل هذه التوقعات وتحسين الاستجابة. استراتيجيات لتقليل تأخير بدء المشتريات تتطور استراتيجيات أدناه من التغييرات الصغيرة والمتمثلة في الصورة إلى تحسينات في البنية التحتية والأجور. 1- تحسين الصورة المكونة من المكونات أسهل وسيلة ممكنة وفعالة لتقليل مدة البدء في بدء المكونات هي تقليل حجم الصورة.الصور الصغيرة تتحرك أسرع، تبدأ أسرع، وتستهلك أقل من المخزون.هذه العملية تبدأ عادة من خلال تقييم الأدوات الحقيقية والتأثيرات التي يحتاجها المهندسين أو علماء البيانات. غالبًا ما تشمل صور ML الكبيرة (مثل صور SageMaker Distribution ذات المصدر المفتوح) مجموعة واسعة من الأدوات التي تشمل العديد من المرافق والمواصفات والموارد العملية.في الممارسة، يستخدم معظم المجموعات فقط مجموعة من هذه الأدوات. بعض التغييرات العملية تشمل: 
 
 
 اختيار الصور الأساسية الأصغر: بدلاً من قاعدة Ubuntu الكاملة، يمكنك استخدام قاعدة Debian الحد الأدنى، أو قاعدة Ubuntu الحد الأدنى، أو قاعدة CUDA المزودة عند الحاجة إلى دعم GPU. تجنب إدخال العناصر الكبيرة: تزيد وزنات النماذج والمجموعة من البيانات والأشياء المختلطة الكبيرة على الصور. تخزين هذه من الخارج كلما كان ذلك ممكنًا، بدلاً من الخبز في المخزون. حتى تخفيضات معقولة يمكن أن تقلل بشكل كبير من تأخير البدء ، وخاصة في البيئات التي يتم إنشاؤها في كثير من الأحيان. 2- تحسين نظام التشغيل والتنظيم في حين أن تحسين الصورة تركز على تقليل كمية البيانات التي يتم نقلها ، فإن المستوى التالي من تحسين تحسين كيفية تحميل الصورة والتعامل معها في وقت التشغيل. 2.1 جعل مسارات البنية التحتية فعالة قد تبطئ إرسال المكونات بسبب مسارات الشبكة غير الكافية أو حواجز النقل. 
 
 
 
 استخدام نقاط نهاية VPC (على سبيل المثال، لـ Amazon ECR) لتقليل عدد التوترات الشبكية التأكد من انخفاض المكونات في نفس المنطقة استخدام المجلات الخاصة أو المفاتيح الضوئية إذا كان التوقف بين الكمبيوتر والمجلد مرتفعًا هذه التعديلات تحسن التوافق وتقليل التعديلات، ومع ذلك، فإن التقدم الأكثر أهمية في هذه الفئة غالباً ما يأتي من استخدام Seekable OCI (SOCI). 2.2 OCI المطلوب (SOCI): صور المكونات المفقودة يقدم نموذجًا مختلفًا لبدء المكونات. بدلاً من إرجاع الصورة بالكامل قبل البدء في البدء، يتيح SOCI لبدء المكونات فقط إرجاع بيانات المكونات الأساسية ومجموعة الحد الأدنى من الجسيمات اللازمة لبدء المكونات، في حين أن البقية تتحمل على الطلب. أدناه هو نظرة بسيطة على العلاقة بين صورة المكونات ومعدل SOCI المرتبط بها: موقع AWS SOCI Snapshotter موقع AWS SOCI Snapshotter هذه التقنية تخفيض بشكل كبير التوقف المفاجئ للبدء، على سبيل المثال: 
 
 
 عملاء Amazon Fargate يرصدون إطلاقًا أسرع بنسبة 40-50% تطبيقات SageMaker Unified Studio و SageMaker AI تخفض فترة بدء المشتريات بنسبة 40-70٪ هذه الاستراتيجية فعالة بشكل خاص بالنسبة لضغوط العمل AI / ML ، حيث تحتوي الصور على مكتبات كبيرة لا تحتاجها على الفور عند البدء.من خلال تأخير تنزيل الطوابق غير المستخدمة ، يتيح SOCI أوقات الإجابة أسرع مع الحفاظ على تدفق العمل العام دون تغيير. بالنسبة للمؤسسات التي تعتمد على بيئات الهواتف الذكية السريعة أو البيئات اللوحية التفاعلية، يقدم SOCI واحدة من أعلى نسبة التأثير إلى الجهد من بين الاستراتيجيات على مستوى البنية التحتية. 3 - إلغاء التخطيط ومن المعروف أن الطريقة الأكثر تعقيداً هي تجنب التوقف عن إرسال الصورة بشكل كامل من خلال إرسالها من مسار إرسال العملاء، بدلاً من تحسين التوقف عن إرسال الصورة أو تقليل حجم البيانات، فإن إرسال التوقف عن إرسال الصورة يهدف إلى التأكد من أن العملاء لا يواجهون أبدًا بدءًا باردًا. ويمكن تحقيق ذلك من خلال البيئات الحوسبة الممتدة من التدفئة والصور الممتدة من التدفئة. 3.1 محركات التخزين المسببة للحرارة في هذه التقنية، يحافظ موظفو الخدمة على مجموعة من الوجهات "المتوسطة" التي تعمل بالفعل وأنت مستعدة لخدمة كمية عمل المستخدم. عندما يطلب المستخدم أو وظيفة حساب، يقوم النظام بتخصيص الوجهات الساخنة بدلاً من توفير الوجهات الجديدة. هناك حمامات حرارية في العديد من الخدمات الإدارية: 
 
 
 
 AWS EC2 Auto Scaling حوض حراري شركة Google Cloud Managed Instance Group (MIG) مراقبة المكونات (الخدمات ECS مع minTasks، Kubernetes تطبيقات مع ردود الفعل) ويمكن أن تبقى هذه البنادق أو الحالات مستعدة في مستويات مختلفة من الاستعداد اعتمادًا على احتياجات العمليات. 3.3 صور المكونات السريعة إذا كان معظم العملاء يعتمدون على صورة مشتركة مشتركة، ويمكن تثبيتها أيضاً من أجل إرسال الصورة المباشرة.إذا تم تخصيص الصورة للمستخدم، فإن الصورة المباشرة بالفعل تعمل، ويتم تثبيت الصورة المطلوبة على المستوى المحلي.هذه الطريقة تغير تماماً وقت إرسال الصورة، مما يوفر أسرع تجربة بدء التشغيل. يتم وصف هذه الوسائل بشكل مفصل في Gillam، L. و Porter، B. العمل على تحليل الأداء من مختلف بيئات المكونات (2021). تسبب إلغاء التمديد تكلفة تشغيلية، بما في ذلك القدرة الحوسبة، والتصميم المنطقي، والموارد المفقودة، ومع ذلك، بالنسبة للأنظمة التي لديها تجربة المستخدمين أو التوسع السريع في أعلى المستويات، فإن الفوائد غالبا ما تتجاوز التكاليف. النتيجة يمكن أن تبطئ التوقعات في إطلاق المكونات بشكل كبير تدفقات عمل AI/ML وتقلل من تجربة المستخدم في بيئات التفاعلية، في حين أن أوقات إخراج الصورة غالباً ما تتحكم في هذه التوقعات، يمكن للمؤسسات اختيار من مجموعة من الحلول لمناقشة المشكلة وتخفيفها. توفر نهج أقل تكلفة مثل تحسين الصورة فوزًا سريعًا مع أقل تكلفة تشغيلية. تحسينات البنية التحتية، وخاصة من خلال تقنيات مثل SOCI، تتيح تقليل التوقيت بشكل كبير دون الحاجة إلى تغييرات إبداعية كبيرة. ليس كل استراتيجية مناسبة لجميع البيئات، ولكن بالنسبة للشركات التي لا تتوافر فيها التوقعات المهمة، قد لا تبرر الحفاظ على حوض حراري تكاليف التشغيل، ومع ذلك، فإن الشركات التي توفر القدرة على الذكاء الاصطناعي في الوقت الحقيقي، أو الملفات التفاعلية، أو ميكروسوفتات متطورة بشكل إيجابي يمكن أن تحسن بشكل كبير رضا المستخدمين عن طريق تنفيذ هذه التقنيات. وفي نهاية المطاف ، فإن تسريع بدء المكونات ليس فقط في تحسين الأداء ، بل يزيد من كفاءة المطورين ، ويحسن تجربة المستخدم ، ويعزز استجابة أنظمة الذكاء الاصطناعي الحديثة. References: 
 
 
 
 
 
 
 A. Kambar. (2023). كيفية تقليل وقت إرسال صور Docker بنسبة 80%: دليل عملي لسرعة CI / CD. متوسط. https://medium.com/@kakamber07/how-to-reduce-docker-image-pull-time-by-80-a-practical-guide-for-faster-ci-cd-00a690d71bf0 AWS. (n.d.). Amazon SageMaker Studio. https://aws.amazon.com/sagemaker/unified-studio/ AWS. (2023). AWS Fargate تتيح إنشاء محطات سريعة باستخدام OCI المطلوب. https://aws.amazon.com/blogs/aws/aws-fargate-enables-faster-container-startup-using-seekable-oci/ AWS. (n.d.). توزيع SageMaker. https://github.com/aws/sagemaker-distribution AWS Labs. (n.d.). سوني Snapshotter. https://github.com/awslabs/soci-snapshotter Gillam, L., & Porter, B. (2021). الفولاذ المقاوم للصدأ مقابل الفولاذ المقاوم للصدأ: تحليل الأداء في بيئات المقاوم للصدأ. 
 
 تم نشر هذه القصة تحت برنامج HackerNoon Business Blogging. تم نشر هذه القصة تحت برنامج HackerNoon Business Blogging. تم نشر هذه القصة في HackerNoon . برنامج مدونات الأعمال برنامج مدونات الأعمال

This writer has a vested interest be it monetary, business, or otherwise, with 1 or more of the products or companies mentioned within.

تم إنتاج هذا الصوت باللغة الأصلية للقصة!

تقليل التوقف عن بدء محطات Docker: استراتيجيات فعالة لسرعة تدفقات العمل AI / ML

About Author

تعليقات

شنق العلامات

تم تقديم هذه المقالة في

Related Stories

Top 10 Software Consulting Company based on Clutch & Goodfirms Reviews

Top 4 Hiring Trends for Mobile App Developers in 2018

The shortage of women in tech

Top 10 Android App Development Companies in India & US

Top 10 Software Consulting Company based on Clutch & Goodfirms Reviews

Top 4 Hiring Trends for Mobile App Developers in 2018

The shortage of women in tech

Top 10 Android App Development Companies in India & US

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps