كشفت دراسة جديدة عن أهمية تقنية نقل المعرفة بالتقطير (Distillation) في نماذج اللغات الضخمة (LLM)، وهي تقنية رائدة تستخدم نماذج ذكاء اصطناعي كبيرة “المعلم” لتدريب نماذج أصغر وأكثر كفاءة “الطالب”، تقلل هذه العملية بشكل كبير التكاليف، وقوة الحوسبة، والوقت اللازم لتطوير ذكاء اصطناعي متقدم.
مع تطور الذكاء الاصطناعي، نمت النماذج التي تشغله، وخاصة نماذج اللغات الصخمة، بشكل كبير من حيث الحجم والتعقيد، مما يتطلب موارد حوسبة هائلة.
هذا الارتفاع في الحجم يعني أن تدريب وتشغيل هذه النماذج أصبح أكثر تكلفة واستهلاكا للطاقة، ولمواجهة هذه التحديات، يستخدم العلماء والمهندسون تقنية تسمى “التقطير”، وهي طريقة تضغط نموذج ذكاء اصطناعي ضخم إلى نسخة أصغر وأكثر كفاءة دون فقدان وظائفه الأساسية، حسب ماورد في مجلة “كوانتوم ماغازين”.

يقوم مبدأ التقطير على استخدام نموذج ذكاء اصطناعي كبير ومعقد، غالبا ما يتم تدريبه باستخدام بيانات ضخمة وبنية تحتية باهظة الثمن، كـ”معلم” لتدريب نموذج “طالب” أصغر.
يتعلم نموذج الطالب، محاكاة استجابات المعلم، والتفكير الداخلي، من خلال مراقبة سلوكه عبر العديد من المدخلات.
بدلا من تدريب النموذج الأصغر من الصفر، فإنه يتعلم مباشرة من المعلم، مكتسبا قدرا كبيرا من فهمه للغة وبراعته في اتخاذ القرار.

ينتج عن ذلك نموذج خفيف الوزن يتطلب موارد حسابية أقل لتشغيله، ولكنه يحافظ على مستوى أداء قريب من مستوى سابقه. تشبه هذه العملية حرفيا ماهرا ينقل المعرفة إلى متدرب، الذي بدوره يحسن المهارات إلى شكل أبسط وأكثر انسيابية مع الحفاظ على الخبرة الأساسية.
يتجاوز تأثير تقنية التقطير مجرد توفير التكاليف، حيث إنه يقلل من قوة الحوسبة اللازمة لتشغيل النماذج في تطبيقات الوقت الفعلي، مما يجعلها قابلة للنشر على الأجهزة ذات القدرات المحدودة.
ونتيجة لذلك، تصبح خدمات الذكاء الاصطناعي أكثر قابلية للتوسع، مما يعالج بعض المخاوف المتعلقة باستهلاك الطاقة في نماذج الذكاء الاصطناعي واسعة النطاق.

علاوة على ذلك، يسرع التقطير تطوير الذكاء الاصطناعي من خلال تقصير أوقات التدريب من أشهر أو أسابيع إلى أيام أو حتى ساعات.
في حين أن النماذج الأساسية واسعة النطاق والأهداف الطموحة مثل الذكاء الاصطناعي العام (AGI) لا تزال تتطلب استثمارات كبيرة، فإن التقطير يمكن من تحسينات واسعة النطاق عبر قطاعات وحالات استخدام متعددة، ويحول التركيز من مجرد بناء نماذج أكبر إلى ابتكار كيفية نقل المعرفة وتطبيقها، مما يجعل تقنية الذكاء الاصطناعي في نهاية المطاف أسرع وأرخص وأكثر قابلية للتطبيق على مشكلات العالم الحقيقي.
يعيد التقطير تشكيل مستقبل الذكاء الاصطناعي من خلال جعل النماذج القوية أصغر حجما وأرخص سعرا وأكثر سهولة في الوصول إليها من قِبَل عدد أكبر من المطورين والمؤسسات، والحفاظ على قدرات النماذج الكبيرة مع تقليل الموارد اللازمة لتدريب الذكاء الاصطناعي ونشره.

وكالة سبوتنيك

اسماء عثمان

محررة مسؤولة عن تغطية الأحداث الاجتماعية والثقافية، ، تغطي القضايا الاجتماعية والتعليمية مع اهتمام خاص بقضايا الأطفال والشباب.