تحول متخصص النموذج: قوة ضبط المطالبة

نماذج اللغة الكبيرة مثل ChatGPT هي أمثلة على نماذج أساسية - نماذج كبيرة وقابلة لإعادة الاستخدام تم تدريبها على كميات هائلة من المعرفة من الإنترنت. هذه النماذج مرنة للغاية، وقادرة على تحليل الوثائق القانونية أو كتابة قصيدة عن فريق كرة قدم.

ومع ذلك، لتحسين أداء نماذج اللغة الكبيرة المسبقة التدريب للمهام المتخصصة، ظهرت تقنية أبسط وأكثر كفاءة في استهلاك الطاقة: ضبط المحث. يسمح ضبط المحث للشركات ذات البيانات المحدودة بتكييف نموذج ضخم لمهمة ضيقة جدًا، دون الحاجة إلى جمع آلاف الأمثلة المصنفة المطلوبة للتدريب الدقيق.

في ضبط المحث، يتم تغذية أفضل الإشارات أو المحثات الأمامية إلى نموذج الذكاء الاصطناعي لتوفير السياق المحدد للمهمة. يمكن أن تكون هذه المحثات كلمات إضافية يقدمها البشر أو بشكل أكثر شيوعًا، تجسيدات رقمية مولدة بواسطة الذكاء الاصطناعي تُدخل في طبقة التجسيد للنموذج لتوجيه النموذج نحو القرار أو التنبؤ المرغوب.

هندسة المحث، وهي مهمة تطوير المحثات التي توجه نموذج اللغة الكبير لأداء المهام المتخصصة، هي مجال مثير. ومع ذلك، تم إثبات أن المحثات "الناعمة" المولدة بواسطة الذكاء الاصطناعي تتفوق على المحثات "الصلبة" المصممة يدويًا من قبل البشر، حيث يمكنها استخلاص المعرفة من النموذج الأكبر وتعمل كبديل عن بيانات التدريب الإضافية.

على الرغم من أن ضبط المحث يقدم مزايا على التدريب الدقيق وهندسة المحث، إلا أنه له أيضًا عيب - افتقاره إلى القابلية للتفسير. المحثات المكتشفة بواسطة الذكاء الاصطناعي المحسنة لمهمة معينة غالبًا ما تكون معتمة، مشابهة لعتامة نماذج التعلم العميق نفسها.

باختصار، ضبط المحث هو تقنية مغيرة للعبة تسمح بتكيف أسرع وأكثر فعالية من حيث التكلفة لنماذج اللغة الكبيرة مع المهام المتخصصة، مما يجعله أداة قيمة في مجالات مثل التعلم متعدد المهام والتعلم المستمر.