ملخص الورقة البحثية هو:

تشجع البنية التصميمية المعيارية نماذج الشبكات العصبية على فصل وإعادة تركيب جوانب مختلفة من المعرفة لتعميم بشكل أكثر منهجية على مهام جديدة. في هذا العمل، نفترض أن كل مهمة مرتبطة بمجموعة فرعية من المهارات المنفصلة الكامنة من مخزون (قد يكون صغيرًا). بدورها، تتوافق المهارات مع تمثيلات معاملات نموذجية فعالة من حيث المعاملات (متناثرة / منخفضة الرتبة). من خلال تعلم هذه المهارات ومصفوفة تخصيص المهام-المهارات بشكل مشترك، يتم إنشاء الشبكة لكل مهمة على أنها متوسط معاملات المهارات النشطة. ولتفضيل التقسيمات الناعمة غير التافهة للمهارات عبر المهام، أجرينا تجارب على سلسلة من الانحيازات الاستقرائية، مثل أولية عملية البوفيه الهندي ومعدل تعلم ذي سرعتين. قمنا بتقييم نموذج المهارة الكامنة لدينا في إعدادين رئيسيين: 1) التعلم التعزيزي متعدد المهام لاتباع التعليمات الملموسة على 8 مستويات من منصة BabyAI؛ و 2) التكيف بعدد قليل من الأمثلة لنماذج توليد النص-إلى-النص المُدرَّبة مسبقًا على CrossFit، وهو معيار يتكون من 160 مهمة في معالجة اللغة الطبيعية. وجدنا أن البنية التصميمية المعيارية للشبكة تزيد بشكل كبير من كفاءة العينة في التعلم التعزيزي والتعميم بعدد قليل من الأمثلة في التعلم المُشرف، مقارنةً بالخطوط الأساسية ذات المعاملات المشتركة بالكامل، أو الخاصة بالمهمة، أو المولَّدة شرطياً حيث تكون المعرفة متشابكة عبر المهام. بالإضافة إلى ذلك، أوضحنا كيف تساعد المهارات المنفصلة في قابلية التفسير، حيث إنها تُنتج تسلسلاً هرميًا صريحًا للمهام.

ملخص الورقة البحثية هو:

يتألف الضبط الدقيق الفعال من حيث المعاملات (PEFT) للتعميم عبر المهام من تدريب مسبق للمُكيِّفات على مجموعة تدريب متعددة المهام قبل التكيّف بعدد قليل من الأمثلة للمهام الاختبارية. يتعلم بوليتروبون [Ponti et al., 2023] (Poly) بشكل مشترك قائمة من المُكيِّفات ودالة توجيه تختار مجموعة فرعية (بحجم متغير) من المُكيِّفات لكل مهمة أثناء كل من التدريب المسبق والتكيّف بعدد قليل من الأمثلة. في هذه الورقة، ندرس الدور الذي يلعبه توجيه المُكيِّفات في نجاحه ونصمم متغيرات جديدة بناءً على نتائجنا. أولاً، نبني على الحدس بأن التوجيه الأكثر دقة يوفر قدرة تعبيرية أكبر. وبالتالي، نقترح MHR (Multi-Head Routing)، الذي يجمع مجموعات فرعية من معاملات المُكيِّفات ويتفوق على Poly ضمن ميزانية معاملات قابلة للمقارنة؛ وبضبط الدالة التوجيهية فقط دون ضبط المُكيِّفات (MHR-z)، نحقق أداءً تنافسيًا مع كفاءة قصوى في المعاملات. ثانيًا، نجد أن أداء Poly/MHR هو نتيجة لتحسين أفضل للتدريب متعدد المهام، وليس انحيازات استقرائية معيارية تسهّل إعادة تركيب المُكيِّفات والتكيّف المحلي، كما افترض سابقًا. في الواقع، نجد أن MHR يُظهر محاذاة أعلى للتدرجات بين المهام مقارنةً بأي طريقة أخرى. وبما أن هذا يعني أن التوجيه حاسم فقط أثناء التدريب المسبق متعدد المهام، نقترح MHR-mu، الذي يتخلى عن التوجيه ويضبط متوسط المُكيِّفات المدرَّبة مسبقًا أثناء التكيّف بعدد قليل من الأمثلة. وهذا يُرسّخ MHR-mu كطريقة فعالة للضبط الدقيق لمُكيِّف واحد..