تصنيف أخبار AG

🔬 التركيز البحثي:

الاستفادة من معمارية محولات GPT-2 لتصنيف فئات الأخبار متعدد الفئات في مجموعة بيانات أخبار AG. يطبق هذا النموذج قوة نماذج اللغة الكبيرة على مهام تصنيف النصوص.

📊 مقاييس الأداء:

• مجموعة البيانات: 127,600 مقال إخباري من أخبار AG.

• النموذج: رأس تصنيف قائم على GPT-2.

• الدقة: تصنيف متعدد الفئات بدقة عالية.

• حجم المدخلات: نص مفكك بطول أقصى يبلغ 512.

• التحسين: خسارة الإنتروبيا المتقاطعة مع محسن Adam.

🧠 المزايا التقنية:

• معمارية المحولات: آلية الانتباه الذاتي لفهم العلاقات السياقية في النص.

• أوزان مدربة مسبقاً: نموذج أساسي GPT-2 مضبوط بدقة على نطاق الأخبار.

• تعلم النقل: الاستفادة من تمثيلات نماذج اللغة المدربة مسبقاً.

• دعم التصنيف المتعدد: يصنف إلى فئات (عالمي، رياضة، أعمال، علوم/تقنية).

📁 ملفات النموذج:

• دفتر الملاحظات: `02-ag-news-classification.ipynb`

• مجموعة البيانات: Kaggle AG News Classification Dataset

• إطار العمل: PyTorch, Transformers