چکیده:
در این کارگاه قصد داریم به معرفی مدل پیش‌آموزش داده شده تک زبانه پارسی ParsBERT بپردازیم، با مفاهیم اولیه مدل BERT آشنا شویم و در ادامه با بهره‌گیری از توانایی این مدل بتوانیم به یکی از تسک‌های موجود در پردازش زبان، یعنی تشخیص موجودیت های نامدار بپردازیم. برای این منظور با استفاده از پلتفرم پایتورچ به پیاده سازی این تسک روی مجموعه داده هایی خواهیم پرداخت. در این پیاده‌سازی قصد داریم تا مشکلات و چالش‌های پیشرو در این تسک را مورد بحث و بررسی قرار دهیم و نشان دهیم چگونه می‌توان از مدل ParsBERT به عنوان راهکاری ممتاز استفاده کرد.
----------------------------------------------------------------------------------
اهداف کارگاه:

سرفصل مطالب:

• آشنایی با مدل پیش آموزش داده شده BERT
• معرفی مکانیزم Attention و انواع آن
• معرفی ساختارهای Tranformer
• آشنایی با HuggingFace
• پیاده سازی پروژه