کتاب Real-World Natural Language Processing

کتاب Real-World Natural Language Processing منبعی بسیار مناسب برای آموزش پردازش زبان طبیعی یا NLP می‌باشد. این کتاب در 11 فصل جدیدترین متدها و روش‌ها در زمینه‌ی NLP را شرح داده و آن‌ها را واکاوی می‌کند.

در ادامه مقدمه‌ای از کتاب Real-World Natural Language Processing را از زبان نویسنده شرح خواهیم داد.

مقدمه‌ای بر کتاب Real-World Natural Language Processing:

من که در دو دهه گذشته در تقاطع یادگیری ماشینی (ML)، پردازش زبان طبیعی (NLP) و آموزش کار کرده‌ام، همیشه مشتاق آموزش و کمک به مردم در یادگیری فناوری‌های جدید بوده‌ام. به همین دلیل است که وقتی در مورد فرصت انتشار کتابی در مورد NLP شنیدم، دو بار فکر نکردم.

حوزه هوش مصنوعی (AI) طی چندین سال گذشته تغییرات زیادی را پشت سر گذاشته است، از جمله محبوبیت انفجاری روش‌های مبتنی بر شبکه‌های عصبی و ظهور مدل‌های زبانی بزرگ و از پیش آموزش دیده. این تغییر فن‌آوری‌های زبانی پیشرفته را امکان‌پذیر کرد، که بسیاری از آن‌ها را روزانه با دستیاران مجازی مبتنی بر صدا، تشخیص گفتار و ترجمه ماشینی در تعامل هستید. با این حال، “پشته فن‌آوری” NLP، که با استفاده از مدل‌های از پیش آموزش دیده و یادگیری انتقال مشخص می‌شود، در نهایت در چند سال گذشته تثبیت شده است و انتظار می‌رود حداقل برای چند سال آینده به همین شکل باقی بماند.

به همین دلیل است که فکر می کنم اکنون زمان خوبی برای شروع یادگیری در مورد NLP است. تهیه کتاب در زمینه هوش مصنوعی هرگز آسان نیست. به نظر می‌رسد در حال تعقیب هدف متحرکی هستید که سرعتش کم نمی‌شود و منتظر شماست. وقتی نوشتن این کتاب را شروع کردم، ترانسفورماتور به تازگی منتشر شده بود و BERT هنوز وجود نداشت. در طول نگارش، AllenNLP، چارچوب اصلی NLP که در کتاب Real-World Natural Language Processing استفاده می‌کنیم، دو به‌روزرسانی عمده را پشت سر گذاشت.

تعداد کمی از افراد از Hugging Face Transformer، یک کتابخانه عمیق NLP بسیار محبوب که در حال حاضر توسط بسیاری از پزشکان در سراسر جهان استفاده می‌شود، استفاده می‌کردند. در عرض دو سال، چشم‌انداز حوزه NLP به دلیل ظهور Transformer و مدل‌های زبانی از پیش آموزش دیده مانند BERT کاملاً تغییر کرد. خبر خوب این است که اصول اولیه یادگیری ماشینی مدرن، از جمله جاسازی کلمه و جمله، RNN و CNN منسوخ نشده و همچنان مهم است.

کتاب Real-World Natural Language Processing قصد دارد این «هسته» ایده‌ها و مفاهیمی را که به شما در ساخت برنامه‌های NLP در دنیای واقعی کمک می‌کند، به تصویر بکشد. بسیاری از کتاب‌های عالی در مورد ML و یادگیری عمیق به طور کلی در بازار هستند، اما برخی از آن‌ها به شدت بر ریاضیات و تئوری‌ها تمرکز دارند. بین آنچه در کتاب‌ها آموزش داده می‌شود و آنچه صنعت به آن نیاز دارد فاصله وجود دارد. امیدوارم این کتاب بتواند این شکاف را پر کند.

پردازش زبان طبیعی در دنیای واقعی یک کتاب درسی معمولی NLP نیست. ما بر ساخت برنامه‌های NLP در دنیای واقعی تمرکز می کنیم. معنای دنیای واقعی در اینجا دو چیز است: اول، ما به آنچه برای ساخت برنامه‌های NLP در دنیای واقعی نیاز است توجه می‌کنیم. به عنوان یک خواننده، شما نه تنها یاد خواهید گرفت که چگونه مدل‌های NLP را آموزش دهید، بلکه نحوه طراحی، توسعه، استقرار و نظارت بر آن‌ها را نیز یاد خواهید گرفت.

در طول مسیر، بلوک‌های اصلی مدل‌های NLP مدرن و همچنین پیشرفت‌های اخیر در زمینه NLP را که برای ساخت برنامه‌های NLP مفید هستند، یاد خواهید گرفت. دوم، برخلاف اکثر کتاب‌های مقدماتی، ما رویکردی از بالا به پایین برای آموزش داریم.

به جای یک رویکرد پایین به بالا، صرف صفحه به صفحه برای نمایش نظریه‌های شبکه عصبی و فرمول‌های ریاضی، ما بر روی ساخت سریع برنامه‌های NLP تمرکز می‌کنیم که «فقط کار می کنند». سپس عمیق‌تر به مفاهیم و مدل‌هایی می‌پردازیم که برنامه‌های NLP را تشکیل می‌دهند. همچنین یاد خواهید گرفت که چگونه با استفاده از این بلوک‌های ساختمانی، برنامه‌های NLP سفارشی سرتاسری را متناسب با نیازهایتان بسازید.

چه کسی باید کتاب Real-World Natural Language Processing را بخواند؟

این کتاب عمدتاً برای مهندسین نرم‌افزار و برنامه نویسانی نوشته شده است که به دنبال یادگیری اصول NLP و نحوه ساخت برنامه‌های NLP هستند. ما فرض می کنیم که شما، خواننده، مهارت‌های اولیه برنامه‌نویسی و مهندسی نرم‌افزار در پایتون را دارید.

اگر در حال حاضر روی یادگیری ماشین کار می‌کنید، اما می‌خواهید به حوزه NLP بروید، کتاب Real-World Natural Language Processing نیز مفید است. در هر صورت، شما نیازی به دانش قبلی در مورد ML یا NLP ندارید. برای خواندن این کتاب به هیچ دانش ریاضی نیاز ندارید، اگرچه درک اولیه جبر خطی ممکن است مفید باشد. در این کتاب یک فرمول ریاضی وجود ندارد.

نحوه سازماندهی کتاب Real-World Natural Language Processing:

نقشه راه این کتاب از سه بخش تشکیل شده است که در مجموع 11 فصل را شامل می‌شود. بخش 1 اصول NLP را پوشش می‌دهد، جایی که ما یاد می‌گیریم که چگونه به سرعت یک برنامه NLP با AllenNLP برای کارهای اساسی مانند تجزیه و تحلیل احساسات و برچسب‌گذاری دنباله بسازیم.

فصل 1 با معرفی “چه چیزی” و “چرا” NLP آغاز می‌شود – NLP چیست، NLP چیست، چگونه از فناوری‌های NLP استفاده می‌شود، و چگونه NLP با سایر زمینه‌های هوش مصنوعی مرتبط است.

فصل 2 نحوه ساخت اولین برنامه NLP خود را نشان می‌دهد، یک تحلیلگر احساسات، و اصول اولیه مدل‌های NLP مدرن – جاسازی کلمه و شبکه‌های عصبی مکرر (RNN) را در طول مسیر معرفی می کند.

فصل 3 دو بلوک مهم سازنده برنامه‌های NLP، جاسازی کلمه و جمله را معرفی می کند و نحوه استفاده و آموزش آن‌ها را نشان می‌دهد.

فصل 4 کتاب Real-World Natural Language Processing، یکی از ساده ترین اما مهم ترین وظایف NLP، طبقه بندی جملات و نحوه استفاده از RNN برای این کار را مورد بحث قرار می‌دهد.

فصل 5 کتاب Real-World Natural Language Processing، وظایف برچسب‌گذاری توالی مانند برچسب‌گذاری بخشی از گفتار و استخراج موجودیت نام‌گذاری شده را پوشش می‌دهد. همچنین به یک تکنیک مرتبط، مدل سازی زبان اشاره می‌کند.

بخش 2 موضوعات پیشرفته NLP از جمله مدل‌های دنباله به دنباله، ترانسفورماتور و نحوه استفاده از یادگیری انتقالی و مدل‌های زبان از پیش آموزش‌دیده را برای ساخت برنامه‌های قدرتمند NLP پوشش می‌دهد.

فصل 6 مدل‌های دنباله به دنباله‌ای را معرفی می‌کند که یک دنباله را به دنباله‌ای دیگر تبدیل می‌کند. ما در عرض یک ساعت یک سیستم ترجمه ماشینی ساده و یک ربات چت می‌سازیم.

فصل 7 کتاب Real-World Natural Language Processing، نوع دیگری از معماری شبکه عصبی محبوب، شبکه‌های عصبی کانولوشنال (CNN) را مورد بحث قرار می‌دهد.

فصل 8 به بررسی عمیق ترانسفورماتور، یکی از مهم ترین مدل‌های NLP امروزی می‌پردازد. ما نشان خواهیم داد که چگونه با استفاده از Transformer یک سیستم ترجمه ماشینی بهبودیافته و یک غلط‌گیر املا بسازیم.

فصل 9 مبتنی بر فصل قبل است و یادگیری انتقالی را مورد بحث قرار می‌دهد، یک تکنیک محبوب در NLP مدرن، با مدل‌های زبانی از پیش آموزش دیده مانند BERT.
بخش 3 موضوعاتی را پوشش می‌دهد که وقتی برنامه‌های NLP را توسعه می‌دهید که برای داده‌های دنیای واقعی قوی هستند، مرتبط می‌شوند و آن‌ها را به کار می‌گیرید و ارائه می‌کنید.

فصل 10 بهترین روش‌ها را هنگام توسعه برنامه‌های NLP، از جمله دسته‌بندی و padding، منظم‌سازی و بهینه‌سازی هایپرپارامتر شرح می‌دهد.

فصل 11 کتاب Real-World Natural Language Processing را با نحوه استقرار و ارائه مدل‌های NLP به پایان می‌رساند. همچنین نحوه توضیح و تفسیر مدل‌های ML را پوشش می‌دهد.

همچنین شما می‌توانید برای مطالعه‌ی بیشتر بر روی مبحث NLP از کتاب Natural Language Processing with Transformers نیز استفاده نمائید.

سرفصل‌های کتاب Real-World Natural Language Processing:

• preface
• acknowledgments
• about this book
• about the author
• about the cover illustration
• PART 1 BASICS
  • 1 Introduction to natural language processing
  • 2 Your first NLP application
  • 3 Word and document embeddings
  • 4 Sentence classification
  • 5 Sequential labeling and language modeling
• PART 2 ADVANCED MODELS
  • 6 Sequence-to-sequence models
  • 7 Convolutional neural networks
  • 8 Attention and Transformer
  • 9 Transfer learning with pretrained language models
• PART 3 PUTTING INTO PRODUCTION
  • 10 Best practices in developing NLP applications
  • 11 Deploying and serving NLP applications
• index

فایل کتاب Real-World Natural Language Processing را می‌توانید پس از پرداخت، دریافت کنید.