کتاب Natural Language Processing with Transformers

جزئیات بیشتر و خرید محصول:

۲۳,۰۰۰ تومان

توضیحات

کتاب Natural Language Processing with Transformers نسخه Early Release Raw & Unedited با نام کامل Building Language Applications with Hugging Face یک منبع فوق‌العاده برای درک پلتفرم Transformers می‌باشد. این کتاب در 11 فصل به آموزش NLP با این ابزار قدرتمند می‌پردازد.

کتاب Natural Language Processing with Transformers

در ادامه مقدمه‌ای از کتاب Natural Language Processing with Transformers را از زبان نویسنده شرح خواهیم داد.

مقدمه‌ای بر کتاب Natural Language Processing with Transformers:

از زمان معرفی آن‌ها در سال 2017، ترانسفورماتورها به عنوان استانداردی واقعی برای مقابله با طیف گسترده‌ای از وظایف پردازش زبان طبیعی (NLP) در دانشگاه و صنعت تبدیل شده‌اند. بدون توجه به آن، احتمالاً امروز با یک ترانسفورماتور ارتباط برقرار کرده‌اید: اکنون Google از BERT برای تقویت موتور جستجوی خود با درک بهتر پرس و جوهای کاربران استفاده می‌کند.

به طور مشابه، خانواده ترانسفورماتور GPT از OpenAI بارها و بارها به دلیل توانایی خود در ایجاد متن و تصاویر شبیه به انسان در سرتیتر رسانه‌ها قرار گرفته‌اند. این ترانسفورماتورها در حال حاضر برنامه‌های کاربردی مانند GitHub’s Copilot را تغذیه می‌کنند، که همانطور که در شکل بعدی نشان داده شده است می‌تواند یک نظر را به کد منبع تبدیل کند که به طور خودکار یک شبکه عصبی را برای شما آموزش می‌دهد!

GitHub Copilot در کتاب Natural Language Processing with Transformers

بنابراین ترانسفورماتورها که تقریباً یک شبه زمینه را تغییر داده‌اند، چیست؟ مانند بسیاری از پیشرفت‌های علمی بزرگ، این نقطه اوج چندین ایده بود مانند توجه، انتقال یادگیری و افزایش شبکه‌های عصبی بود که در آن زمان در جامعه تحقیقاتی نفوذ کرده بود.

اما یک روش جدید فانتزی به تنهایی برای جلب توجه در صنعت کافی نیست – همچنین ابزارهایی را برای دسترسی به آن می‌طلبد. کتابخانه Hugging Face Transformers و اکوسیستم اطراف آن به این درخواست پاسخ دادند و به پزشکان کمک کردند تا به راحتی از مدل‌ها استفاده کنند،

آموزش اشتراک‌گذاری استفاده از ترانسفورماتورها را در صنعت بسیار تسریع کرده است. امروزه بیش از 1000 شرکت از این کتابخانه برای ایجاد ترانسفورماتور در حال استفاده می‌باشند و در طول کتاب Natural Language Processing with Transformers ما شما را در مورد نحوه آموزش و بهینه‌سازی این مدل‌ها برای کاربردهای عملی راهنمایی می‌کنیم.

داستان مبدأ Transformers

در سال 2017 محققان در گوگل مقاله‌ای منتشر کردند که معماری شبکه عصبی جدیدی را برای مدل‌سازی توالی پیشنهاد می‌کرد. این معماری که Transformer نامیده می‌شود، از نظر کیفیت ترجمه و هزینه آموزش، در کارهای ترجمه ماشینی از شبکه‌های عصبی مکرر (RNNs) بهتر عمل می‌کند.

به موازات آن، یک روش یادگیری انتقال مؤثر به نام ULMFiT2 نشان داد که پیش آموزش شبکه‌های حافظه بلند مدت (LSTM) با هدف مدل‌سازی زبان در یک بدن بسیار بزرگ و متنوع، و سپس تنظیم دقیق بر روی یک کار هدف می‌تواند طبقه‌بندی‌کننده‌های متنی قوی به همراه داده‌های دارای برچسب اندک ایجاد کند.

این پیشرفت‌ها کاتالیزور دو ترانسفورماتور شناخته شده امروزی بودند: GPT و BERT. با ترکیب معماری Transformer با پیش آموزش مدل زبان، این مدل‌ها نیاز به آموزش معماری‌های خاص وظیفه را از ابتدا برطرف کردند و تقریباً همه معیارهای NLP را با اختلاف قابل توجهی شکستند. از زمان انتشار GPT و BERT، یک باغ وحش واقعی از مدل‌های ترانسفورماتور ظاهر شده است و جدول زمانی وقایع اخیر در شکل بعدی نشان داده شده است.

جدول زمانی transformers کتاب Natural Language Processing with Transformers

برای درک آنچه در مورد این رویکرد که با ترکیب مجموعه داده‌های بسیار بزرگ و معماری جدید می‌باشد ما پا را فراتر می‌گذاریم:

  • چارچوب رمزگذار-رمزگشا
  • مکانیسم‌های توجه
  • انتقال یادگیری

همچنین شما می‌توانید علاوه بر کتاب Natural Language Processing with Transformers، برای آشنایی بیشتر با NLP در زبان برنامه‌نویسی پایتون از کتاب Python Deep Learning نیز استفاده نمائید.

سرفصل‌های کتاب Natural Language Processing with Transformers:

  • Chapter 1. Hello Transformers
  • Chapter 2. Text Classification
  • Chapter 3. Transformer Anatomy
  • Chapter 4. Question Answering
  • Chapter 5. Making Transformers Efficient in Production
  • Chapter 6. Multilingual Named Entity Recognition
  • Chapter 7. Dealing With Few to No Labels
  • Chapter 8. Text Generation
  • Chapter 9. Summarization
  • Chapter 10. Training Transformers from Scratch
  • Chapter 11. Future Directions

فایل کتاب Natural Language Processing with Transformers را می‌توانید پس از پرداخت، دریافت کنید.

توضیحات تکمیلی

فرمت کتاب

epub

ویرایش

Early Access, First

ISBN

978-1-098-10317-0

تعداد صفحات

749

انتشارات

O'Reilly

سال انتشار

حجم

نویسنده

, ,

هیچ دیدگاهی برای این محصول نوشته نشده است.

اشتراک‌گذاری:

دیگر محصولات:

نماد اعتبار ما:

آدرس: اصفهان، فلکه ارتش

 

پشتیبانی 24 ساعته مشتریان : 09909898434

© کليه حقوق محصولات و محتوای اين سایت متعلق به مدیر سایت می باشد و هر گونه کپی برداری از محتوا و محصولات سایت پیگرد قانونی دارد.