کتاب Causal AI

درباره کتاب Causal AI

این کتاب برای افراد زیر مناسب است:

• مهندسان یادگیری ماشین که به دنبال ادغام علیت در سیستم‌های هوش مصنوعی و ساخت مدل‌های پیش‌بینی قوی‌تر هستند.
• دانشمندان داده که به دنبال گسترش مهارت‌های استنتاج سببی و یادگیری ماشین خود هستند.
• محققانی که دیدگاهی جامع از استنتاج سببی و نحوه ارتباط آن با حوزه تخصصی خود می‌خواهند، بدون اینکه در پیچیدگی‌های نظریه آمار غرق شوند.
• متخصصان محصول هوش مصنوعی که به دنبال مطالعات موردی در محیط‌های تجاری، به ویژه فناوری و خرده‌فروشی هستند.
• افرادی که می‌خواهند از ابتدای پیدایش هوش مصنوعی سببی در آن مشارکت کنند.

پیش‌نیازهای ریاضی و برنامه‌نویسی چیست؟

مطمئن باشید، این کتاب نیازی به پیشینه عمیق در نظریه احتمال و آمار ندارد. رابطه بین علیت و آمار مانند رابطه بین مهندسی و ریاضیات است. مهندسی شامل ریاضیات زیادی است، اما برای یادگیری مفاهیم اصلی مهندسی فقط به کمی ریاضیات نیاز دارید. پس از یادگیری آن مفاهیم و پرداختن به یک مسئله کاربردی، می‌توانید بر یادگیری ریاضیات اضافی مورد نیاز برای عمیق شدن در آن مسئله تمرکز کنید.

کتاب Causal AI سطح آشنایی با احتمال و آمار را در حد معمول یک دانشمند داده فرض می‌کند. به طور خاص، فرض می‌کند که شما دانش اولیه‌ای از موارد زیر دارید:

• توزیع‌های احتمال
• احتمال توأم و احتمال شرطی و نحوه ارتباط آن‌ها با یکدیگر (قانون زنجیره‌ای، قاعده بیز)
• مفهوم نمونه‌برداری از یک توزیع
• امید ریاضی، استقلال و استقلال شرطی
• مفاهیم آماری مانند نمونه‌های تصادفی، داده‌های نمونه‌گیری شده یکسان و مستقل، و بایاس آماری

فصل 2 یک مقدمه در مورد این و سایر موضوعات کلیدی برای ایده‌های ارائه شده در این کتاب برای کسانی که نیاز به یادآوری دارند، ارائه می‌دهد.

از چه ابزارهای برنامه‌نویسی استفاده خواهیم کرد؟

این کتاب فرض می‌کند که شما با اسکریپت‌نویسی علم داده در پایتون آشنا هستید. سه کتابخانه متن‌باز پایتون که در این کتاب به آن‌ها تکیه می‌کنیم عبارتند از DoWhy، pgmpy و Pyro. DoWhy یک کتابخانه برای مجموعه کتابخانه‌های پایتون متن‌باز PyWhy برای استنتاج سببی است. pgmpy یک کتابخانه مدل‌سازی گرافیکی احتمالی است که بر اساس SciPy و NetworkX ساخته شده است. Pyro یک کتابخانه یادگیری ماشین احتمالی است که PyTorch را گسترش می‌دهد.

هدف کد-محور ما منحصر به فرد است زیرا به جای پرداختن عمیق به نظریه آماری مورد نیاز برای انجام استنتاج سببی، ما برای انجام آمار به این کتابخانه‌های پشتیبان تکیه می‌کنیم. DoWhy سعی می‌کند تا حد امکان سرتاسری عمل کند، از نگاشت ورودی‌های دانش حوزه به خروجی‌های استنتاج سببی. هنگامی که می‌خواهیم مدل‌سازی سفارشی بیشتری انجام دهیم، از pgmpy یا Pyro استفاده خواهیم کرد.

این کتابخانه‌ها الگوریتم‌های استنتاج احتمالی را ارائه می‌دهند که از نظریه تخمین مراقبت می‌کنند. pgmpy الگوریتم‌های استنتاج مبتنی بر گراف دارد که بسیار قابل اعتماد هستند. Pyro، به عنوان یک افزونه برای PyTorch، مدل‌سازی سببی را به مدل‌های مولد عمیق بر روی داده‌های با ابعاد بالا و استنتاج واریانس – یک تکنیک استنتاج مبتنی بر یادگیری عمیق پیشرفته – گسترش می‌دهد.

اگر پیشینه شما در R یا Julia است، باز هم باید این کتاب را مفید بدانید. بسته‌های R و Julia متعددی وجود دارند که از نظر عملکرد با DoWhy همپوشانی دارند. نرم‌افزار مدل‌سازی گرافیکی در این زبان‌ها، مانند bnlearn، می‌تواند جایگزین pgmpy شود. به طور مشابه، ایده‌هایی که ما با Pyro توسعه می‌دهیم با زبان‌های برنامه‌نویسی احتمالی مشابه، مانند PyMC، کار خواهند کرد. برای پیوندهای مربوط به دفترچه‌های کد مرتبط با کتاب، به https://altdeep.ai/p/causalaibook مراجعه کنید.

نحوه پیمایش کتاب Causal AI

این کتاب در چهار بخش تقسیم شده است. در بخش 1، ما پایه‌های مفهومی مدل‌هایی را که در این کتاب خواهیم ساخت، بنا خواهیم کرد.

• فصل 1 کتاب Causal AI، رویکرد یادگیری ماشین احتمالی ما به علیت را با چند مثال عملی نشان می‌دهد. سپس مستقیماً به یک گردش کار استنتاج سببی با استفاده از داده‌های MNIST – “سلام دنیا” یادگیری ماشین – خواهیم پرداخت. در بقیه کتاب، ما کاوش‌های کد-محور در مورد بخش‌های مختلف این گردش کار انجام خواهیم داد.
• فصل 2 کتاب Causal AI، یک مقدمه در مورد مفاهیم اصلی مدل‌سازی احتمالی، یادگیری ماشین مولد و مدل‌سازی بیزی ارائه می‌دهد که در این کتاب بر اساس آن‌ها بنا خواهیم کرد. ما همچنین ایده‌های کلیدی استنتاج آماری، مانند استقلال شرطی و مونت کارلو را بررسی خواهیم کرد، که از آن‌ها برای ساخت، اعتبارسنجی و انجام استنتاج با مدل‌های سببی استفاده خواهیم کرد.

در بخش 2، یاد خواهید گرفت که چگونه نمودارهای سببی، از جمله مدل‌های مولد سببی عمیق، را بسازید و اعتبارسنجی کنید.

• فصل 3 با ارائه یک پایه محکم برای نمودار سببی جهت‌دار غیرچرخه‌ای (DAG) به عنوان مدلی از ساختار سببی یک فرآیند تولید داده آغاز می‌شود. ما با یک مثال عملی از ساخت یک نمودار سببی بر اساس دانش حوزه شروع خواهیم کرد و یک مدل گرافیکی سببی را بر ساختار آن نمودار سببی آموزش خواهیم داد. من همچنین مدولاریت پارامتر و استقلال مکانیسم – ایده‌هایی که یک مدل گرافیکی سببی را در مقایسه با سایر انواع مدل‌های گرافیکی احتمالی خاص می‌کند – را معرفی خواهم کرد.
• فصل 4 کتاب Causal AI، به انجام اعتبارسنجی تجربی یک DAG سببی می‌پردازد. DAG سببی واقعی ساختار آماری داده‌ها را محدود می‌کند. من نشان خواهم داد که چگونه آن محدودیت‌ها را بیان کنید و چگونه از آن‌ها برای طراحی آزمون‌های آماری استفاده کنید که ارزیابی می‌کنند DAG پیشنهادی ما چقدر در برابر شواهد تجربی در داده‌ها مقاومت می‌کند. ما همچنین به نحوه خودکارسازی این فرآیند توسط الگوریتم‌های کشف سببی نگاهی خواهیم انداخت و خواهید آموخت که چگونه از دام‌های این الگوریتم‌ها اجتناب کنید.
• فصل 5 کتاب Causal AI، ارتباط بین یادگیری عمیق و استنتاج سببی را بررسی می‌کند. ابتدا، از یادگیری عمیق برای ساخت یک مدل گرافیکی سببی قدرتمندتر با استفاده از یک DAG سببی به عنوان داربست استفاده خواهیم کرد. سپس راه‌هایی را بررسی خواهیم کرد که علیت می‌تواند گردش کار سنتی یادگیری عمیق را بهبود بخشد. ما از یادگیری نیمه‌نظارتی به عنوان یک مطالعه موردی استفاده خواهیم کرد.

در بخش 3 کتاب Causal AI، ما یک بررسی کد-محور عمیق در قلب مفهومی استنتاج سببی، یعنی مدل‌های سببی ساختاری، مداخلات، استنتاج خلاف واقع و شناسایی سببی خواهیم داشت.

• فصل 6 کتاب Causal AI، مدل سببی ساختاری را معرفی می‌کند. اگرچه اغلب به عنوان یک رویکرد دشوار برای استنتاج سببی در نظر گرفته می‌شود، اما من نشان خواهم داد که این یک نوع ساده از مدل مولد است و بنابراین پیاده‌سازی آن با ابزارهای مدل‌سازی مولد مانند Pyro آسان است. خواهیم دید که چگونه این مدل‌ها را با فریم‌ورک‌های یادگیری عمیق پیاده‌سازی کنیم.
• فصل 7 کتاب Causal AI، مفهوم مداخلات را معرفی می‌کند، به این معنی که اقداماتی که فرآیند تولید داده را تغییر می‌دهند. با استفاده از رویکرد کد-محور و تابع do Pyro، ایده مداخلات را در مدل‌سازی مولد قرار خواهیم داد تا نشان دهیم چگونه مدل‌های سببی می‌توانند مداخلات دنیای واقعی را شبیه‌سازی کنند. مدل‌سازی مولد مداخلات به سنگ بنای روش‌های استنتاج سببی ما در آینده تبدیل خواهد شد.
• فصل 8 کتاب Causal AI، استدلال خلاف واقع جهان‌های موازی را معرفی می‌کند. هنگامی که یک رویداد سببی و اثر آن را مشاهده می‌کنیم، استدلال خلاف واقع می‌پرسد که اگر علت متفاوت بود، اثر چگونه ممکن بود متفاوت باشد. خواهیم دید که چگونه این ایده را با ساخت یک DAG سببی که جهان‌های موازی را در بر می‌گیرد، مدل‌سازی کنیم. ما به مثال‌های عملی استدلال خلاف واقع، مانند بازاریابی و معامله‌گری در نتفلیکس، نگاهی خواهیم انداخت.
• فصل 9 کتاب Causal AI، الگوریتم استنتاج خلاف واقع عمومی را معرفی می‌کند. این الگوریتم یک مدل سببی ساختاری را با رویکرد جهان‌های موازی که در فصل 8 دیدیم، ترکیب می‌کند. ما چندین مثال از نحوه پیاده‌سازی این رویکرد، از جمله استفاده از یک مدل تصویر یادگیری عمیق در PyTorch، را بررسی خواهیم کرد.
• فصل 10 کتاب Causal AI، راهنمایی برای شناسایی سببی ارائه می‌دهد، که به چگونگی استنتاج سببی از داده‌ها مربوط می‌شود. در حالی که این معمولاً یک موضوع نظری سنگین است، ما یک رویکرد کد-محور را اتخاذ خواهیم کرد. به عنوان مثال، مفهوم حسابان do را با یک کتابخانه پایتون معرفی خواهیم کرد که الگوریتم‌های آن حسابان do را به طور خودکار اعمال می‌کنند.

در بخش 4 کتاب Causal AI، نگاهی عمیق‌تر به کاربردها خواهیم انداخت.

• فصل 11 کتاب Causal AI، به ساخت یک گردش کار تخمین اثر سببی می‌پردازد. ما با کتابخانه DoWhy کار خواهیم کرد و الگوریتم‌های آماری مختلفی را برای شناسایی، تخمین و سپس آزمایش استرس یک تخمین اثر سببی بررسی خواهیم کرد. ما تکنیک‌های سنتی، مانند نمرات تمایل و متغیرهای ابزاری، و همچنین روش‌های جدیدتر، مانند یادگیری ماشین دوگانه را پوشش خواهیم داد. سپس از Pyro برای پیاده‌سازی یک رویکرد بیزی برای تخمین اثر سببی با استفاده از شبیه‌سازی مونت کارلو مداخلات بر روی یک مدل گرافیکی سببی عمیق آموزش دیده با متغیرهای پنهان استفاده خواهیم کرد.
• فصل 12 کتاب Causal AI، ارتباط علیت با تصمیم‌گیری خودکار و یادگیری تقویتی را بررسی می‌کند. ما با یک مسئله تصمیم‌گیری سببی معروف به نام پارادوکس نیوکامب شروع خواهیم کرد و سپس به راهزنان، فرآیندهای تصمیم‌گیری مارکوف، فرآیندهای تصمیم‌گیری مارکوف جزئی و یادگیری تقویتی خواهیم پرداخت. ما مداخلات را به توابع پاداش متصل خواهیم کرد، نشان خواهیم داد که چگونه عوامل در شرایط مداخله‌گر تصمیم می‌گیرند و خواهیم دید که چگونه سیاست‌ها مولد مداخله هستند.
• در نهایت، فصل 13 کتاب Causal AI، علیت را در زمینه مدل‌های زبانی بزرگ و سایر مدل‌های پایه چندوجهی معرفی می‌کند. ابتدا، بررسی خواهیم کرد که چگونه از یک مدل زبانی بزرگ برای حل مسائل سببی استفاده کنیم. سپس نحوه زنجیر کردن مدل‌های زبانی بزرگ بر روی یک DAG سببی و استفاده از مداخلات سببی برای تولید متن از این مدل‌ها و همچنین مزایای انجام این کار را بررسی خواهیم کرد.