کتاب Platform and Model Design for Responsible AI

کتاب Platform and Model Design for Responsible AI (طراحی سکو و مدل برای هوش مصنوعی مسئول: طراحی و ساخت مدل‌های یادگیری ماشینی انعطاف‌پذیر، خصوصی، منصفانه و شفاف) در 4 قسمت مختلف به شرح مفاهیم هوش مصنوعی در زمینه‌ی مدل‌های یادگیری ماشین خواهد پرداخت.

در ادامه مقدمه‌ای از کتاب Platform and Model Design for Responsible AI را از زبان نویسنده شرح خواهیم داد.

مقدمه‌ای بر کتاب Platform and Model Design for Responsible AI:

هوش مصنوعی (AI) از زمان پیدایش خود راه درازی را پیموده است و از یک مفهوم آینده نگر به یک فناوری فراگیر تبدیل شده است که در تمام جنبه‌های زندگی ما نفوذ می کند. از مراقبت‌های بهداشتی و مالی گرفته تا فرآیندهای تصمیم‌گیری در بخش‌های دولتی و خصوصی، سیستم‌های هوش مصنوعی به زندگی روزمره ما تبدیل شده‌اند. از آنجایی که برنامه‌های مبتنی بر هوش مصنوعی مانند ChatGPT به ابزارهای ضروری برای افراد و مشاغل تبدیل می‌شوند، بسیار مهم است که چالش‌های اخلاقی، اجتماعی و فنی را که این پیشرفت را همراهی می‌کند، بررسی کنیم.

انگیزه این کتاب ریشه در این باور ما دارد که اکنون، بیش از هر زمان دیگری، باید زمینه را برای آینده‌ای فراهم کنیم که در آن هوش مصنوعی به عنوان یک نیروی خوب عمل کند. همانطور که هوش مصنوعی به شکل‌دهی دنیای ما ادامه می‌دهد، این کتاب به دنبال این است که به مهندسان هوش مصنوعی، رهبران کسب‌وکار، سیاست‌گذاران و سایر ذینفعان راهنمایی جامع در مورد توسعه و اجرای سیستم‌های هوش مصنوعی مسئول و قابل اعتماد ارائه دهد.

در کتاب Platform and Model Design for Responsible AI جامع، جنبه‌های مختلف هوش مصنوعی مسئولیت‌پذیر، از جمله آسیب‌پذیری‌های مدل‌های یادگیری ماشین (ML)، حساسیت به حملات دشمن، و اهمیت اقدامات امنیتی قوی را بررسی خواهیم کرد. ما به روش‌های ریسک‌گریزی خواهیم پرداخت که ایمنی و قابلیت اطمینان را در اولویت قرار می‌دهند و آسیب‌های احتمالی و پیامدهای ناخواسته را به حداقل می‌رسانند.

کتاب Platform and Model Design for Responsible AI چارچوب‌های سیاست و استراتژی‌های اتخاذ شده توسط کشورهای مختلف را برای اطمینان از توسعه و استقرار هوش مصنوعی اخلاقی، و همچنین جنبه‌های حیاتی حریم خصوصی داده‌ها، با تکنیک‌ها و بهترین شیوه‌ها برای محافظت از اطلاعات کاربر و حفظ اعتماد به سیستم‌های هوش مصنوعی بررسی می‌کند.

علاوه بر این، ما رویکردهای ارزیابی مدل هوش مصنوعی، عدم قطعیت و اعتبار سنجی را پوشش خواهیم داد. نقش MLOps و AutoML در تقویت شیوه‌های هوش مصنوعی کارآمد، مقیاس‌پذیر و مسئولانه در تنظیمات سازمانی؛ و اهمیت انصاف در هوش مصنوعی، پرداختن به چالش‌ها در جمع‌آوری داده‌ها، پیش پردازش و بهینه‌سازی مدل برای کاهش سوگیری‌ها و تضمین نتایج عادلانه.

همچنین در مورد نیاز به شفافیت و توضیح در سیستم‌های هوش مصنوعی، حکمرانی اخلاقی و نظارت بحث خواهیم کرد و تکنیک‌هایی را برای ساخت مدل‌های هوش مصنوعی کالیبره‌شده و سازگار که می‌توانند به طور موثر به محیط‌ها و الزامات در حال تغییر پاسخ دهند، پوشش خواهیم داد.

علاوه بر این، برای ارتقای کارایی و ثبات در توسعه مدل‌های هوش مصنوعی مسئول و ارائه مطالعات موردی و برنامه‌های کاربردی در دنیای واقعی، با نشان دادن تأثیر و مزایای هوش مصنوعی مسئول در صنایع مختلف، به مفهوم فروشگاه‌های ویژگی پایدار خواهیم پرداخت.

هدف کتاب Platform and Model Design for Responsible AI این است که به عنوان یک منبع جامع برای کسانی که به دنبال مهار قدرت هوش مصنوعی هستند و در عین حال به چالش‌های اخلاقی و اجتماعی مهمی که این هوش مصنوعی ارائه می‌کند، می‌پردازد. امیدواریم این کتاب الهام بخش شما باشد تا به جنبش به سمت هوش مصنوعی مسئول بپیوندید و اصول و شیوه‌های آن را در تلاش‌های حرفه ای و شخصی خود به کار ببرید.

کتاب Platform and Model Design for Responsible AI برای چه کسی است؟

این کتاب برای متخصصان ML با تجربه است که به دنبال درک خطرات و نشت داده‌های مدل‌ها و چارچوب‌های ML هستند، انصاف را با طراحی در مدل‌ها و پلتفرم‌ها ترکیب می‌کنند، و یاد می‌گیرند که چگونه اجزای قابل استفاده مجدد را توسعه دهند و از آن‌ها برای کاهش تلاش و هزینه در هنگام راه‌اندازی و نگهداری استفاده کنند. یک اکوسیستم هوش مصنوعی

آنچه کتاب Platform and Model Design for Responsible AI پوشش می‌دهد:

فصل 1، خطرات و حملات به مدل‌های ML، یک مرور کلی از عبارات کلیدی مرتبط با انواع مختلف حملات ممکن بر روی مدل‌های ML ارائه می‌کند و درک اساسی از نحوه طراحی حملات ML توسط مهاجمان ایجاد می‌کند. در این فصل با حملات مستقیم و غیرمستقیم که حریم خصوصی یک سیستم را به خطر می‌اندازند آشنا می‌شوید. در این زمینه، این فصل زیان‌های متحمل شده توسط سازمان‌ها را به دلیل از دست دادن اطلاعات حساس و اینکه چگونه افراد در برابر از دست دادن اطلاعات محرمانه به دست دشمنان آسیب‌پذیر می‌مانند، برجسته می‌کند.

فصل 2 کتاب Platform and Model Design for Responsible AI، ظهور روش‌ها و چارچوب‌های ریسک گریز، یک نمای کلی کلی از چارچوب‌ها، ابزارها و روش‌های ارزیابی ریسک ارائه می‌کند که می‌توانند مستقیماً برای ارزیابی ریسک مدل اعمال شوند. در این فصل، با ابزارهای موجود در پلتفرم‌های داده و تکنیک‌های طراحی مدل آشنا می‌شوید که به کاهش ریسک در مقیاس کمک می‌کند. هدف اصلی این فصل ایجاد آگاهی از تکنیک‌های ناشناس‌سازی و اعتبارسنجی داده‌ها، علاوه بر معرفی اصطلاحات و اقدامات مختلف مرتبط با حریم خصوصی است.

فصل 3 کتاب Platform and Model Design for Responsible AI، مقررات و سیاست‌های پیرامون هوش مصنوعی قابل اعتماد، قوانین مختلفی را معرفی می‌کند که در سراسر کشورها برای محافظت و جلوگیری از از دست رفتن اطلاعات حساس مشتریان تصویب می‌شوند. شما با تشکیل گروه‌های مختلف متخصص اخلاق، ابتکارات دولتی و سیاست‌هایی که برای اطمینان از اخلاق و انطباق با همه راه‌حل‌های هوش مصنوعی تدوین می‌شوند، آشنا خواهید شد.

فصل 4 کتاب Platform and Model Design for Responsible AI، مدیریت حریم خصوصی در خطوط لوله داده‌های بزرگ و طراحی مدل، یک نمای کلی از اجزای مختلف مرتبط با یک سیستم کلان داده را ارائه می‌کند، که به عنوان یک بلوک ساختمانی در بالای آن عمل می‌کند که می‌توانیم به طور موثر مدل‌های هوش مصنوعی را مستقر کنیم.

این فصل از کتاب Platform and Model Design for Responsible AI به این تصویر می‌پردازد که چگونه مسائل مربوط به انطباق را می‌توان در سطح مؤلفه در معماری مبتنی بر میکروسرویس به‌گونه‌ای مدیریت کرد که نشت اطلاعات وجود نداشته باشد. در این فصل، با اصول امنیتی مختلف مورد نیاز در میکروسرویس‌های فردی و همچنین اقدامات امنیتی که باید در هنگام استقرار مدل‌های ML در مقیاس در فضای ابری گنجانده شوند، آشنا می‌شوید.

فصل 5 کتاب Platform and Model Design for Responsible AI، خط لوله ML، ارزیابی مدل، و عدم قطعیت مدیریت، گردش کار AI/ML را معرفی می‌کند. سپس این فصل به الگوریتم‌های مختلف ML مورد استفاده برای طبقه بندی، رگرسیون، تولید و یادگیری تقویتی می‌پردازد.

این فصل از کتاب Platform and Model Design for Responsible AI همچنین مسائل مربوط به قابلیت اطمینان و قابل اعتماد بودن این الگوریتم‌ها را مورد بحث قرار می‌دهد. ما با معرفی اجزای مختلف خط لوله ML شروع می‌کنیم. سپس این فصل به طور خلاصه به بررسی الگوریتم‌های مهم AI/ML برای وظایف طبقه‌بندی، رگرسیون و خوشه‌بندی می‌پردازد. علاوه بر این، انواع مختلف عدم قطعیت‌ها، علل آن‌ها و تکنیک‌های کمی‌سازی عدم قطعیت را مورد بحث قرار می‌دهیم.

فصل 6، تنظیم Hyperparameter، MLOPs و AutoML، از فصل قبل ادامه می‌یابد و نیاز به آموزش مداوم در خط لوله ML را توضیح می‌دهد. ساخت یک مدل ML یک فرآیند تکراری است و وجود مدل‌های بسیار، که هر کدام دارای تعداد زیادی فراپارامتر هستند، کار را برای مبتدیان پیچیده می‌کند. این فصل نگاهی اجمالی به گزینه‌های AutoML حاضر برای گردش کار ML شما ارائه می‌دهد. شرایطی را که راه‌حل‌های بدون کد/کد کم مفید هستند، گسترش می‌دهد.

راه حل‌های ارائه شده توسط ارائه دهندگان بزرگ ابر از نظر سهولت، ویژگی‌ها و قابلیت توضیح مدل را بررسی می‌کند. علاوه بر این، این فصل همچنین ابزارهای ارکستراسیون، مانند Kubeflow و Vertex AI را برای مدیریت آموزش مداوم و استقرار مدل‌های ML شما پوشش می‌دهد.

فصل 7 کتاب Platform and Model Design for Responsible AI، مفاهیم عادلانه و تولید داده‌های منصفانه، مشکلات مربوط به جمع آوری ناعادلانه داده‌ها را برای انواع مختلف داده‌ها، هستی‌شناسی‌ها، واژگان و غیره به دلیل عدم استانداردسازی ارائه می‌کند.

هدف اصلی این فصل از کتاب Platform and Model Design for Responsible AI تأکید بر اهمیت کیفیت داده‌ها است، زیرا مجموعه داده‌های بایاس می‌توانند سوگیری‌های پنهان را در مدل‌های ML معرفی کنند. این فصل بر اصول راهنمایی برای جمع‌آوری، مدیریت و سرپرستی بهتر داده‌ها تمرکز دارد که باید در سطح جهانی اعمال شوند. در ادامه خواهید دید که چگونه گام‌های اولیه استراتژی‌های ارزیابی می‌تواند به ایجاد مجموعه داده‌های بی طرفانه کمک کند، تجزیه و تحلیل هوش مصنوعی جدید و سفرهای تحول دیجیتال را برای پیش‌بینی‌های مبتنی بر ML ممکن می‌کند.

فصل 8 کتاب Platform and Model Design for Responsible AI، عدالت در بهینه‌سازی مدل، محدودیت‌ها و تکنیک‌های مختلف بهینه‌سازی را ارائه می‌کند که برای بهینه‌سازی و به‌دست آوردن مدل‌های ML منصفانه ضروری هستند. تمرکز این فصل این است که شما را با بهینه‌سازهای سفارشی‌شده متفاوت و جدید، که توسط تحقیقات رونمایی شده‌اند، روشن کند، که می‌توانند برای ساخت مدل‌های ML منصفانه نظارت‌شده، بدون نظارت و نیمه‌نظارت‌شده خدمت کنند.

این فصل، به معنای وسیع‌تر، شما را با گام‌های اساسی برای ایجاد و تعریف محدودیت‌های مدل که می‌تواند توسط بهینه‌سازهای مختلف در طول فرآیند آموزش استفاده شود، آماده می‌کند. همچنین درک درستی از نحوه ارزیابی چنین مدل‌های مبتنی بر محدودیت با معیارهای مناسب و هزینه‌های آموزشی اضافی که در طول تکنیک‌های بهینه‌سازی ایجاد می‌شود، به دست خواهید آورد که به مدل‌ها امکان می‌دهد الگوریتم‌های خود را طراحی کنند.

فصل 9 کتاب Platform and Model Design for Responsible AI، مدل توضیح پذیری، شما را با روش‌های مختلفی آشنا می‌کند که می‌توان از آن‌ها برای کشف رمز و راز جعبه سیاه در مدل‌های ML استفاده کرد. ما در مورد نیاز به توضیح یک پیش‌بینی مدل صحبت خواهیم کرد. این فصل الگوریتم‌ها و تکنیک‌های مختلفی مانند SHAP و LIME را پوشش می‌دهد تا یک جزء قابل توضیح به مدل‌های موجود اضافه شود. ما کتابخانه‌هایی مانند DoWhy و CausalNex را بررسی می‌کنیم تا ویژگی‌های توضیح‌پذیری در دسترس کاربر نهایی را ببینیم. همچنین ویژگی‌های توضیح‌پذیری ارائه‌شده توسط Vertex AI، SageMaker و H2O.ai را بررسی خواهیم کرد.

فصل 10 کتاب Platform and Model Design for Responsible AI، اخلاق و حاکمیت مدل، بر فرآیندهای حکمرانی اخلاقی که باید با مدل‌هایی در تولید ایجاد شود، برای شناسایی سریع همه خطرات مربوط به توسعه و استقرار یک مدل، تأکید می‌کند. این فصل همچنین بهترین روش‌ها را برای نظارت بر همه مدل‌ها، از جمله مدل‌های موجود در فهرست، پوشش می‌دهد. شما بینش‌های بیشتری در مورد تفاوت‌های ظریف عملی ریسک‌هایی که در مراحل مختلف چرخه عمر مدل ظاهر می‌شوند و اینکه چگونه می‌توان این خطرات را در زمانی که مدل‌ها در موجودی قرار دارند کاهش داد، دریافت خواهید کرد.

در اینجا، روش‌های مختلف طبقه‌بندی ریسک و چگونگی کمک به کاهش ضرر کسب‌وکار ناشی از مدل‌های با عملکرد پایین را نیز خواهید فهمید. علاوه بر این، شما همچنین بینش‌های دقیقی در مورد چگونگی ایجاد حاکمیت مناسب در تجمیع داده‌ها، دوره‌های تکراری آموزش مدل و فرآیند تنظیم فراپارامتر دریافت خواهید کرد.

فصل 11 کتاب Platform and Model Design for Responsible AI، اخلاق سازگاری مدل، بر ایجاد فرآیندهای حاکمیت اخلاقی برای مدل‌های در حال تولید، با هدف شناسایی سریع هر گونه نشانه‌ای از شکست مدل یا سوگیری در پیش‌بینی‌های خروجی تمرکز دارد. با مطالعه این فصل، با بررسی مداوم داده‌ها و معیارهای گذشته به منظور تهیه پیش نویس مناسب کوتاه مدت و بلندمدت، به درک عمیق تری از جزئیات عملی مربوط به نظارت بر عملکرد مدل‌ها و پیش‌بینی‌های مدل متنی دست خواهید یافت. برنامه‌ها علاوه بر این، شما همچنین درک دقیقی از شرایط منتهی به آموزش مجدد مدل و اهمیت داشتن یک مدل کاملاً کالیبره شده خواهید داشت. این فصل همچنین مبادلات مرتبط با عدالت و کالیبراسیون مدل را برجسته می‌کند.

فصل 12 کتاب Platform and Model Design for Responsible AI، ساختن پلتفرم‌های هوش مصنوعی درجه یک سازمانی پایدار، بر این تمرکز دارد که چگونه اهداف سازمانی، ابتکارات، و حمایت رهبری می‌توانند ما را قادر به ساختن پلت‌فرم‌های هوش مصنوعی اخلاقی پایدار کنند. هدف این فصل تأکید بر اهمیت سازمان‌هایی است که اصول هوش مصنوعی اخلاقی را برای بازتاب ارزش‌های محلی، حقوق بشر، هنجارهای اجتماعی و رفتارهای جامعه‌ای که راه‌حل‌ها در آن عمل می‌کنند، زمینه‌ای می‌کنند و پیوند می‌دهند.

در این زمینه، این فصل از کتاب Platform and Model Design for Responsible AI تأثیر راه‌حل‌های هوش مصنوعی در مقیاس بزرگ را بر محیط‌زیست و رویه‌های درستی که باید برای آموزش و استقرار مدل با استفاده از یادگیری فدرال ترکیب شوند، برجسته می‌کند. این فصل بیشتر به مفاهیم مهمی می‌پردازد که به شدت بر نیاز به مسئولیت پذیری اجتماعی و همچنین توانایی طراحی نرم افزار، مدل‌ها و پلتفرم‌ها تاکید دارند.

فصل 13 کتاب Platform and Model Design for Responsible AI، مدیریت چرخه زندگی مدل پایدار، فروشگاه‌های ویژگی و کالیبراسیون مدل، به بررسی بهترین شیوه‌هایی می‌پردازد که باید در طول چرخه عمر توسعه مدل دنبال شوند، که می‌تواند به ایجاد فروشگاه‌های ویژگی پایدار منجر شود. در این فصل، اهمیت پیاده‌سازی حریم خصوصی را برجسته می‌کنیم تا استفاده مجدد از فروشگاه‌ها و همکاری بین تیم‌ها بدون به خطر انداختن جنبه‌های امنیتی و حریم خصوصی به حداکثر برسد.

این فصل از کتاب Platform and Model Design for Responsible AI بیشتر به بررسی تکنیک‌های کالیبراسیون مدل‌های مختلف می‌پردازد، که در ساختن پلت‌فرم‌های ML پایدار مقیاس‌پذیر ضروری هستند. در اینجا، شما همچنین خواهید فهمید که چگونه فروشگاه‌های ویژگی‌های سازگار را طراحی کنید و چگونه می‌توانیم نظارت و حاکمیت را در یادگیری فدرال به بهترین نحو بگنجانیم.

فصل 14، موارد استفاده در سطح صنعت، یک نمای کلی از موارد استفاده مختلف در صنایع مختلف ارائه می‌دهد. هدف اصلی این کار اطلاع رسانی به خوانندگانی است که از حوزه‌های مختلف صنعت می‌آیند در مورد اینکه چگونه اخلاق و انطباق را می‌توان در سیستم‌هایشان ادغام کرد تا یک سیستم هوش مصنوعی منصفانه و عادلانه ایجاد کند و اعتماد و اعتماد کاربران نهایی را جلب کند.

شما همچنین فرصتی خواهید داشت که الگوریتم‌ها و ابزارهای مطالعه شده در فصل‌های قبلی را برای مسائل مختلف تجاری اعمال کنید. علاوه بر این، درک درستی از نحوه استفاده مجدد از الگوهای طراحی اخلاقی در حوزه‌های مختلف صنعت به دست خواهید آورد.

سرفصل‌های کتاب Platform and Model Design for Responsible AI:

• Platform and Model Design for Responsible AI
• Contributors
• About the authors
• About the reviewers
• Preface
• Part 1: Risk Assessment Machine Learning Frameworks in a Global Landscape
  • Chapter 1: Risks and Attacks on ML Models
  • Chapter 2: The Emergence of Risk-Averse Methodologies and Frameworks
  • Chapter 3: Regulations and Policies Surrounding Trustworthy AI
• Part 2: Building Blocks and Patterns for a Next-Generation AI Ecosystem
  • Chapter 4: Privacy Management in Big Data and Model Design Pipelines
  • Chapter 5: ML Pipeline, Model Evaluation, and Handling Uncertainty
  • Chapter 6: Hyperparameter Tuning, MLOps, and AutoML
• Part 3: Design Patterns for Model Optimization and Life Cycle Management
  • Chapter 7: Fairness Notions and Fair Data Generation
  • Chapter 8: Fairness in Model Optimization
  • Chapter 9: Model Explainability
  • Chapter 10: Ethics and Model Governance
• Part 4: Implementing an Organization Strategy, Best Practices, and Use Cases
  • Chapter 11: The Ethics of Model Adaptability
  • Chapter 12: Building Sustainable Enterprise-Grade AI Platforms
  • Chapter 13: Sustainable Model Life Cycle Management, Feature Stores, and Model Calibration
  • Chapter 14: Industry-Wide Use Cases
• Index
• Other Books You May Enjoy

جهت دانلود کتاب Platform and Model Design for Responsible AI می‌توانید پس از پرداخت، دریافت کنید.