کتاب Machine Learning for High-Risk Applications

کتاب Machine Learning for High-Risk Applications (یادگیری ماشینی برای کاربردهای پرخطر: رویکردهایی به هوش مصنوعی مسئول) در سه بخش مختلف به شرح کاربردهای هوش مصنوعی در زمینه‌های پرخطر مانند سازمان‌ها و نهادهای مهم، امنیت بخش‌های مختلف و امثال آن‌ها خواهد پرداخت.

در ادامه مقدمه‌ای از کتاب Machine Learning for High-Risk Applications را از زبان نویسنده شرح خواهیم داد.

مقدمه‌ای بر کتاب Machine Learning for High-Risk Applications:

امروزه یادگیری ماشینی (ML) از نظر تجاری قابل دوام ترین زیرشاخه هوش مصنوعی (AI) است. سیستم‌های ML برای تصمیم‌گیری‌های پرخطر در استخدام، وثیقه، آزادی مشروط، وام‌دهی، امنیت و در بسیاری از برنامه‌های کاربردی دیگر در اقتصاد و دولت‌های جهان استفاده می‌شوند. در یک محیط شرکتی، سیستم‌های ML در تمام بخش‌های یک سازمان استفاده می‌شوند – از محصولات مصرف‌کننده گرفته تا ارزیابی‌های کارکنان، تا اتوماسیون اداری و غیره. در واقع، دهه گذشته پذیرش حتی گسترده‌تری از فناوری‌های ML را به همراه داشته است. اما همچنین ثابت کرده است که ML خطراتی را برای اپراتورها، مصرف کنندگان و حتی عموم مردم به همراه دارد.

مانند همه فن‌آوری‌ها، ML می‌تواند شکست بخورد – چه با سوء استفاده ناخواسته یا سوء استفاده عمدی. از سال 2023، هزاران گزارش عمومی از تبعیض الگوریتمی، نقض حریم خصوصی داده‌ها، نقض امنیت داده‌های آموزشی و سایر حوادث مضر وجود داشته است.

قبل از اینکه سازمان‌ها و عموم مردم بتوانند مزایای واقعی این فناوری هیجان‌انگیز را درک کنند، باید چنین خطراتی را کاهش داد. پرداختن به خطرات ML مستلزم اقدام پزشکان است. در حالی که استانداردهای نوپا، که این کتاب قصد دارد به آنها پایبند باشد، شروع به شکل گیری کرده است، عمل ML هنوز فاقد مجوزهای حرفه ای پذیرفته شده یا بهترین شیوه‌ها است.

این بدان معناست که تا حد زیادی به پزشکان فردی بستگی دارد که خود را در قبال نتایج خوب و بد فناوری خود در هنگام استقرار آن در جهان مسئول بدانند. یادگیری ماشینی برای برنامه‌های پرخطر، پزشکان را با درک کاملی از فرآیندهای مدیریت ریسک مدل و روش‌های جدید برای استفاده از ابزارهای رایج پایتون برای آموزش مدل‌های قابل توضیح و اشکال‌زدایی آن‌ها برای قابلیت اطمینان، ایمنی، مدیریت سوگیری، امنیت و مسائل حریم خصوصی مسلح می‌کند.

چه کسی باید کتاب Machine Learning for High-Risk Applications را بخواند؟

این کتاب عمدتاً فنی برای مهندسان حرفه ای ML و دانشمندان داده است که می‌خواهند در مورد استفاده مسئولانه از مدیریت ریسک ML یا هوش مصنوعی بیاموزند. نمونه کد در پایتون نوشته شده است. با این حال، این کتاب احتمالاً برای هر دانشمند و مهندس داده ای نیست که در پایتون برنامه‌نویسی می‌کند. اگر می‌خواهید برخی از اصول حاکمیت مدل را بیاموزید و گردش کار خود را برای تطبیق با کنترل‌های ریسک اساسی به‌روزرسانی کنید، این کتاب برای شما مناسب است.

اگر کار شما نیاز به رعایت استانداردهای عدم تبعیض، شفافیت، حریم خصوصی یا امنیتی دارد، این کتاب برای شما مناسب است. (اگرچه ما نمی‌توانیم تطابق را تضمین کنیم یا مشاوره حقوقی ارائه کنیم!) اگر می‌خواهید مدل‌های قابل توضیحی را آموزش دهید و ویرایش و اشکال‌زدایی آن‌ها را یاد بگیرید، این کتاب برای شما مناسب است.

در نهایت، اگر نگران این هستید که کار شما در ML ممکن است منجر به عواقب ناخواسته مرتبط با سوگیری‌های جامعه شناختی، نقض حریم خصوصی داده‌ها، آسیب‌پذیری‌های امنیتی یا سایر مشکلات شناخته شده ناشی از تصمیم‌گیری خودکار شود، این کتاب در این حوزه برای شما مناسب است.

البته این کتاب ممکن است مورد توجه دیگران نیز باشد. اگر از حوزه‌ای مانند فیزیک، اقتصاد سنجی یا روان‌سنجی به ML می‌آیید، این کتاب می‌تواند به شما کمک کند تا یاد بگیرید که چگونه تکنیک‌های جدیدتر ML را با تخصص تثبیت‌شده حوزه و مفاهیم اعتبار یا علیت ترکیب کنید.

کتاب Machine Learning for High-Risk Applications ممکن است به تنظیم‌کننده‌ها یا متخصصان سیاست‌گذاری اطلاعاتی در مورد وضعیت فعلی فناوری‌های ML بدهد که ممکن است در تلاش برای مطابقت با قوانین، مقررات یا استانداردها مورد استفاده قرار گیرند. مدیران ریسک فنی یا مدیران ریسک ممکن است این کتاب را در ارائه یک نمای کلی به روز از رویکردهای جدیدتر ML مناسب برای کاربردهای پرمخاطره مفید بیابند. و دانشمندان داده خبره یا مهندسان ML ممکن است این کتاب را آموزشی نیز بدانند، اما ممکن است آن را نیز به چالش بکشند.

طرح کلی کتاب Machine Learning for High-Risk Applications

کتاب به سه بخش تقسیم شده است. بخش اول مسائل را از منظر کاربرد عملی، با خطوط تئوری در صورت لزوم مورد بحث قرار می‌دهد. بخش دوم شامل نمونه‌های کدنویسی پایتون طولانی است که به موضوعات قسمت اول از دیدگاه داده‌های ساختاریافته و بدون ساختار می‌پردازد. بخش سوم توصیه‌های سختی را در مورد چگونگی موفقیت در موارد استفاده پرخطر در دنیای واقعی ارائه می‌دهد.

قسمت اول

فصل 1 کتاب Machine Learning for High-Risk Applications با یک فرو رفتن عمیق در مقررات معلق، بحث در مورد مسئولیت محصول، و درمان کامل مدیریت ریسک مدل سنتی آغاز می‌شود. از آنجایی که بسیاری از این شیوه‌ها رویکردی تا حدودی ثابت و حرفه‌ای برای مدل‌سازی را در نظر می‌گیرند – که بسیار با اخلاق رایج امروزی «به سرعت حرکت کنید و چیزها را خراب کنید» – ما همچنین درباره نحوه ترکیب بهترین شیوه‌های امنیت رایانه‌ای که شکست را در حاکمیت مدل فرض می‌کنند، بحث خواهیم کرد.

فصل 2 کتاب Machine Learning for High-Risk Applications اکوسیستم رو به رشد مدل‌های قابل توضیح را ارائه می‌کند. ما خانواده مدل افزایشی تعمیم یافته (GAM) را در عمیق ترین شکل پوشش می‌دهیم، اما همچنین بسیاری از انواع دیگر برآوردگرهای با کیفیت و شفافیت بالا را مورد بحث قرار می‌دهیم. فصل 2 همچنین بسیاری از تکنیک‌های مختلف توضیح پس‌هک را تشریح می‌کند، اما با نگاهی به دقت و مشکلات شناخته‌شده با این زیرشاخه‌های تا حدودی بیش‌ازحد تکنیک‌های ML مسئول.

فصل 3 کتاب Machine Learning for High-Risk Applications به اعتبارسنجی مدل می‌پردازد، اما به گونه ای که در واقع مفروضات مدل‌ها و قابلیت اطمینان در دنیای واقعی را آزمایش می‌کند. ما به اصول اولیه تست نرم افزار و همچنین نکات برجسته در زمینه اشکال زدایی مدل خواهیم پرداخت.

فصل 4 کتاب Machine Learning for High-Risk Applications جنبه‌های اجتماعی-تکنیکی انصاف و تعصب در ML را قبل از انتقال به رویکردهای سنجش تعصب فنی و اصلاح مرور می‌کند. سپس فصل 4 به تست سوگیری با جزئیات پرداخته است، از جمله آزمون‌های تاثیر متفاوت و اعتبار تفاضلی. فصل 4 همچنین به هر دو روش تثبیت شده و محافظه کارانه برای اصلاح سوگیری و تکنیک‌های اصلاحی دوهدفه، خصمانه و پیش، درون و پس پردازش می‌پردازد.

فصل 5 کتاب Machine Learning for High-Risk Applications بخش اول را با طرح چگونگی تیم قرمز سیستم‌های ML، با اصول اولیه امنیت رایانه شروع می‌کند و به بحث در مورد حملات رایج ML، ML متخاصم و ML قوی می‌پردازد.

هر فصل در قسمت اول با یک بحث در مورد موضوعاتی مانند فروپاشی iBuying Zillow، رسوایی سطح A در بریتانیا، سقوط مرگبار یک Uber خودران، جایزه باگ باگ افتتاحیه توییتر، و حملات فرار از ML در دنیای واقعی بسته می‌شود. هر فصل همچنین به هم‌ترازی بین محتوا و NIST AI RMF اشاره می‌کند.

قسمت دوم

بخش دوم کتاب Machine Learning for High-Risk Applications ایده‌های قسمت اول را با یک سری از فصل‌های مثال کد کامل گسترش می‌دهد. فصل 6 ماشین‌های تقویت‌کننده قابل توضیح (EBM)، XGBoost، و تکنیک‌های هوش مصنوعی قابل توضیح را از طریق سرعت آن‌ها در یک مثال پایه مالی مصرف‌کننده قرار می‌دهد.

فصل 7 تکنیک‌های توضیح پست را برای طبقه‌بندی‌کننده تصویر PyTorch اعمال می‌کند.

در فصل 8 کتاب Machine Learning for High-Risk Applications، مدل‌های مالی مصرف‌کننده خود را برای مشکلات عملکرد اشکال زدایی می‌کنیم و همین کار را برای طبقه‌بندی کننده تصویر خود در فصل 9 انجام می‌دهیم.

فصل 10 کتاب Machine Learning for High-Risk Applications شامل مثال‌های مفصلی در رابطه با تست سوگیری و اصلاح سوگیری است و فصل 11 نمونه‌هایی از حملات ML و اقدامات متقابل برای مدل‌های مبتنی بر درخت ارائه می‌کند.

قسمت سوم

ما کتاب Machine Learning for High-Risk Applications را در فصل 12 با توصیه‌های کلی تر برای موفقیت در برنامه‌های پرخطر ML پایان می‌دهیم. این با حرکت سریع و شکستن چیزها نیست. برای برخی موارد استفاده کم خطر، ممکن است استفاده از یک رویکرد سریع و کثیف خوب باشد. اما همانطور که ML تنظیم می‌شود و در برنامه‌های پرخطر استفاده می‌شود، عواقب شکستن چیزها جدی‌تر می‌شود. فصل 12 این کتاب را با توصیه‌های عملی سخت به دست آمده برای استفاده از ML در سناریوهای پرمخاطره کامل می‌کند.

امید ما با چاپ اول این متن این است که جایگزینی قانونی برای گردش‌های کاری غیرشفاف و با چارچوب زمانی فشرده‌ای که امروزه در ML رایج است، ارائه دهیم. این کتاب باید مجموعه‌ای از واژگان، ایده‌ها، ابزارها و تکنیک‌هایی را ارائه دهد که تمرین‌کنندگان را قادر می‌سازد تا در کارهای بسیار مهم خود دقت بیشتری داشته باشند.

سرفصل‌های کتاب Machine Learning for High-Risk Applications:

• Foreword
• Preface
• I. Theories and Practical Applications of AI Risk Management
• 1. Contemporary Machine Learning Risk Management
• 2. Interpretable and Explainable Machine Learning
• 3. Debugging Machine Learning Systems for Safety and Performance
• 4. Managing Bias in Machine Learning
• 5. Security for Machine Learning
• II. Putting AI Risk Management into Action
• 6. Explainable Boosting Machines and Explaining XGBoost
• 7. Explaining a PyTorch Image Classifier
• 8. Selecting and Debugging XGBoost Models
• 9. Debugging a PyTorch Image Classifier
• 10. Testing and Remediating Bias with XGBoost
• 11. Red-Teaming XGBoost
• III. Conclusion
• 12. How to Succeed in High-Risk Machine Learning
• Index
• About the Authors

جهت دانلود کتاب Machine Learning for High-Risk Applications می‌توانید پس از پرداخت، دریافت کنید.