کتاب Responsible Software Engineering

صحنه مورد نظر، مصاحبه‌ای با یک مهندس سابق فیس‌بوک به نام جاستین روزنستاین بود که یکی از توسعه‌دهندگان دکمه «لایک» محسوب می‌شود. او در فیلم گفت که «کل انگیزه» تیمش برای ابداع لایک، «گسترش حس مثبت و عشق در جهان» بوده است. اما با رسیدن این اختراع به دست میلیاردها کاربر، او و تیمش متوجه شدند که برخی از تأثیرات منفی جدی بر جامعه را پیش‌بینی نکرده بودند. او گفت: «این ایده که… نوجوانان ممکن است وقتی لایک کافی دریافت نمی‌کنند دچار افسردگی شوند، یا اینکه این دکمه می‌تواند به قطبی‌سازی سیاسی منجر شود، اصلاً در رادار ما نبود.»

این صحنه ذهنم را درگیر کرد. خب، من در سال ۲۰۰۷ که دکمه لایک طراحی شد، مشغول برنامه‌نویسی برای وب بودم. اگر سرنوشت من را در تیم روزنستاین در فیس‌بوک قرار می‌داد، آیا به خطرات احتمالی دکمه لایک فکر می‌کردم؟ یا فقط درگیر جذابیت این اختراع می‌شدم؟ نمی‌دانستم.

اما فهمیدن اینکه چنین مهندسان نرم‌افزار باتجربه‌ای، که با بهترین نیت‌ها عمل می‌کردند، می‌توانند محصولی با چنین پیامدهای غیرمنتظره‌ای ارائه دهند، برایم جذاب بود. با خودم فکر کردم: آیا ما، به‌عنوان جامعه‌ای از مهندسان نرم‌افزار، می‌توانیم یاد بگیریم که این نوع تأثیرات ناخواسته سیستم‌هایی را که می‌سازیم، پیش‌بینی و از آن‌ها جلوگیری کنیم؟ این کتاب، پاسخ من به همین سؤال است.

کتاب Responsible Software Engineering درباره چیست؟

این کتاب درباره نوشتن مسئولانه نرم‌افزار برای دنیای واقعی است؛ دنیایی پیچیده، چندفرهنگی، غیرقابل پیش‌بینی و به‌هم‌ریخته. برنامه‌هایی که در طول توسعه و آزمایش بی‌نقص کار می‌کنند، ممکن است وقتی افراد واقعی و زندگی‌شان وارد صحنه می‌شوند، رفتار غیرمنتظره‌ای از خود نشان دهند. پیش‌بینی و کاهش این مشکلات، «مهندسی نرم‌افزار مسئولانه» نامیده می‌شود.

در کتاب Responsible Software Engineering، مجموعه گسترده‌ای از اصول مهندسی نرم‌افزار مسئولانه را پوشش می‌دهم تا به شما کمک کنم برنامه‌های بهتری بسازید که برای شرایط دنیای واقعی آماده‌تر باشند:

• رفتار منصفانه‌تر با مردم، صرف‌نظر از باورها، فرهنگ، رنگ پوست، توانایی‌ها و سایر ویژگی‌هایشان
• عملکرد ایمن‌تر، برای کاهش خطر آسیب‌های فیزیکی، روانی یا مالی
• محافظت بهتر از حریم خصوصی افراد، به‌ویژه هنگام جمع‌آوری یا استفاده از اطلاعات شخصی آن‌ها
• بهره‌گیری از دانش علوم اجتماعی، حقوق، اخلاق و سایر حوزه‌هایی که ممکن است بسیاری از مهندسان با آن‌ها آشنا نباشند
• کاهش انتشار دی‌اکسید کربن (CO2)، برای مقابله با خطرات تغییرات اقلیمی
• کسب، حفظ و شایستگی اعتماد کاربران به محصولات شما

اگر مهندس نرم‌افزار هستید یا با مهندسان نرم‌افزار برای ساخت محصولات همکاری می‌کنید و اگر به تأثیر نرم‌افزارتان بر زندگی کاربران اهمیت می‌دهید، کتاب Responsible Software Engineering برای شماست. (اگر به این تأثیرات اهمیت نمی‌دهید، دو برابر امیدوارم که این کتاب را بخوانید!)

امروز، در سال ۲۰۲۵، برخی از موضوعات و اصطلاحات کتاب Responsible Software Engineering بسیار سیاسی‌تر از زمانی شده‌اند که من در سال ۲۰۲۱ شروع به نوشتن آن کردم. با این حال، مطمئن هستم که هیچ‌کدام از ما نمی‌خواهیم به دلیل یک الگوریتم ناعادلانه، از یک شغل یا خدمات درمانی محروم شویم.

هیچ‌کدام از ما نمی‌خواهیم حساس‌ترین و خصوصی‌ترین اطلاعات خود یا فرزندانمان، بدون اجازه ما جمع‌آوری یا فاش شود. امیدوارم هیچ‌کدام از ما نخواهیم نرم‌افزاری بسازیم که با تأثیرات ناخواسته به مردم آسیب برساند. من کتاب Responsible Software Engineering را نوشتم تا دانش و بهترین شیوه‌ها را به اشتراک بگذارم و به عادلانه‌تر شدن الگوریتم‌ها، خصوصی‌تر شدن اطلاعات و قابل پیش‌بینی‌تر شدن تأثیرات نرم‌افزار کمک کنم.

چه چیزهایی در کتاب Responsible Software Engineering نیست؟

این کتاب نگاهی کلی به مهندسی نرم‌افزار مسئولانه است. پر از راهنمایی‌های عمومی، نکات خاص و مطالعات موردی مفصل از گوگل است، جایی که من هفت سال کار کردم. با این حال، چند نکته مهم در این کتاب وجود ندارد:

• کد بسیار کمی در آن است.اگر به دنبال کد منبع برای مسئولانه‌تر کردن نرم‌افزارتان هستید، این کتاب برای شما نیست، اگرچه چند کتابخانه متن‌باز را برای امتحان پیشنهاد می‌دهم. علاوه بر این، می‌توانید به کتاب «یادگیری ماشین برای کاربردهای پرخطر: رویکردهایی به هوش مصنوعی مسئولانه» اثر پاتریک هال، جیمز کورتیس و پارول پاندی (از انتشارات اورایلی) مراجعه کنید.
• این کتاب خط‌مشی رسمی گوگل نیست.این اثر، کار شخصی من است که با مصاحبه با بیش از صد نفر از همکارانم در گوگل («گوگلرها») و سایر متخصصان شکل گرفته است.

من مثال‌های زیادی را در کتاب Responsible Software Engineering از تجربیات گوگلرها آورده‌ام. با توجه به عنوان فرعی کتاب یعنی «مطالعات موردی واقعی از گوگل»، این موضوع نباید تعجب‌آور باشد، اما می‌خواهم این واقعیت را مستقیماً بیان کنم، در صورتی که فکر می‌کنید این کتاب یک تبلیغ بزرگ برای محصولات گوگل است. این‌طور نیست. من این مثال‌های متمرکز را برای ایجاد موقعیت‌های آموزشی درباره مهندسی نرم‌افزار – از نوع مسئولانه و غیر آن – و برای به اشتراک گذاشتن داستان‌هایی که شاید قبلاً نشنیده‌اید، گنجانده‌ام.

همچنین قصد ندارم این‌طور القا کنم که شیوه‌های گوگل نسبت به سایر شرکت‌های نرم‌افزاری مسئولانه‌تر یا غیرمسئولانه‌تر هستند. بسیاری از شرکت‌ها مهندسان عالی استخدام می‌کنند و همه شرکت‌ها اشتباه می‌کنند. چیزی که اهمیت دارد این است که چگونه بعد از آن اشتباهات با آن‌ها برخورد می‌کنند. امیدوارم مطالعات موردی مرتبط با گوگل، بینش‌های جالبی در مورد مهندسی نرم‌افزار مسئولانه در عمل به شما ارائه دهند.