کتاب Multi-Agent AI Engineering

کتاب Multi-Agent AI Engineering: Design, build, and operate AI systems that think and act as coordinated teams (مهندسی هوش مصنوعی چندعاملی: طراحی، ساخت و بهره‌برداری از سیستم‌های هوش مصنوعی که به‌صورت تیم‌های هماهنگ فکر و عمل می‌کنند) نوشته دکتر شیائو ما و دکتر چی وانگ، یک راهنمای عملی برای طراحی، ساخت و بهره‌برداری از سیستم‌های هوش مصنوعی چندعاملی در سطح تولید است.

در ادامه مقدمه‌ای از کتاب Multi-Agent AI Engineering را از زبان نویسنده شرح خواهیم داد.

مقدمه‌ای بر کتاب Multi-Agent AI Engineering:

یک مدل زبانی بزرگ (LLM) می‌تواند یک مقاله بنویسد، به یک سؤال پاسخ دهد یا یک تابع برنامه‌نویسی را تولید کند. اما «عاملیت قابل اعتماد» از سیستمی که پیرامون مدل قرار دارد، انتظار بیشتری دارد: دنبال کردن یک هدف در چندین مرحله، استفاده از ابزارها، حفظ وضعیت، بررسی کار خود، بازیابی از خطا و بهبود بر اساس شواهد. این قابلیت‌ها صرفاً از مقیاس مدل به دست نمی‌آیند؛ بلکه نتیجه معماری سیستم هستند. برخی معماری‌ها این چرخه را درون یک عامل واحد نگه می‌دارند و برخی دیگر مسئولیت‌ها را میان عامل‌های مجزا تقسیم می‌کنند. تمرکز این کتاب بر نوع دوم و انضباط مهندسی موردنیاز آن است: مهندسی هوش مصنوعی چندعاملی.

یک سیستم چندعاملی (MAS) مجموعه‌ای از عامل‌های هوش مصنوعی است که با یکدیگر ارتباط برقرار می‌کنند، وظایف را تقسیم می‌کنند و برای رسیدن به یک هدف مشترک هماهنگ می‌شوند. زمانی که انجام کار به تخصص‌های متفاوت، بازبینی مستقل، اجرای همزمان یا اختیارات محدود نیاز داشته باشد، تفکیک نقش‌ها این ویژگی‌ها را آشکار می‌کند. البته این جداسازی خود مسئله‌ای جدید ایجاد می‌کند: توافق، واگذاری وظایف، حل تعارض و رسیدن به نتیجه در شرایط واقعیِ هزینه، تأخیر و خطا.

تشبیهی که در سراسر کتاب به آن بازمی‌گردیم، نهادهای انسانی است. تمدن مشکلات خود را صرفاً با بزرگ‌تر شدن مغز انسان‌ها حل نکرد؛ بلکه نهادهایی مانند بازارها، دادگاه‌ها، داوری علمی و شرکت‌ها را ایجاد کرد که به افراد محدود اجازه می‌دهند در کنار هم چیزی بسازند که از توان هر فرد به‌تنهایی فراتر است. سیستم‌های چندعاملی همین ایده را به هوش ماشینی منتقل می‌کنند. مهندسی درست آن‌ها به معنای بهره‌گیری از سازوکارهای آزموده‌شده این نهادهاست: نقش‌های شفاف، ارتباطات قابل اعتماد، پاسخگویی و توانایی یادگیری از تجربه. آنچه از این نهادها وام گرفته می‌شود «ساختار» است، نه تعداد افراد؛ زیرا پرسش‌های اساسی چه در یک عامل و چه در دوازده عامل یکسان باقی می‌مانند.

کتاب Multi-Agent AI Engineering عمداً یک کتاب مهندسی است، نه مجموعه‌ای از دموها و نمایش‌های جذاب. مفاهیم مهندسی آن با مثال‌های عملی پایتون همراه شده‌اند و در جاهایی که یک ابزار مشخص به درک بهتر مطلب کمک می‌کند، از چارچوب‌های شناخته‌شده استفاده شده است. بیشتر نمونه‌های کتاب با AG2 پیاده‌سازی شده‌اند، اما فصل دهم با عنوان «بررسی مقایسه‌ای چارچوب‌ها» سایر چارچوب‌ها را نیز بررسی می‌کند و صادقانه توضیح می‌دهد که در چه مواردی عملکرد بهتری دارند.

آنچه کتاب Multi-Agent AI Engineering واقعاً آموزش می‌دهد، معماری زیربنایی است و درس‌های آن میان چارچوب‌های مختلف قابل انتقال هستند. هدف نهایی، ایجاد قدرت قضاوت معماری است؛ یعنی اصول، انتزاع‌ها و عادت‌های عملیاتی که حتی با تغییر ابزارها همچنان معتبر باقی می‌مانند.

در پایان کتاب Multi-Agent AI Engineering قادر خواهید بود سیستم‌های چندعاملی را طراحی، پیاده‌سازی، ارزیابی، ایمن‌سازی، پایش، استقرار و تکامل دهید؛ سیستم‌هایی که نه‌تنها منتشر می‌شوند، بلکه در عمل نیز به کار خود ادامه می‌دهند. مهم‌تر از هر تکنیک خاص، شما با روشی برای طراحی مجموعه‌ای از عامل‌ها آشنا خواهید شد؛ همان‌گونه که نهادها طراحی می‌شوند: نقش‌ها محدود، کارها بازبینی‌شده، سوابق ثبت‌شده و اختیارات به‌درستی تخصیص‌یافته هستند.

یکی از مثال‌های اصلی کتاب که از فصل چهارم آغاز می‌شود، ساخت یک دستیار پژوهشی است؛ سیستمی که یک سؤال تحقیقاتی را دریافت می‌کند، منابع را جمع‌آوری و ارزیابی می‌کند و در نهایت پاسخی مستند و دارای ارجاع ارائه می‌دهد. این سیستم می‌تواند برای سؤالات فنی عمیق، تحلیل بازار یا بررسی ادبیات علمی مورد استفاده قرار گیرد. فصل‌های بعدی به همین سیستم بازمی‌گردند و هر بار یکی از لایه‌های معماری آن را به‌عنوان یک مثال مستقل پیاده‌سازی می‌کنند: قراردادهای ارتباطی، ارکستراسیون، حافظه میان نشست‌ها، تعامل‌پذیری، ارزیابی، مشاهده‌پذیری، امنیت و استقرار. اگر بتوانید توضیح دهید این دستیار از یک فصل به فصل بعد چگونه تغییر می‌کند، در واقع معماری کتاب را درک کرده‌اید.

کتاب Multi-Agent AI Engineering برای چه کسانی است؟

این کتاب برای افرادی نوشته شده است که از پرسش «آیا عامل‌های هوش مصنوعی جالب هستند؟» عبور کرده‌اند و اکنون با پرسش دشوارتری روبه‌رو هستند: چگونه می‌توان آن‌ها را قابل اعتماد ساخت؟

مخاطبان اصلی کتاب عبارت‌اند از:

• مهندسان هوش مصنوعی و یادگیری ماشین که در حال ساخت سیستم‌های عامل‌محور هستند و به دنبال الگوها و انضباط عملیاتی‌اند، نه صرفاً فهرستی از تکنیک‌های پرامپت‌نویسی.
• معماران نرم‌افزار و رهبران فنی که می‌خواهند بدانند معماری‌های چندعاملی در کجا مناسب هستند، چه هزینه‌هایی دارند و چه زمانی ارزش این پیچیدگی را پیدا می‌کنند.
• مدیران مهندسی و محصول که باید درباره معماری، ارزیابی و ریسک سیستم‌های عامل‌محور تصمیم‌های آگاهانه بگیرند.

خوانندگان باید با زبان Python آشنا باشند و درک پایه‌ای از مدل‌های زبانی بزرگ و نحوه استفاده از آن‌ها داشته باشند. تخصص عمیق در یادگیری ماشین مفید است اما الزامی نیست، زیرا مفاهیم کتاب بر پایه اصول مهندسی بنا شده‌اند، نه جزئیات داخلی مدل‌ها. اگر به دنبال یک راهنمای API برای یک چارچوب خاص یا روشی برای ساخت عامل‌ها بدون کدنویسی هستید، این کتاب برای شما نیست.

این کتاب چه موضوعاتی را پوشش می‌دهد؟

فصل ۱: مقدمه‌ای بر سیستم‌های چندعاملی

این فصل مسیر تکامل هوش مصنوعی را از سیستم‌های خبره مبتنی بر قوانین، از طریق یادگیری عمیق و هوش مصنوعی مولد، تا معماری‌های عامل‌محور امروزی بررسی می‌کند. همچنین توضیح می‌دهد که سیستم‌های چندعاملی چه هستند و چه نیستند. این مرور تاریخی مبنایی منطقی برای تصمیم‌گیری فراهم می‌کند تا تشخیص دهید چه زمانی عامل‌های هماهنگ ارزش پیچیدگی اضافی را دارند و چه زمانی فقط بر پیچیدگی سیستم می‌افزایند.

فصل ۲: اصول سیستم‌های چندعاملی

این فصل هفت اصل طراحی را معرفی می‌کند:

• خودمختاری محدود (Bounded Autonomy)
• هم‌راستایی جمعی (Collective Alignment)
• تاب‌آوری (Resilience)
• قابلیت یادگیری (Learnability)
• ترکیب‌پذیری ماژولار (Modular Composability)
• ایمنی و اعتماد از ابتدا در طراحی (Safety and Trust by Design)
• مشاهده‌پذیری و ارزیابی (Observability and Evaluation)

فصل به‌صورت واقع‌بینانه توضیح می‌دهد که این اصول همیشه در یک جهت عمل نمی‌کنند و بسیاری از تصمیم‌های معماری در عمل حاصل مصالحه میان این اصول هستند، نه پیروی کامل از یکی از آن‌ها.

فصل ۳: چارچوب‌ها و مدل‌های ذهنی

این فصل توضیح می‌دهد که یک فریم‌ورک عامل‌محور دقیقاً چه مزایایی ارائه می‌دهد و چه هزینه‌های پنهانی دارد. با جدا کردن انتزاع‌های مشترک میان چارچوب‌های مختلف، الگوهایی که یاد می‌گیرید به یک ابزار خاص وابسته نمی‌شوند و با تغییر فناوری منسوخ نخواهند شد.

فصل ۴: ساخت اولین عامل‌ها

این فصل کالبدشکافی یک عامل هوش مصنوعی را انجام می‌دهد و اجزایی مانند:

• استدلال
• استفاده از ابزارها
• حافظه
• تعامل با محیط

را بررسی می‌کند. سپس یک عامل ساده اما کاربردی در Python ساخته می‌شود تا تفاوت میان یک دمو و یک عامل قابل اتکا روشن شود.

فصل ۵: ارتباط میان عامل‌ها

این فصل از اصولی که باعث موفقیت تیم‌های انسانی می‌شوند آغاز می‌کند و آن‌ها را به طراحی پیام، مسیریابی ارتباطات و انتخاب میان ارتباط همزمان و غیرهمزمان تبدیل می‌کند. همچنین توضیح می‌دهد که قرارداد تحویل کار بین دو عامل یکی از مهم‌ترین تصمیم‌های اولیه در طراحی سیستم‌های چندعاملی است.

فصل ۶: الگوهای طراحی برای همکاری عامل‌ها

این فصل الگوهای همکاری مختلفی را معرفی می‌کند که در ادامه کتاب بارها مورد استفاده قرار می‌گیرند، از جمله:

• متخصصان موازی
• جریان‌های کاری متوالی
• تجزیه وظایف
• مناظره و بازاندیشی
• ترکیب متخصصان (Mixture of Experts)

همچنین نشان می‌دهد چگونه این الگوها را آگاهانه انتخاب و ترکیب کنید، نه صرفاً بر اساس عادت.

فصل ۷: مدیریت زمینه و حافظه

این فصل حافظه را نه به‌عنوان یک قابلیت جانبی، بلکه به‌عنوان یک عنصر معماری بررسی می‌کند. موضوعات آن شامل:

• حافظه کوتاه‌مدت و بلندمدت
• ذخیره‌سازی دانش پایدار
• بازیابی و فراموشی اطلاعات
• تثبیت دانش از تجربیات خام

است. توانایی یک سیستم در ذخیره، بازیابی، اعتماد و فراموش کردن اطلاعات، سقف توانایی‌های آن را تعیین می‌کند.

فصل ۸: ارکستراسیون تیم‌های عامل

این فصل مفهوم ارکستراسیون را تعریف می‌کند و کنترل متمرکز و غیرمتمرکز را با یکدیگر مقایسه می‌کند. سپس الگوهای اجرایی مختلف را بررسی می‌کند:

• اجرای متوالی
• اجرای موازی
• اجرای تجمیعی

همچنین مدیریت خطا، اهداف سطح سرویس (SLO) و ارکستراسیون تطبیقی را پوشش می‌دهد. یکی از موضوعات مهم فصل، مدیریت وظایفی است که از یک پنجره زمینه (Context Window) فراتر می‌روند و نیازمند انتقال وضعیت بین عامل‌های مختلف در طول زمان هستند.

فصل ۹: انتزاع‌ها و پروتکل‌های یکپارچه برای همکاری عامل‌ها

این فصل به مسئله تعامل‌پذیری (Interoperability) می‌پردازد و آن را در قالب یک نردبان پنج‌مرحله‌ای ارزیابی می‌کند؛ از قالب انتقال داده تا مالکیت عملیاتی. هدف، ایجاد انتزاع‌ها و پروتکل‌هایی است که عامل‌های ساخته‌شده توسط تیم‌ها و سازمان‌های مختلف بتوانند با یکدیگر همکاری کنند.

فصل ۱۰: بررسی مقایسه‌ای چارچوب‌ها

این فصل مفاهیم قبلی را در قالب ابزارهای واقعی بررسی می‌کند و چارچوب‌های عمومی، سازمانی و نوظهور را به‌صورت ساختاریافته با یکدیگر مقایسه می‌کند. در پایان، راهنمای انتخاب چارچوب، اشتباهات رایج و روندهای همگرایی این حوزه ارائه می‌شود.

فصل ۱۱: ارزیابی عملکرد و رفتار سیستم‌های چندعاملی

این فصل ارزیابی را یک فعالیت درجه‌دو یا صرفاً مرحله نهایی انتشار محصول نمی‌داند، بلکه آن را جزئی اساسی از فرایند توسعه معرفی می‌کند. مباحث آن شامل:

• اهداف چندبعدی
• طراحی مجموعه ارزیابی (Eval Suite)
• ارزیابی انسانی
• استفاده از LLM به‌عنوان داور
• اندازه‌گیری بهره‌وری منابع
• سنجش مقاومت و هماهنگی سیستم

است و همه این موارد در قالب یک مدل بلوغ ارائه می‌شوند.

فصل ۱۲: مشاهده‌پذیری در هوش مصنوعی عامل‌محور

این فصل توضیح می‌دهد چگونه عامل‌ها را با OpenTelemetry پایش کنیم، چه چیزهایی باید مشاهده شوند و چگونه این کار را بدون آسیب به حریم خصوصی، امنیت یا الزامات قانونی انجام دهیم. همچنین هزینه مصرف توکن‌ها، عملکرد درگاه مدل‌ها، لایه استنتاج و سیستم‌های بازیابی اطلاعات را ردیابی می‌کند. نتیجه این کار، توانایی بازسازی و طبقه‌بندی خطاها و همچنین ایجاد چرخه بهبود از طریق داشبوردها و هشدارها است.

فصل ۱۳: سیستم‌های چندعاملی خودتکامل‌یاب

این فصل چرخه بهبود را به چرخه تکامل تبدیل می‌کند. موضوع اصلی آن این است که یک سیستم چندعاملی چگونه می‌تواند به‌مرور زمان خود را ارتقا دهد، بدون آنکه کنترل از دست خارج شود. فصل به پرسش‌های زیر می‌پردازد:

• چه بخش‌هایی از سیستم می‌توانند تغییر کنند؟
• این تغییرات در چه بازه زمانی باید اتفاق بیفتند؟
• اعتبار موفقیت یا شکست چگونه میان عامل‌ها توزیع شود؟
• تیم‌های انسان و عامل چگونه با یکدیگر یاد می‌گیرند؟
• چگونه می‌توان یک «قرارداد تکامل» (Evolution Contract) تعریف کرد تا سیستم بتواند خود را بهبود دهد اما دچار انحراف نشود؟

این فصل در کنار ارزیابی و مشاهده‌پذیری، چرخه کامل یادگیری و بهبود مستمر را شکل می‌دهد.

فصل ۱۴: امنیت و حریم خصوصی در سیستم‌های چندعاملی

این فصل امنیت را یک قابلیت جانبی نمی‌داند، بلکه آن را یک محدودیت بنیادی در طراحی سیستم معرفی می‌کند. مباحث اصلی شامل:

• لایه‌های مختلف امنیت در سامانه‌های هوش مصنوعی مولد
• راهکارهای معماری برای کاهش ریسک
• الگوهای حفاظتی در زمان اجرا (Runtime Guardrails)
• تکنیک‌های Red Teaming
• حفظ حریم خصوصی بر اساس مفهوم «یکپارچگی زمینه‌ای» (Contextual Integrity)
• استانداردها و مقررات مرتبط

است. هدف فصل، ساخت سیستم‌هایی است که از ابتدا با درنظرگرفتن امنیت و حریم خصوصی طراحی شوند.

فصل ۱۵: استقرار و مقیاس‌پذیری سیستم‌های چندعاملی

این فصل به واقعیت‌های محیط تولید (Production) می‌پردازد. موضوعات آن عبارت‌اند از:

• میزبانی و اجرای مدل‌های اختصاصی
• مقیاس‌دهی ناوگان عامل‌ها بر اساس حجم درخواست‌ها
• کشف و مدیریت عامل‌ها در سیستم‌های توزیع‌شده
• مهندسی هزینه
• پیاده‌سازی CI/CD
• انتشار نسخه‌های جدید و امکان بازگشت به نسخه قبلی (Rollback)
• تزریق خطا برای آزمایش تاب‌آوری سیستم
• تعریف و حفظ سطح خدمات قابل تعهد

این فصل فاصله میان نمونه‌های آزمایشگاهی و سامانه‌های واقعی را پوشش می‌دهد.

فصل ۱۶: مطالعات موردی از کاربردهای واقعی

این فصل هشت مطالعه موردی را بررسی می‌کند که حوزه‌هایی مانند موارد زیر را پوشش می‌دهند:

• پشتیبانی مشتریان
• مهندسی پلتفرم
• پژوهش علمی
• طراحی سخت‌افزار
• دستیارهای شخصی هوش مصنوعی
• عامل‌های برنامه‌نویسی
• مهندسی نرم‌افزار خودکار
• طراحی سامانه‌های مالی و انطباق مقررات

در هر مورد، مثال‌ها با استفاده از مفاهیم و چارچوب فکری کتاب تحلیل می‌شوند و مشخص می‌شود که کدام نتایج مبتنی بر شواهد واقعی هستند و کدام صرفاً مثال‌های آموزشی‌اند. سه مورد از این مطالعات توسط متخصصانی از Cisco Outshift، Nvidia Research و دانشگاه کمبریج نوشته شده‌اند؛ افرادی که مستقیماً در طراحی یا بهره‌برداری از این سیستم‌ها نقش داشته‌اند.

فصل ۱۷: پژوهش‌های نوظهور و روندهای صنعت

این فصل مرزهای فعلی پژوهش را بررسی می‌کند و آن را به‌عنوان مرز متغیری میان آنچه مدل‌ها می‌آموزند و آنچه سیستم پیرامون آن‌ها باید صریحاً مدیریت کند، توصیف می‌کند.

مباحث اصلی شامل:

• خودتکاملی عامل‌ها
• انجام وظایف بلندمدت
• تفویض اختیار به عامل‌ها
• زیرساخت‌های عامل‌محور
• بازارهای عامل‌ها (Agent Markets)

است. فصل با معرفی یک «دفترچه فرضیات» (Assumption Register) به پایان می‌رسد؛ روشی که هر نسخه جدید از مدل‌ها را به فرصتی برای بازآزمایی فرضیات معماری تبدیل می‌کند.

فصل ۱۸: نتیجه‌گیری و چشم‌انداز آینده

این فصل با آخرین بازبینی معماری دستیار پژوهشی آغاز می‌شود و بررسی می‌کند که این سیستم تا چه اندازه باید اختیار عمل داشته باشد.

سپس مهم‌ترین درس‌های کتاب را جمع‌بندی می‌کند و به‌طور مستقیم به موضوعات زیر می‌پردازد:

• ایمنی
• اخلاق
• تأثیرات اجتماعی

در پایان نیز مسیرهای عملی برای ادامه یادگیری و ساخت سیستم‌های چندعاملی ارائه می‌شود.

کتاب با همان ایده‌ای به پایان می‌رسد که با آن آغاز شده بود:

«قابلیت (Capability) متعلق به مدل است، اما عاملیت (Agency) متعلق به معماری است؛ و مهندسی این معماری، کار اصلی ماست.»

ضمیمه A: کتاب‌شناسی

این ضمیمه تمامی منابع و مراجع مورد استفاده در کتاب را در یک مکان گردآوری می‌کند.

ضمیمه B: جعبه‌ابزار مهندسی چندعاملی

این ضمیمه مجموعه‌ای از ابزارهای کاربردی کتاب را فهرست می‌کند، از جمله:

• قراردادهای قابل استفاده مجدد
• چک‌لیست‌ها
• مسیرهای تصمیم‌گیری
• مدل‌های بلوغ
• فهرست کنترل‌ها و سازوکارهای مدیریتی

همراه با ارجاع به فصل‌هایی که هر یک را معرفی و تشریح کرده‌اند.

ضمیمه C: راهنمای میدانی بنچمارک‌های منتشرشده عامل‌ها

این ضمیمه فهرست بنچمارک‌های معرفی‌شده در فصل یازدهم را گسترش می‌دهد و توضیح می‌دهد که هر بنچمارک دقیقاً چه چیزی را اندازه‌گیری می‌کند.

این بخش به خواننده کمک می‌کند تا هنگام ارزیابی سیستم‌های چندعاملی، معیارهای مناسب را انتخاب کرده و نتایج آن‌ها را به‌درستی تفسیر کند.

سرفصل‌های کتاب Multi-Agent AI Engineering:

• Preface
• Part 1: Foundations
  • Chapter 1: Introduction to Multi-Agent Systems
  • Chapter 2: Principles of Multi-Agent Systems
  • Chapter 3: Frameworks and Mental Models
  • Chapter 4: Constructing Your First Agents
• Part 2: Building Multi-Agent Systems
  • Chapter 5: Agent Communication
  • Chapter 6: Design Patterns for Multi-Agent Collaboration
  • Chapter 7: Context and Memory Management
  • Chapter 8: Orchestrating Agent Teams
  • Chapter 9: Unified Abstractions and Protocols for Agent Collaboration
  • Chapter 10: Comparative Survey of Frameworks
• Part 3: Evaluating, Observing, Evolving, and Securing Multi-Agent Systems
  • Chapter 11: Evaluating the Performance and Behaviors of Multi-Agent Systems
  • Chapter 12: Observability for Agentic AI
  • Chapter 13: Self-Evolving Multi-Agent Systems
  • Chapter 14: Security and Privacy for Multi-Agent Systems
  • Chapter 15: Deploying and Scaling Multi-Agent Systems
• Part 4: Practice and Outlook
  • Chapter 16: Case Studies from Real-World Applications
  • Chapter 17: Emerging Research and Industry Trends
  • Chapter 18: Conclusions and Future Outlook
• Other Books You May Enjoy
• Index

جهت دانلود کتاب Multi-Agent AI Engineering می‌توانید پس از پرداخت، دریافت کنید.