ماهیت و تفاوت با دیگر گونه‌های AI
صحبت از Agentic AI را پیش از همه چیز باید از ماهیت این هوش مصنوعی و تفاوت‌های آن با هوش مصنوعی مولد یا Generative AI آغاز کرد؛ هوش مصنوعی عاملی گونه‌ای از AI است که برای یادگیری، عملکرد مستقل و انجام امور بدون نیاز انسان‌ها طراحی شده و با توانایی پلنینگ، برنامه‌ریزی و استدلال و حل مشکلات چند مرحله‌ای از گونه‌های سنتی و کلاسیک هوش مصنوعی متمایز می‌شود. هوش مصنوعی عاملی بدین‌ترتیب در مقایسه با هوش مصنوعی مولد که بیش‌تر برای ساخت تصاویر و متن بر پایه درخواست یا پرامپت به‌‌کار گرفته می‌شود ابزاری جهت انجام وظایف و تسک‌ها مثل برنامه‌ریزی کامل یک سفر یا مدیریت یک زنجیره تأمین است. بدین‌ترتیب با توجه به قابلیت‌های هوش مصنوعی عاملی از آن با عنوان موج سوم AI یاد می‌شود که احتمالاً نحوه کارکرد و استفاده از پدیده AI در سال‌های آینده را متحول خواهد ساخت.
با توجه به موارد گفته شده ویژگی‌های کلیدی هوش مصنوعی عاملی را به‌صورت خلاصه در چهار فاکتور زیر می‌توان خلاصه کرد:
استقلال و خودمختاری (Autonomy): امکان تصمیم‌گیری و اجرای مستقل امور بدون نیاز به راهنمایی انسان
استدلال و برنامه‌ریزی (Reasoning and Planing): استفاده از استدلال‌های سطح بالا برای توسعه استراتژی های کارآمد جهت حل مشکلات پیچیده چند مرحله‌ای
آموختن و انطباق (Learning and Adaptation): بهبود در طی زمان با آموختن از تجارب و بازخوردها
تعامل با دنیای واقعی (Real-Wold Interaction): دریافت داده‌ها از منابع مختلفی مثل حسگرها و بانک‌های اطلاعاتی و تلفیق آن‌ها با ابزارهای خارجی از طریق APIها
کارکرد و نمودهای عملی در دنیای واقعی
بدین‌ترتیب دستیارهای هوش مصنوعی محبوبی همچون Gemini، گراک و Copilot که علاوه بر پاسخ به سوالات ساده امکان انجام موارد پیچیده‌تری مثل تنظیم یک جلسه کاری با توجه به رویدادهای تقویم، ارسال دعوت‌نامه و حتی پیشنهاد بهترین زمان جلسه برحسب عادات کاربران را دارند به‌نوعی در این حوزه جای می‌گیرند. به‌عنوان نمونه‌ای دیگر این گونه از هوش مصنوعی با مشاهده یک متن یا یک ایمیل از قصد شما برای مسافرت آگاه شده و سپس با گشودن یک اپلیکیشن مخصوص سفر، برنامه پروازها را با توجه به ترجیحات و علاقه‌مندی‌های شما جست‌وجو می‌کند و نتایج به‌دست آمده را در اختیار شما می‌گذارد.
بهداشت و درمان یکی از حوزه‌های مهم فعالیت هوش مصنوعی به‌حساب می‌آید که نقش هوش مصنوعی عاملی در آن کاملاً پر رنگ است. میزان اطلاعات تولید شده در سطح جهانی تا سال 2025 به نزدیک به 180 زتابایت (معادل 180 میلیارد گیگابایت است) می‌رسد که بخش بهداشت و درمان نزدیک به یک سوم این اطلاعات را به‌خود اختصاص می‌دهد و جالب این‌که به‌دلیل سیستم‌های ناکارامد تحلیل اطلاعات تنها 3 درصد از این داده‌ها به‌صورت موثر مورد استفاده قرار می‌گیرند. در نتیجه پزشکان و کارکنان کادر درمان همواره از شیوه‌های سنتی و دستی جمع‌آوری اطلاعات برای آگاهی از وضعیت بیماران استفاده می‌کنند و این چالش همواره رو به گسترش است. به‌گفته موسسه ملی سلامت آمریکا (NIH) داده‌های پزشکی به‌خصوص در حوزه‌های سرطان، قلب و عروق و نورولوژی هر 73 روز یک باره به دو برابر میزان قبلی افزایش پیدا کرده و لزوم تحلیل این حجم عظیم از اطلاعات بیش از پیش افزایش پیدا کرده است.
سیستم‌های عاملی یا Agentic systems که از مدل‌های زبان بزرگی (LLMها) و مدل‌های عملکردی چند وجهی (FMها) قدرت می‌گیرند نامزد اصلی تحلیل این حجم عظیم اطلاعات و تحول در ساختار بهداشت و سلامت عمومی به حساب می‌آیند. این سیستم‌ها با دریافت اطلاعاتی مثل یادداشت‌های کلینیکی، سابقه بیماران، نتایج آزمایشگاهی، گایدلاین‌ها و دستورالعمل‌های پزشکی، آزمایشات بالینی و حتی تصویربرداری‌های تشیخصی، راه‌کارهای عملی و مشخصی را ارائه کرده و از این طریق توان و نیروی کادر درمان بر مراقبت از بیماران و بهبود شرایط آن‌ها متمرکز می‌شود.
وضعیت فعلی و دورنمای آینده
در حال حاضر استفاده و به‌کارگیری Agentic AI در صنایع مختلف و در شرکت‌های نام‌آشنا و تعیین‌‌کننده رو به گسترش است؛ بر پایه یک تحقیق صورت گرفته در سال 2024 از طرف شرکت مشاوره‌ای McKinsey & Company نزدیک به 75 درصد از شرکت‌ها و ارگان‌ها از هوش مصنوعی مولد (به‌عنوان پایه‌ای برای Agentic AI) استفاده می‌کنند اما تنها حدود 1 درصد از این شرکت‌ها، هوش مصنوعی خود را بالغ و پخته ارزیابی کرده‌اند که این به‌معنا نوپا و نوظهور بودن Agentic AI تعبیر می‌شود. Deloitte در تحقیقی دیگر پیش‌بینی کرده که 25 درصد از شرکت‌هایی که در حال حاضر از هوش مصنوعی مولد استفاده می‌کنند نسخه اولیه Agentic AI خود را در سال 2025 رونمایی خواهند کرد که این میزان در سال 2027 به 50 درصد افزایش پیدا می‌کند.
در این میان شرکت‌هایی مثل Salesforce، انویدیا و گوگل با توسعه پلتفرم‌های جدیدی در جهت تسهیل به‌کارگیری Agentic AI حرکت می‌کنند و زمینه برای ظهور سیستم‌های چند عاملی یا Multi-agent systems که در آن عامل‌های هوش مصنوعی با گونه‌های دیگری از خود (یا با انسان‌ها) همکاری می‌کنند فراهم شده است.
چالش‌ها و ملاحظات اخلاقی
با وجود تمامی نکات مثبت اشاره شده Agentic AI نیز مثل اکثر دیگر فناوری‌های نوظهور با چالش‌ها و ملاحظات اخلاقی متعددی روبروست که برخی از آن‌ها همچون سوگیری (Bias) از جمله مشکلات مشترک در بین تمامی گونه‌های هوش مصنوعی است. مطابق این چالش بسته به محتوای آموزشی ارائه شده برای مدل ممکن است تصمیم‌گیری‌‌های آن به یک سمت تمایل بیش‌تری داشته یا برخی از محدودیت‌ها را نادیده بگیرند. در بهار 2024 برخی از محققان برجسته در حوزه هوش مصنوعی از جمله Yoshua Bengio و Stuart Russell مقاله‌ای را تحت عنوان Regulating advanced artificial agents در ژورنال ساینس منتشر کردند که به بحث در مورد نوعی از هوش مصنوعی عاملی موسوم به «عوامل برنامه‌ریزی طولانی‌مدت» یا LTPA می‌پرداخت. LTPAها گونه‌ای از سیستم Agentic هستند که برای دستیابی به اهداف در دوره‌های طولانی‌مدت طراحی شده‌‌اند. نتایج این مقاله حاکی از آن است که LTPAها به‌دلیل دشواری هم‌سو کردن اهداف خود با ارزش‌های انسانی و در نتیجه کنترل رفتار خود به خطرات اساسی و مهمی دامن می‌زنند. در این حالت هوش مصنوعی اهداف خود را به‌گونه‌ای بهینه‌سازی می کند که محدودیت‌های اخلاقی مثل آسیب رساندن به محیط زیست را نادیده بگیرد.
مسئولیت‌پذیری، دیگر چالش قابل ذکر در این میان است چرا که به‌دلیل ماهیت تو در تو و اصطلاحاً black box این پدیده امکان دنبال کردن و رهگیری تصمیمات برای یافتن مقصر اصلی وجود ندارد. ریسک‌های امنیتی و حریم خصوصی نظیر رخنه کردن اطلاعات و دسترسی‌های غیر مجاز، از بین بردن مشاغل انسانی و ایمنی و اطمینان‌پذیری (به‌خصوص در حوزه‌های حساسی نظیر سلامت، حمل و نقل و…) سایر چالش‌ها و خطرات به‌کارگیری Agentic AI را تشکیل می‌دهند.
مسیر آینده
مسیر آینده هوش مصنوعی عاملی با پیش‌بینی افزایش میزان استقلال و توانایی‌های استنتاج این پدیده کاملاً امیدوارکننده به‌نظر می‌رسد؛ این سیستم‌های هوشمند احتمالاً به‌زودی قادر به حل پیچیده‌ترین مسائل بدون نیاز به کمک انسان خواهند بود و سیستم‌های چند عاملی در همکاری با یکدیگر مسیر آسان‌تر و سریع‌تری را برای پاسخ به نیاز انسان‌ها ابداع خواهند کرد. در این میان با وجود ادامه بحث‌ها پیرامون از بین رفتن مشاغل تکراری، احتمالاً با محیط‌های کار ترکیبی جدیدی روبرو خواهیم شد که انسان‌ها را در جایگاه‌های شغلی جدیدی نظیر آموزش‌دهنده هوش مصنوعی (AI agent trainer)، سازمان‌دهنده روند کار (workflow orchestrators) و مامور نظارت بر انطباق اخلاقی بر تصمیمات هوش مصنوعی قرار خواهد داد.
source