بازگشت به مقالات

منبع: VentureBeat · ۲ مرداد ۱۴۰۵

شکاف حاکمیت: ایجنت‌ها جلوتر از کنترل‌ها دویده‌اند

شکاف حاکمیت: ایجنت‌ها جلوتر از کنترل‌ها دویده‌اند

سازمان‌ها ایجنت‌های هوش مصنوعی را پیش از آن‌که کنترل‌های لازم برای مدیریت‌شان وجود داشته باشد مستقر کردند — و این کار را آگاهانه انجام دادند. این یافتهٔ مرکزی پنج نظرسنجی موازی است که VentureBeat Research در ژوئن ۲۰۲۶ در همهٔ لایه‌های استک ایجنتی اجرا کرد و شامل ۵۷۳ پاسخ‌دهندهٔ واجد شرایط در سازمان‌های بیش از ۱۰۰ کارمند بود.

حالا همان سازمان‌ها در حال ترمیم و هم‌راستا کردن خود با استانداردهای خودشان‌اند و برایش بودجه گذاشته‌اند: در هر پنج لایهٔ کنترلی که اندازه‌گیری شد، ۵۷ تا ۶۸ درصد سازمان‌ها قصد دارند ظرف ۱۲ ماه فروشندهٔ خود را عوض کنند یا فروشندهٔ جدیدی اضافه کنند و بسته به لایه، حدود یک‌سوم‌شان قصد جابه‌جایی در همین سه‌ماهه را دارند.

پژوهش، پنج کنترلی را سنجید که هر سازمانی پیش از اعتماد کردن به یک ایجنت باید بسازد: هویت (کدام ایجنت با اعتبارنامهٔ چه کسی اجازهٔ چه کاری را دارد)، ارزیابی (آیا کار ایجنت کیفیت دارد)، تلمتری هزینه (هر ایجنت چقدر هزینهٔ اجرا دارد)، لایهٔ بافت (داده و تعریف‌های کسب‌وکاری که ایجنت هنگام پاسخ به آن‌ها تکیه می‌کند) و صفحهٔ کنترل ارکستراسیون (که کار چندمرحله‌ای ایجنت‌ها را هماهنگ می‌کند).

بسیاری از «ایجنت‌های» مستقرشده چت‌بات‌هایی هستند که فقط برچسب ایجنت خورده‌اند. ۷۱ درصد سازمان‌ها گفتند یک‌چهارم یا کمتر از ایجنت‌های مستقرشدهٔ آن‌ها می‌توانند کار چندمرحله‌ای را خودشان تمام کنند و فقط ۱۰ درصد گفتند ایجنت‌های واقعی اکثریت چیزی را تشکیل می‌دهند که اجرا می‌کنند. این پاسخ‌دهندگان موقعیت‌شان را می‌شناسند: ۸۱ درصدشان دربارهٔ خریدهای هوش مصنوعی سازمان تصمیم می‌گیرند یا توصیه می‌دهند.

این تمایز مهم است، چون یک چت‌بات تک‌پرامپتی که یک انسان هر پاسخش را می‌خواند به هیچ‌یک از کنترل‌های بالا نیاز ندارد. یک ایجنت واقعی چندمرحله‌ای به همه‌شان نیاز دارد — و بیشتر سازمان‌ها نمی‌توانند بگویند کدام‌یک را مستقر کرده‌اند.

خودمختاری از اعتماد در ارزیابی‌هایی که دروازه‌بان آن است جلو زده: دو سوم سازمان‌ها یا همین حالا اجازه می‌دهند یک ایجنت فقط بر پایهٔ نتایج ارزیابی خودکار، بدون بازبینی انسانی، تغییر کد یا سیستم را به تولید بفرستد، یا فعالانه در حال مهندسی برای این کار در ۱۲ ماه آینده‌اند. در مقابل، فقط ۵ درصد به‌طور کامل به همان ارزیابی‌هایی که چنین تصمیمی می‌گیرند اعتماد دارند.

و نیمی از سازمان‌ها در یک سال گذشته ایجنتی را عرضه کردند که ارزیابی‌های داخلی را قبول شده بود اما بعد یک شکست مشتری‌محور ساخت. توصیهٔ پژوهش روشن است: پیش از حذف بازبینی انسانی از هر جریان کاری، ارزیابی‌ها را در برابر نتایج واقعی تولید بسنجید، نه فقط در برابر معیارهای داخلی.

شرکت‌هایی که اجازه می‌دهند ایجنت‌ها اعتبارنامهٔ مشترک داشته باشند بیشتر هدف حمله قرار می‌گیرند. ۶۹ درصد سازمان‌ها می‌گذارند دست‌کم بعضی ایجنت‌ها اعتبارنامهٔ مشترک داشته باشند؛ یعنی چند ایجنت با یک API key یا یک service account کار کنند. سازمان‌هایی که در هر جایی اجازهٔ اشتراک اعتبارنامه می‌دهند، نرخ حادثه یا نزدیک‌به‌حادثهٔ امنیتی‌شان ۶۳.۵ درصد بود (۴۷ از ۷۴)، در برابر ۴۰.۹ درصد (۹ از ۲۲) در شرکت‌هایی که هر ایجنت هویت محدود و مستقل خودش را دارد. راه‌حل: هویت محدود برای هر ایجنت، با شروع از ایجنت‌هایی که به سیستم‌های تولید دست می‌زنند.

در لایهٔ زیرساخت هم تصویر نگران‌کننده است: بیش از هشت از ده سازمانی که GPU خودشان را دارند، بهره‌وری ۵۰ درصد یا کمتر گزارش کردند و فقط ۴۴ درصد به‌طور دقیق پیگیری می‌کنند که محاسبهٔ هوش مصنوعی‌شان واقعاً چقدر هزینه دارد و چه بازدهی می‌دهد. عددی که ارزش پیگیری دارد اول بهره‌وری و هزینهٔ هر بار کاری روی همان سخت‌افزار موجود است، نه خرید GPU بیشتر.

ایجنت‌ها همچنین با اطمینان از داده‌ای پاسخ می‌دهند که کسی حاکمش نیست: ۵۷ درصد سازمان‌ها در شش ماه گذشته یک پاسخ مطمئن ولی غلط ایجنت را به بافت کسب‌وکاری ناقص یا ناسازگار خودشان نسبت دادند — متریک غلط، تعریف کهنه، سند ناموجود — و بیشترشان بیش از یک بار با آن روبه‌رو شدند.

نکتهٔ مهم بازار این است که هیچ‌کدام از این لایه‌ها بازیگر مسلط ندارد؛ پیش‌فرض امروز ابزارهای داخلی همان پلتفرم‌های بزرگ هوش مصنوعی است که سازمان‌ها از قبل استفاده می‌کنند. بیشترین قصد جابه‌جایی در لایهٔ ارکستراسیون دیده می‌شود: ۶۸ درصد قصد دارند ظرف ۱۲ ماه پلتفرم خود را بپذیرند، اضافه کنند یا عوض کنند و ۳۴ درصد ظرف همین فصل. اینکه این پول به سمت ابزارهای داخلی پلتفرم‌ها می‌رود یا به سمت متخصصان چالشگر، پرسش باز چهار فصل آیندهٔ این بازار است.