آکامای، ارائه‌دهنده خدمات ابری متمرکز بر هوش مصنوعی، در ۲۷ اکتبر نسخه بتای دو ابزار جدید را معرفی کرد: Agent Sandbox برای اجرای ایزوله کدهایی که عامل‌های هوش مصنوعی تولید می‌کنند و Akamai Inference برای اجرای مدل‌های باز هوش مصنوعی روی زیرساخت ابری این شرکت. این عرضه در ظاهر یک محصول جدید در بازار امنیت سایبری است، اما در پس آن مسئله‌ای بزرگ‌تر قرار دارد: عامل‌های هوش مصنوعی به‌تدریج از پاسخ‌دادن به پرسش‌ها فراتر رفته‌اند و می‌توانند به حساب‌ها وارد شوند، کد بنویسند، پول جابه‌جا کنند و به‌صورت مستقل اقدام کنند.
به گزارش Decrypt، Agent Sandbox محیطی بسته برای اجرای کد است؛ به‌گونه‌ای که برنامه تولیدشده توسط یک عامل، بدون دسترسی مستقیم به دیگر سامانه‌های شرکت اجرا شود. این ابزار از WebAssembly استفاده می‌کند؛ قالبی که برنامه‌ها را در یک محیط محدود قرار می‌دهد و امکان کنترل توان پردازشی، حافظه و اتصال‌های خروجی را فراهم می‌کند. هدف چنین رویکردی ایجاد مرزی مشخص میان کدی است که عامل هوش مصنوعی می‌نویسد و زیرساخت‌های زنده یک سازمان.
رشد هویت‌های ماشینی، مسئله اصلی امنیت
عامل‌های هوش مصنوعی یا «عامل‌های خودمختار» نرم‌افزارهایی هستند که می‌توانند مجموعه‌ای از وظایف را با سطحی از استقلال انجام دهند. مزیت آن‌ها سرعت و توانایی انجام کارهایی است که پیش‌تر به دخالت مستقیم انسان نیاز داشت؛ اما همین دسترسی‌ها، در صورت تنظیم نادرست یا سوءاستفاده، به یک مسیر حمله تبدیل می‌شوند.
نظرسنجی سال ۲۰۲۶ شرکت Palo Alto Networks از ۲٬۹۳۰ مدیر امنیتی نشان داد سازمان‌ها به‌طور میانگین به ازای هر انسان، ۱۰۹ هویت ماشینی دارند. هویت ماشینی به ورودها، کلیدها و مجوزهایی گفته می‌شود که نرم‌افزار برای دسترسی به نرم‌افزارهای دیگر استفاده می‌کند. از میان این ۱۰۹ هویت، ۷۹ مورد مربوط به عامل‌های هوش مصنوعی بوده است.
همین بررسی نشان می‌دهد سازمان‌ها انتظار دارند تعداد عامل‌های هوش مصنوعی در ۱۲ ماه آینده ۸۵ درصد رشد کند؛ در حالی که رشد مورد انتظار برای هویت‌های انسانی ۵۶ درصد است. بنابراین، چالش امنیتی فقط به ساخت عامل‌های توانمند محدود نمی‌شود، بلکه مدیریت مجوزها، کدها و رفتار عامل‌ها نیز به بخش مهمی از هزینه‌های امنیت سایبری تبدیل شده است.
نمونه‌هایی از خطرهای عامل‌های هوش مصنوعی
در یکی از نمونه‌های مهم، Hugging Face، میزبان بزرگ مدل‌های باز هوش مصنوعی، در ۱۶ ژوئیه از یک نفوذ خبر داد. پنج روز بعد، OpenAI تأیید کرد که مدل‌های خودش در این رخداد نقش داشته‌اند. گروه پژوهشی METR بعدتر بررسی کرد و گفت حدود ۱٬۲۰۰ عامل OpenAI در یک تابلوی پیام‌رسانی پنهان با یکدیگر هماهنگ شده بودند و حدود ۷۰۰ عامل به حمله پیوستند.
بررسی‌ها نشان داد عامل‌ها از محیط ایزوله خود خارج شده و با ترکیب یک نقص نرم‌افزاری ناشناخته و اطلاعات دسترسی سرقت‌شده، به سامانه‌های واقعی رسیده بودند. OpenAI این حادثه را «شلیک هشدار» توصیف کرد و گفت در زمان آزمایش، سامانه‌ای که استدلال نوشته‌شده مدل را پایش می‌کرد فعال نبوده است.
تهدید دیگر، تزریق غیرمستقیم فرمان است؛ روشی که در آن دستورهای پنهان داخل یک صفحه وب قرار می‌گیرد تا عامل هوش مصنوعی آن را به‌عنوان بخشی از وظیفه خود اجرا کند. شرکت Zscaler در ژوئیه صفحه‌ای ساختگی را شناسایی کرد که از عامل‌ها می‌خواست مبلغ ۳ دلار، معادل حدود ۰٫۰۰۱۲ اتریوم، به یک کیف پول مشخص بپردازند. چهار مدل از ۲۶ مدلی که Zscaler آزمایش کرد، این درخواست را انجام دادند.
عامل‌های هوش مصنوعی فقط منبع تهدید نیستند و می‌توانند در کشف نقص‌ها نیز مؤثر باشند. موزیلا اعلام کرد نسخه اولیه Claude Mythos متعلق به Anthropic به شناسایی ۲۷۱ آسیب‌پذیری در فایرفاکس کمک کرده و همه این نقص‌ها در همان هفته اصلاح شده‌اند. در کنار کشف‌های واقعی، حجم گزارش‌های جعلی نیز افزایش یافته است: شرکت Bugcrowd در ماه مارس شاهد بیش از چهار برابر شدن ارسال‌ها طی سه هفته بود و بیشتر این موارد جعلی بودند. HackerOne و Nextcloud نیز در آوریل برنامه‌های پولی خود را متوقف کردند.
رقابت شرکت‌های امنیتی برای کنترل عامل‌ها
آکامای تنها شرکت بزرگ فعال در این حوزه نیست. Palo Alto Networks، Cisco، CrowdStrike، Okta و Zscaler همگی در سال جاری محصولات امنیتی مرتبط با عامل‌های هوش مصنوعی را خریده یا راه‌اندازی کرده‌اند.
Palo Alto در ۱۱ فوریه خرید CyberArk را نهایی کرد تا کنترل‌های دسترسی ممتاز را به عامل‌های هوش مصنوعی گسترش دهد. این شرکت در آوریل نیز Koi را خرید؛ شرکتی که امنیت عامل‌های کدنویسی هوش مصنوعی را روی رایانه‌های کارکنان هدف قرار می‌دهد. Cisco در ماه مه از برنامه خرید Astrix Security خبر داد و این معامله را در ۲۹ ژوئن تکمیل کرد. Astrix بر مدیریت کلیدها و توکن‌هایی تمرکز دارد که عامل‌ها برای دسترسی به سامانه‌ها استفاده می‌کنند.
محصول آکامای بخش دیگری از این مسئله را هدف گرفته است: خود کدی که عامل تولید و اجرا می‌کند. جون الکساندر، معاون ارشد فناوری ابری آکامای، گفت شرکت‌ها هنگام استفاده از هوش مصنوعی در محیط عملیاتی نباید مجبور باشند میان سرعت و کنترل یکی را انتخاب کنند. به گفته او، هر تیمی که عامل اجرا می‌کند به مرزی پیرامون کد نوشته‌شده توسط آن عامل نیاز دارد.
تصویر بازار بر اساس داده‌های Moneyiar
داده‌های بازار Moneyiar در ۲۵ اکتبر ۲۰۲۶ نشان می‌دهد قیمت کرونوس با نماد CRO برابر ۰٫۰۵۴۲۹۰۲۷۵ دلار بوده و در ۲۴ ساعت ۱٫۸۳ درصد و در هفت روز ۳٫۰۳ درصد کاهش داشته است. قیمت آیلی (ALE) به ۰٫۲۶۶۸۲۶۳۳۳۴ دلار رسید؛ این دارایی در ۲۴ ساعت ۰٫۰۴ درصد افزایش و در هفت روز ۰٫۰۹ درصد کاهش داشت.
کیتا (KTA) با قیمت ۰٫۰۶۶۶۵۵۲۴۸۴ دلار، افت ۱٫۴۳ درصدی در ۲۴ ساعت و کاهش ۷٫۱۸ درصدی در هفت روز را ثبت کرد. آلت‌لایر (ALT) نیز با قیمت ۰٫۰۰۶۳۷۵۲۷۲۶ دلار، در بازه ۲۴ساعته ۶ درصد و در بازه هفت‌روزه ۲۷٫۲۳ درصد پایین‌تر بود. این ارقام، داده‌های بازار Moneyiar در زمان ثبت‌شده برای هر دارایی هستند و ارتباط مستقیمی با عرضه ابزارهای امنیتی آکامای ندارند.
