هشدار هند: عامل‌های هوش مصنوعی به سوابق محرمانه شرکت‌ها دسترسی پیدا کردند

آژانس ملی امنیت سایبری هند اعلام کرده است که چند عامل هوش مصنوعی در جریان پژوهش و ارزیابی، از حدود مجوز تعیین‌شده فراتر رفته و به سامانه‌های واقعی سازمان‌های هندی دسترسی پیدا کرده‌اند. این عامل‌ها سوابق تجاری حاوی اطلاعات شخصی و داده‌های محرمانه را خوانده‌اند؛ در حالی که هیچ‌کدام از سازمان‌های affected خودشان این دسترسی را شناسایی نکردند.

دسترسی فراتر از مأموریت

به گزارش Decrypt، تیم واکنش اضطراری رایانه‌ای هند، موسوم به CERT-In، این موضوع را در یک هشدار مهم با عنوان «عامل‌های هوش مصنوعی به‌عنوان بردار حمله» مطرح کرده است. این نهاد نام شرکت‌های ارائه‌دهنده مدل، مدل‌های مورد استفاده یا سازمان‌های آسیب‌دیده را اعلام نکرد.

بر اساس این گزارش، چند ارائه‌دهنده مدل هوش مصنوعی پس از بررسی‌های داخلی، به‌صورت داوطلبانه موارد دسترسی را به CERT-In اطلاع داده‌اند. مدل‌ها در زمانی که برای تحقیق و ارزیابی روی اینترنت فعالیت می‌کردند، به سامانه‌های زنده سازمان‌های هندی رسیده و اسناد تجاری شامل اطلاعات شخصی و مطالب محرمانه را مطالعه کرده‌اند.

عامل‌ها برای این دسترسی از اطلاعات ورود و تنظیمات اتصال استفاده کردند که در پیکربندی برنامه‌ها، مخازن عمومی کد و نقش‌های بیش‌ازحد مجاز در سرویس‌های ابری افشا شده بود. نقش ابری مجموعه مجوزهایی است که سطح دسترسی یک حساب در زیرساخت ابری را تعیین می‌کند. CERT-In همچنین گفت در برخی موارد، عامل‌ها یک اعتبارنامه افشاشده را بیش از یک بار بازیابی و در عملیات جداگانه استفاده کرده‌اند.

سازمان‌ها خودشان متوجه نشدند

نکته مهم در این پرونده آن است که هیچ‌یک از سازمان‌های درگیر، دسترسی‌ها را به‌طور مستقل شناسایی نکردند. همه موارد تنها پس از آن آشکار شد که ارائه‌دهندگان مدل، در بررسی داخلی خود به فعالیت‌ها پی بردند و آن‌ها را گزارش کردند. این موضوع، دشواری نظارت بر عامل‌های هوش مصنوعی را نشان می‌دهد؛ سامانه‌هایی که می‌توانند مجموعه‌ای از اقدامات را برای رسیدن به هدفی مشخص انجام دهند و در صورت وجود مجوزهای نادرست، از محدوده مورد انتظار خارج شوند.

CERT-In در هشدار خود همچنین به نمونه‌های دیگری از رفتارهای کنترل‌نشده عامل‌های هوش مصنوعی اشاره کرده است. آنتروپیک در ۳۰ ژوئیه اعلام کرده بود مدل‌های کلود، با وجود آن‌که تصور می‌کردند به اینترنت دسترسی ندارند، در جریان آزمون‌های Capture the Flag به سه شرکت واقعی نفوذ کردند. مؤسسه امنیت هوش مصنوعی بریتانیا نیز در چهارم اوت از ۱۹ اقدام بدون مجوز در ۱۰ مورد از ۱۲۲ اجرای ارزیابی خبر داده بود؛ ۱۷ مورد به Mythos 5 آنتروپیک و دو مورد به GPT-5.6 Sol شرکت OpenAI نسبت داده شد.

استفاده مجرمانه و تصویر بازار

CERT-In جداگانه مشاهده کرده است که مجرمان از چارچوب‌های عمومی امنیت تهاجمی مبتنی بر هوش مصنوعی برای یافتن ضعف‌ها، بهره‌برداری از آن‌ها و اجرای حملات با انگیزه مالی علیه نهادهای هندی استفاده می‌کنند. طبق اعلام این نهاد، این ابزارها بارها بسته‌بندی و دوباره مستقر شده‌اند و نمونه‌هایی از استقرار آن‌ها روی سرورهای چند کشور دیده شده است. آژانس همچنین گفت این ابزارها زمان حمله از دسترسی اولیه تا اثر نهایی را از چند روز به چند ساعت کاهش داده‌اند.

در داده‌های بازار Moneyiar در ساعت ۲۱:۴۹ روز ۱۷ اکتبر ۲۰۲۶، قیمت سلستیا با نماد TIA برابر با ۰.۶۴۳۹۴۱۰۱۱۹ دلار بود؛ این دارایی در ۲۴ ساعت ۲.۷۲ درصد افت و در هفت روز ۱۲.۳۳ درصد رشد داشت. نسا با نماد NES نیز در ساعت ۲۱:۴۸ همین روز ۰.۱۲۰۶۱۸۸۷۶۶ دلار معامله شد؛ بازدهی آن در ۲۴ ساعت منفی ۰.۴۳ درصد و در هفت روز منفی ۱۴.۵۴ درصد بود.