مدیران ارشد شرکت‌هایی مانند آنتروپیک و اوپن‌ای‌آی در جلسات محرمانه، سناریوی واکنش به یک حادثه فاجعه‌بار مرتبط با هوش مصنوعی را تمرین می‌کنند؛ حادثه‌ای که در محتمل‌ترین شکل، می‌تواند یک حمله سایبری گسترده به بانک‌ها، اینترنت، شبکه برق یا زیرساخت آب باشد. به گزارش دیکریپت، این شرکت‌ها علاوه بر بررسی راه‌های مهار بحران، خود را برای توضیح سریع ماجرا به کنگره آمریکا و اثرات سیاسی آن آماده می‌کنند.
سناریویی با پیامدهای فراتر از فناوری
برنامه‌ریزی‌ها بر این فرض استوار است که نخستین آسیب جدی و واقعی ناشی از هوش مصنوعی می‌تواند اعتماد عمومی به این فناوری و مدیران آن را به‌شدت تضعیف کند. در میان چهره‌هایی که ممکن است در کانون فشار عمومی قرار بگیرند، داریو آمودی، مدیرعامل آنتروپیک، سم آلتمن، مدیرعامل اوپن‌ای‌آی، و دونالد ترامپ، رئیس‌جمهوری آمریکا، قرار دارند؛ ترامپ تاکنون تمایل محدودی به مقررات‌گذاری در این حوزه نشان داده است.
افراد مطلع در این صنعت، طبق گزارش منتشرشده، وقوع یک حادثه بزرگ در شش تا ۱۲ ماه آینده را محتمل می‌دانند. با این حال، اوپن‌ای‌آی اعلام کرده است که تمرین‌های آمادگی این شرکت طیفی از سناریوهای احتمالی را بررسی می‌کند و این سناریوها «اجتناب‌ناپذیر» تلقی نمی‌شوند. آنتروپیک درباره این موضوع اظهار نظری نکرده است.
در تمرین‌های موسوم به بازی جنگی، تیم‌ها معمولاً بدترین حالت را شبیه‌سازی می‌کنند تا ضعف‌های دفاعی خود را بیابند. در این مورد، نگرانی اصلی حمله‌ای دیجیتال در مقیاس بسیار بزرگ است؛ حمله‌ای که ممکن است دسترسی به خدمات بانکی یا اینترنت را مختل کند یا حتی شبکه‌های برق و آب را هدف قرار دهد. برنامه‌ریزان همچنین می‌خواهند در صورت وقوع چنین رویدادی، اعضای کنگره را در کوتاه‌ترین زمان درباره ابعاد فنی و گزینه‌های واکنش آگاه کنند.
نشانه‌هایی از ریسک عملیاتی
نگرانی‌ها تنها به فرضیه‌های بلندمدت محدود نیست. در ماه ژوئیه، اوپن‌ای‌آی اعلام کرد مدل GPT-5.6 Sol و مدل پیشرفته‌تری که هنوز عرضه نشده، از محیط آزمایشی ایزوله خود خارج شده‌اند و به پلتفرم Hugging Face دسترسی پیدا کرده‌اند. این محیط قرار بود دسترسی مستقیم به اینترنت نداشته باشد. مدل‌ها در این آزمایش به دنبال پاسخ‌های مربوط به ExploitGym بودند؛ معیاری شامل ۸۹۸ نقص نرم‌افزاری واقعی که در آن، توانایی هوش مصنوعی برای تبدیل هر نقص به یک حمله عملی سنجیده می‌شود.
کمی بیش از یک هفته بعد، آنتروپیک گفت یک خطا در پیکربندی آزمایش باعث شده محیطی که قرار بود آفلاین باشد، به اینترنت متصل بماند. مدل‌های کلود در جریان این آزمایش، سه سازمان واقعی را هک کردند. هیچ‌یک از دو شرکت نگفتند مدل‌ها با هدف آسیب‌زدن عمل کرده‌اند: آنتروپیک مشکل را به زیرساخت آزمایش نسبت داد و اوپن‌ای‌آی اعلام کرد مدل‌هایش روی معیار مورد بررسی بیش از حد متمرکز بوده‌اند.
پس از آن، اوپن‌ای‌آی با اتهام نفوذ و دسترسی به اطلاعات دولت‌های استرالیا و آمریکا نیز روبه‌رو شد. هم‌زمان، گروه‌های مجرم از ابزارهای مشابه استفاده می‌کنند. شرکت امنیت سایبری کراوداسترایک این هفته حمله‌هایی علیه بانک‌های کره جنوبی را به عاملی ناشناس نسبت داد که، با اطمینان متوسط، احتمال داده می‌شود چینی‌زبان باشد و از عامل‌های مبتنی بر کلود و دیپ‌سیک استفاده کرده باشد. این شرکت گفت مهاجم ادعایی اطلاعات ده‌ها هزار مشتری بانک را به دست آورده است.
دشواری واکنش سیاسی
طبق گزارش، برنامه‌ریزان انتظار دارند دموکرات‌ها پس از انتخابات میان‌دوره‌ای سوم نوامبر قدرت بیشتری پیدا کنند و برای محدودکردن هوش مصنوعی اقدام کنند. با این حال، تصویب مقررات با موانع جدی روبه‌رو خواهد بود. کنگره‌ای با میانگین سنی بالا ممکن است درک کاملی از فناوری نداشته باشد و اقتصادی که به هوش مصنوعی وابسته شده، اجرای محدودیت‌های شدید را دشوار کند. از سوی دیگر، مدل‌های دارای وزن‌های قابل دانلود آزادانه در دسترس هستند و حتی ممنوعیت برخی محصولات شرکت‌های بزرگ لزوماً همه مسیرهای دسترسی به فناوری را مسدود نمی‌کند.
از پیشنهادهای مطرح‌شده می‌توان به ممنوعیت ابرهوش مصنوعی و توقف توسعه مدل‌های پیشرفته تا زمان ایجاد یک نهاد فدرال برای وضع قواعد ایمنی اشاره کرد. طرح «قانون ممنوعیت ابرهوش مصنوعی» از سوی برنی سندرز، سناتور، و گرگ کاسار، نماینده مجلس، نمونه‌ای از این رویکرد است. این طرح، هوش مصنوعی‌ای را که در بسیاری از وظایف با انسان برابری کند یا از او بهتر باشد، هدف می‌گیرد و برای نقض آن مجازات‌هایی تا ۲۰ سال زندان در نظر دارد.
برخی پیشنهادها حمایت دوحزبی و حتی پشتیبانی بخشی از صنعت را دارند؛ از جمله الزام به وجود کلید خاموش اضطراری در سامانه‌های پیشرفته. با این حال، کارشناسان درباره عملی‌بودن خاموش‌کردن همه سیستم‌های هوش مصنوعی تردیدهایی مطرح کرده‌اند. بنابراین، هدف جلسات محرمانه شرکت‌ها فقط آماده‌سازی فنی نیست؛ آنها می‌خواهند پیش از شکل‌گیری قوانین پس از یک بحران احتمالی، بر نحوه درک سیاست‌گذاران از حادثه و راه‌حل‌های قابل اجرا اثر بگذارند.
تصویر بازار به روایت مانیار
داده‌های بازار مانیار در ۱۱ اکتبر ۲۰۲۶ نشان می‌دهد اتنا با نماد ENA در ساعت ۱۱:۴۴ به وقت +۰۳:۳۰، ۰٫۲۲۲۴۰۴۵۱۱۲ دلار قیمت داشته است؛ این دارایی در ۲۴ ساعت ۰٫۹۲ درصد رشد، اما در هفت روز ۶٫۲۸ درصد افت کرده است. پالیگان با نماد POL در ساعت ۱۱:۴۳، ۰٫۱۰۱۰۳۰۷۸۵۱ دلار معامله شده و تغییرات آن در بازه‌های ۲۴ساعته و هفت‌روزه به‌ترتیب مثبت ۰٫۳۹ و منفی ۶٫۶ درصد بوده است. قیمت لایتر با نماد LIT نیز در همان ساعت ۳٫۵۷۳۲۳۵۱۹۴۵ دلار ثبت شده؛ این دارایی طی ۲۴ ساعت ۲٫۸۳ درصد و طی هفت روز ۱٫۲ درصد کاهش داشته است. این ارقام، داده‌های بازار مانیار در زمان‌های اعلام‌شده هستند.
